当前位置: 首页 > news >正文

【2023春李宏毅机器学习】生成式学习的两种策略

文章目录

  • 1 各个击破
  • 2 一步到位
  • 3 两种策略的对比

生成式学习的两种策略:各个击破、一步到位
对于文本生成:把每一个生成的元素称为token,中文当中token指的是字,英文中的token指的是word piece。比如对于unbreakable,他的word piece指的是:un break able三个元素
对于图片生成:每一步会生成像素

1 各个击破

各个击破策略对应的模型是: Autoregressive (AR) model
对于文本生成来说,一个字一个字的生成,每一步都会计算一次概率密度分布
对于图像生成来说,一个像素一个像素的生成

2 一步到位

一步到位策略对应的模型是:Non-autoregressive (NAR) model
对于文本生成来说,一次性计算好所有token的概率密度分布。

3 两种策略的对比

速度:一次到位更快
品质:各个击破策略的生成品质更好
应用:各个击破常用于文字,一次到位常用于影像
两种策略也可以结合使用

在这里插入图片描述

相关文章:

  • 计算机毕业设计选题推荐-高校后勤报修微信小程序/安卓APP-项目实战
  • 小美的排列构造
  • Java Web 实战 19 - What‘s HTTP ?
  • 75基于matlab的模拟退火算法优化TSP(SA-TSP),最优路径动态寻优,输出最优路径值、路径曲线、迭代曲线。
  • 重磅 | 进一步夯实生态建设,朗思科技与阿里龙蜥完成兼容性认证
  • MongoDB之索引和聚合
  • 在IDEA中的DeBug调试技巧
  • 酷柚易汛ERP - 盘点操作指南
  • 【数据结构】图的深度优先遍历
  • 参考文献格式
  • 【技术追踪】SAM(Segment Anything Model)代码解析与结构绘制之Mask Decoder
  • 蓝桥杯 map
  • 【数据库】数据库连接池导致系统吞吐量上不去-复盘
  • 麒麟 ZYJ 服务器软件适配 参考示例
  • openGauss学习笔记-124 openGauss 数据库管理-设置账本数据库-查看账本历史操作记录
  • 深入了解以太坊
  • C++类的相互关联
  • CSS相对定位
  • Eureka 2.0 开源流产,真的对你影响很大吗?
  • JavaScript设计模式系列一:工厂模式
  • mysql外键的使用
  • UEditor初始化失败(实例已存在,但视图未渲染出来,单页化)
  • 对话:中国为什么有前途/ 写给中国的经济学
  • 发布国内首个无服务器容器服务,运维效率从未如此高效
  • 关于使用markdown的方法(引自CSDN教程)
  • 回顾2016
  • 一些css基础学习笔记
  • media数据库操作,可以进行增删改查,实现回收站,隐私照片功能 SharedPreferences存储地址:
  • ​Distil-Whisper:比Whisper快6倍,体积小50%的语音识别模型
  • ​LeetCode解法汇总2304. 网格中的最小路径代价
  • ###51单片机学习(2)-----如何通过C语言运用延时函数设计LED流水灯
  • ###STL(标准模板库)
  • #我与Java虚拟机的故事#连载17:我的Java技术水平有了一个本质的提升
  • $.ajax,axios,fetch三种ajax请求的区别
  • (DenseNet)Densely Connected Convolutional Networks--Gao Huang
  • (编程语言界的丐帮 C#).NET MD5 HASH 哈希 加密 与JAVA 互通
  • (二)什么是Vite——Vite 和 Webpack 区别(冷启动)
  • (免费领源码)python+django+mysql线上兼职平台系统83320-计算机毕业设计项目选题推荐
  • ./mysql.server: 没有那个文件或目录_Linux下安装MySQL出现“ls: /var/lib/mysql/*.pid: 没有那个文件或目录”...
  • .gitignore文件设置了忽略但不生效
  • .Net Core 中间件验签
  • .Net Core与存储过程(一)
  • .Net Memory Profiler的使用举例
  • .NET 将混合了多个不同平台(Windows Mac Linux)的文件 目录的路径格式化成同一个平台下的路径
  • .net/c# memcached 获取所有缓存键(keys)
  • .NET国产化改造探索(一)、VMware安装银河麒麟
  • .net使用excel的cells对象没有value方法——学习.net的Excel工作表问题
  • .net之微信企业号开发(一) 所使用的环境与工具以及准备工作
  • .sys文件乱码_python vscode输出乱码
  • @ComponentScan比较
  • [ IOS ] iOS-控制器View的创建和生命周期
  • [ Linux Audio 篇 ] 音频开发入门基础知识
  • [【JSON2WEB】 13 基于REST2SQL 和 Amis 的 SQL 查询分析器
  • [Angular] 笔记 18:Angular Router
  • [BT]BUUCTF刷题第8天(3.26)