当前位置： 首页 > news >正文

大型语言模型LLM的核心概念

news 来源：原创 2024/9/20 10:43:47

本文主要介绍了目前主流的，几个大型语言模型LLM的整个训练过程

通常分为下面的几个阶段

1. 预训练

采用互联网上的大量数据进行训练，这一阶段大模型LLM的主体已定，找出共性并且压缩成一个模型。模型的参数量不是越大越好，遵循合理、适中的原则。增加数据量并保持中到大型的参数规模，则是一个成本与模型效果的平衡之后的合理方案

2. 微调

大型语言模型中，绝大部分的知识都是在预训练中学习的。
这阶段需要喂给精确的、高质量的问答数据给大模型，可以使用相对较少的数据，来继续训练模型，以适应特定问题和场景
对于每个问题，大模型都会给 3 个回答，需要人类手动选择一个最优的回答，给大模型一个反馈，来帮助大模型进一步优化和提升。

3. 模型对齐

使用预期回答模板，套入大模型生成的回答，实现模型和预测的对齐。这有助于符合正当的合法的目的，同时遵守人类最基本的情感、道德、底线、公序良俗以及符合当地的风俗习惯等等

相关文章：

  • 北京网站建设多少钱？
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 【数据结构】线性表与顺序表
  • Ubuntu22.04使用NVM安装多版本Node.js和版本切换
  • RedisTemplate、StringRedisTemplate、序列化器配置
  • Django REST Framework(十四)路由Routes
  • 二十四、【机器学习】【非监督学习】- 高斯混合模型 (Gaussian Mixture Models, GMM)
  • 深入理解 Redis 的使用与监控
  • 移动UI：排行榜单页面如何设计，从这五点入手，附示例。
  • 【DP】01背包
  • Linux嵌入书学习—数据结构——栈（seqstak）
  • 鸿蒙（HarmonyOS）下拉选择控件
  • CSS实现表格无限轮播
  • Kafka基础概念
  • @NotNull、@NotEmpty 和 @NotBlank 区别
  • 【leetcode 详解】生成特殊数字的最少操作【中等】(C++思路精析)
  • C#中实现Web API的签名验证
  • 《Javascript数据结构和算法》笔记-「字典和散列表」
  • 《剑指offer》分解让复杂问题更简单
  • Brief introduction of how to 'Call, Apply and Bind'
  • Hibernate最全面试题
  • javascript面向对象之创建对象
  • JAVA多线程机制解析-volatilesynchronized
  • Java反射-动态类加载和重新加载
  • mysql 5.6 原生Online DDL解析
  • PHP的Ev教程三(Periodic watcher)
  • python 学习笔记 - Queue Pipes，进程间通讯
  • ReactNative开发常用的三方模块
  • vue中实现单选
  • 使用Gradle第一次构建Java程序
  • 数据科学 第 3 章 11 字符串处理
  • MiKTeX could not find the script engine ‘perl.exe‘ which is required to execute ‘latexmk‘.
  • gunicorn工作原理
  • JavaScript 新语法详解：Class 的私有属性与私有方法 ...
  • PostgreSQL 快速给指定表每个字段创建索引 - 1
  • # wps必须要登录激活才能使用吗？
  • ### Cause: com.mysql.jdbc.exceptions.jdbc4.MySQLTr
  • #微信小程序：微信小程序常见的配置传旨
  • $con= MySQL有关填空题_2015年计算机二级考试《MySQL》提高练习题(10)
  • （1）SpringCloud 整合Python
  • （6）设计一个TimeMap
  • (pojstep1.3.1)1017(构造法模拟)
  • (ZT)薛涌：谈贫说富
  • (附源码)springboot课程在线考试系统 毕业设计 655127
  • （附源码）ssm高校实验室 毕业设计 800008
  • （十五）Flask覆写wsgi_app函数实现自定义中间件
  • (收藏）Git和Repo扫盲——如何取得Android源代码
  • （未解决）macOS matplotlib 中文是方框
  • （五）c52学习之旅-静态数码管
  • .net framework profiles /.net framework 配置
  • .net mvc 获取url中controller和action
  • .NET MVC第五章、模型绑定获取表单数据
  • .skip() 和 .only() 的使用
  • ?php echo $logosrc[0];?,如何在一行中显示logo和标题？
  • [ solr入门 ] - 利用solrJ进行检索
  • [ 攻防演练演示篇 ] 利用通达OA 文件上传漏洞上传webshell获取主机权限
  • [8-23]知识梳理：文件系统、Bash基础特性、目录管理、文件管理、文本查看编辑处理...