开源链接如下：https://github.com/datawhalechina/so-large-lm/blob/main/docs/content/ch01.md
语言模型的概念：即能够赋予每个有意义的词（token）以一定的概率的一个函数的集合。
语言模型可以被用来评估输入的质量，也可以根据prompt生成对应的内容（作画、描述、回答等）
温度，可以控制模型生成中的变异量。
长短期记忆模型通过门控结构，在一定程度上缓解了模型对长序列的信息的处理能力。
Transformer则是大模型的前身。
二者具有里程碑意义。
大语言模型具有参数量以及训练的数据集大的特点，当然数据集大也意味着消耗的算力资源很大，当然国外企业也能以GPU的显卡资源抑制我国AI行业的发展，比如某美丽国和三大显卡公司对其政策的执行。
ok，今天的总结到此结束。文章来源：https://www.toymoban.com/news/detail-792307.html
欢迎关注无神一起学习AI前沿领域，觉得有用请给个一键三连哦！文章来源地址https://www.toymoban.com/news/detail-792307.html
到了这里，关于Datawhale 大模型基础理论 Day1 引言的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
