数据文章来源:https://www.toymoban.com/news/detail-638771.html
数据集文章来源地址https://www.toymoban.com/news/detail-638771.html
新的em编码参数表
voc_size | hidden_size | total | total B | max_len | seconds | days |
---|---|---|---|---|---|---|
65536 | 512 | 37486592 | 0.03749B | 1024 | 256 | 0.2 |
65536 | 1024 | 82837504 | 0.08284B | 2048 | 512 | 0.5 |
65536 |
到了这里,关于手搓 自然语言模型 LLM 拆分em结构设计 网络参数对比的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!