爱采购

发产品

  • 发布供应
  • 管理供应
  • 匿名
点击 201回答 1 2023-07-27 15:10

gpt2参数?

已解决 悬赏分:80 - 解决时间 2023-07-28 02:36
反对 0举报 0 收藏 0 评论 0
最佳答案
  • 匿名
支持 0 反对 0 举报 2023-07-27 16:47

关于这个问题,GPT-2是一种基于Transformer模型的语言模型,具有1.5亿、3.5亿、8亿和15亿个参数的四种不同大小的版本。其中,8亿和15亿版本只开放了API使用权限,因为它们在生成文本方面具有非常强大的能力,可能会被滥用。以下是各个版本的参数数量:

1.5亿参数版本:

- Transformer层数:12

- 每层隐藏单元数:768

3.5亿参数版本:

- Transformer层数:24

- 每层隐藏单元数:1024

8亿参数版本:

- Transformer层数:32

- 每层隐藏单元数:1280

15亿参数版本:

- Transformer层数:40

- 每层隐藏单元数:1600

更多问题及资料,可以加入星球讨论
每日获取更多最新行业干货与资料


入驻

企业入驻成功 可尊享多重特权

入驻热线:158-7146-9462

请手机扫码访问

小程序

小程序更便捷的查找产品

为您提供专业帮买咨询服务

请用微信扫码

公众号

微信公众号,收获商机

微信扫码关注

顶部