腾讯推出Hunyuan-Large开源大模型

36氪获悉,11月5日,腾讯宣布推出业界参数规模最大、效果最好的开源MoE大语言模型Hunyuan-Large。该模型的总参数量为389B,激活参数为52B,训练token数量为7T,最大上下文长度为256K。

© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容