元象开源百亿参数通用大模子 XVERSE
作者:休闲 来源:娱乐 浏览: 【大 中 小】 发布时间:2024-10-25 18:24:24 评论数:
8月7日
,元象元象XVERSE公司宣告开源其百亿参数的开源高功能通用大模子XVERSE-13B。
XVERSE-13基于尺度Transformer妄想,百亿在1.4万亿高品质、参数多样化tokens的通用磨炼数据上,从零磨炼(train from scatch)了130亿参数大模子,大模反对于40多种语言,元象高下文窗口巨细为8192 。开源具备文本天生
、百亿自动化写作、参数数据合成 、通用知识问答