以 2 兆参数训练 AI,亚马逊传开发「Olympus」新模型

《路透社》引述 2 名知情人士的消息指出,亚马逊投资数百万美元特别训练一个大型语言模型(Large Language Models,LLM),希望能够媲美 OpenAI 和 Google 的旗舰模型。

知情人士透露,亚马逊以多达 2 兆参数训练新模型,可望成为目前最大的自然语言模型,另一外媒 The Information 8 日报导更点出新模型代号「Olympus」。

OpenAI 的 GPT-4 模型是现有的最佳模型之一,据报导拥有 1 兆参数,亚马逊则拒绝对「Olympus」一事发表任何评论。

「Olympus」开发团队由 Alexa 前负责人 Rohit Prasad 带领,他现在直接向执行长 Andy Jassy 汇报进展。他身为亚马逊 AGI 首席科学家,带领致力於 Alexa AI 的研究人员以及亚马逊科学团队研究和训练模型,将整家公司的 AI 工作和专用资源整合在一起。

亚马逊现有大型语言模型的基础模型,统称为 Amazon Titan,该公司还与 Anthropic、AI21 Labs 等 AI 新创公司合作,向 AWS 用户提供模型和运算资源。

知情人士表示,企业客户希望在 AWS 上获得最佳性能的模型,亚马逊认为拥有自主开发的模型可使产品在 AWS 上更具吸引力,知情人士也透露目前还没有「Olympus」模型的具体发布时程。

(首图来源:Flickr/Tony Webster CC BY 2.0)

proton加速器好用吗

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
最旧
最新 最多投票
内联反馈
查看所有评论