当前位置:首页 > 站长资讯 > 正文内容

Meta内部备忘录:全新Avocado成公司迄今“最强能力”大模型

  作者:乔蒂・曼(Jyoti Mann)

Meta内部备忘录:全新Avocado成公司迄今“最强能力”大模型

  据《信息》杂志获取的一份内部备忘录显示,元宇宙平台公司(meta Platforms)对其新成立 AI 团队即将推出的首款核心大模型,态度愈发乐观。

  这份日期为1 月 20 日的备忘录由 Meta 超级智能实验室(Meta Superintelligence Labs)产品经理梅根・傅(Megan Fu)发布,其中明确指出,下一代大语言模型Avocado(牛油果)已完成预训练,是 “Meta 迄今能力最强的预训练基础模型”。预训练是 AI 模型开发的初始阶段,模型需接触海量数据,学习通用知识、模式与关联关系。

  备忘录称,Avocado 的性能已超越当前更优的开源基础模型。(基础模型指仅完成预训练、尚未通过 “后训练” 阶段优化的大语言模型;后训练阶段会通过人类反馈强化学习等技术,针对特定任务对模型进行精调。)尽管 Avocado 尚未完成后训练,但其在知识储备、视觉感知及多语言能力上,已与顶尖的后训练模型持平。

  在 Avocado 正式公开发布前,Meta 内部对其 AI 模型进展的乐观评估,能否经受住外界检验,目前尚无定论。但考虑到 Meta 过去一年在 AI 领域的坎坷经历,即便在内部过度宣传这一进展,对公司而言也存在风险。

  2025 年,Meta 旗下上一代大语言模型Llama 4的表现未达预期,迫使公司推迟其发布时间。最终 Meta 推出 Llama 4 的两个版本 ——Maverick(游侠)与Scout(侦察兵),但部分开发者对其实际表现感到失望。

  这些挫折直接推动了 Meta 整体 AI 业务的大规模重组。重组包括:去年 6 月 Meta 以143 亿美元收购 Scale AI,该初创公司 ceo王士立(alexandr Wang)随之加入 Meta,负责统领全新的 AI 综合组织 ——Meta 超级智能实验室。此后,Meta 向 AI 业务投入的资金创历史纪录:公司近期预测,2026 年包含 AI 算力成本在内的资本支出,将较 2025 年增长约 73%,达到1150 亿至 1350 亿美元。

  Meta 在新模型上取得的技术进展,或有助于控制相关成本。去年 12 月中旬的另一份备忘录显示,在文本相关任务中,Avocado 的计算效率较 Maverick提升 10 倍,较 Behemoth提升超 100 倍。Behemoth 是 Meta 去年推迟发布、至今未公开的 Llama 4 版本。

  Meta 表示,通过获取更高质量的数据、投入模型基础设施建设,以及采用确定性训练(该 *** 可确保模型在相同训练方式下输出稳定结果),成功实现了效率突破。这一效率提升有助于降低 AI 研发的能耗与成本 —— 在 Meta 全力追赶竞争对手的当下,这是至关重要的因素。

  Meta 内部备忘录的积极基调,与近期高管的公开表态相呼应。上月 Meta 首席技术官安德鲁・博斯沃思(Andrew Bosworth)在瑞士达沃斯世界经济论坛的新闻发布会上,也暗示了类似的效率提升,并称 Meta 的 AI 模型 “表现非常出色”。博斯沃思还表示,要开发出面向消费者的可用模型,需要进行大量的后训练工作。

  与此同时,在上周的财报 *** 会议上,Meta 首席执行官 马克・扎克伯格(Mark Zuckerberg) 谈及 Meta 超级智能实验室计划推出的首批大模型时表示:“我预计我们的首批模型会表现不错,但更重要的是,它们将展现出我们快速的发展轨迹。我还预计,今年我们将持续推出新模型,稳步推进技术前沿。”

扫描二维码推送至手机访问。

版权声明:本文由2345好导航站长资讯发布,如需转载请注明出处。

本文链接:http://2345hao.cn/blog/index.php/post/34705.html

分享给朋友:

“Meta内部备忘录:全新Avocado成公司迄今“最强能力”大模型” 的相关文章

高强度竞争领域注定容不下安逸,等待敲锣的协和电子正走在掉队的路上?

高强度竞争领域注定容不下安逸,等待敲锣的协和电子正走在掉队的路上?

  扎根印制电路板技术研发二十年,专注于汽车电子、高频通讯等中高端领域的协和电子(605258)本周启动招股,下周四(11月19日)即将网上申购。   多年的沉淀,令其收获了一批优质客户。不过随着行业规模增长放缓、各类成本抬升以及行业龙头集中度提高,协和电子往日优势逐渐消退,利润水平也逐年降低,此...

手握采购、研发、销售三条“命脉” 谁是操控创耀科技命运的神秘“公司A”

手握采购、研发、销售三条“命脉” 谁是操控创耀科技命运的神秘“公司A”

  1947年,美国贝尔实验室的威廉.肖克利和他的两位助手布拉顿、巴丁,研制出了世界上第一只晶体管,为集成电路产业打开时代大门,也造就了现代信息社会的根基――“芯片”。   但是现代信息社会并不能避不开国与国之间的问题。   “芯片强则产业强,芯片兴则经济兴,没有高端芯片就没有真正的产业安全和国...

威腾电气IPO观察:自夸“头部企业”被打回原形 拿投资者4个亿只为“试试水”?

威腾电气IPO观察:自夸“头部企业”被打回原形 拿投资者4个亿只为“试试水”?

  威腾电气,一家缺乏科创属性、爱夸夸其谈还带着问题供应商的公司,正在冲击科创板市场。   2021年1月14日,以输配电中母线产品研发、制造及销售为主业的威腾电气,正式通过上市委会议,距离科创板上市又近了一步。   但这对投资者而言,可能并不是一件好事。   由于身在传统电力行业,科研步伐又...

19%市占率换不来业绩体量的和林微纳 新业务0.24%市占率又该如何期待?

19%市占率换不来业绩体量的和林微纳 新业务0.24%市占率又该如何期待?

  以19%市占率位居精微屏蔽罩市场头部玩家的和林微纳,即将亮相科创板。   2021年3月9日,主要产品为微机电(MEMS)精微电子零部件的和林微纳,开启了科创板招股。公司与楼氏电子、瑞声科技、裕元电子和银河机械,一同成为精微屏蔽罩市场的主要玩家,2019年五家企业合计占到全球市场总份额的80%...

新风光:核心材料严重依赖进口 毛利率下滑市场“风光”不再 |

新风光:核心材料严重依赖进口 毛利率下滑市场“风光”不再 |

  作为“光伏、风电”等大热门行业上游关键零部件供应商的新风光,即将登陆科创资本市场。   2021年3月24日,以大功率电力电子节能控制技术为核心技术平台,构筑电气控制装备产品体系的新风光,在科创板开启招股环节。   招股资料显示,新风光本次共计将募资5.9亿元,其中1.5亿元用于变频器和SV...

华恒生物:近半市占率的细分龙头 竟然只能“被动挨打”丨

华恒生物:近半市占率的细分龙头 竟然只能“被动挨打”丨

  全球最大的丙氨酸生产商华恒生物,即将亮相科创资本市场。   2021年4月7日,以合成生物技术为核心,主要从事氨基酸及其衍生物产品研发、生产、销售的华恒生物,于科创板开启了路演询价环节,距离正式亮相科创板仅剩一步之遥。      图/Wind   目前,华恒生物拥有接近50%的市场占有率...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。