豆包大模型出手,推理成本最高可降低83%!概念股“闻风”集体大涨
创始人
2025-02-12 18:46:50
0

2月12日,豆包概念股午后大幅走强,创业板汉得信息(300170.SZ)拉升封板,润欣科技(300493.SZ)、移远通信(603236.SH)等纷纷大幅冲高。

Wind数据显示,抖音豆包指数(8841129.WI)今日大涨1.43%,板块内约8只个股涨超5%。

消息方面,据“豆包大模型团队”微信公众号,字节跳动豆包大模型Foundation团队近期提出UltraMem,该架构有效解决了MoE推理时高额的访存问题,推理速度较MoE架构提升2—6倍,推理成本最高可降低83%。

据了解,随着模型规模的扩大,推理成本和访存效率已成为限制大模型规模应用的关键瓶颈。在Transformer架构下,模型的性能与其参数数量和计算复杂度呈对数关系。随着LLM规模不断增大,推理成本会急剧增加,速度变慢。

为此,字节跳动豆包大模型Foundation团队提出UltraMem,一种同样将计算和参数解耦的稀疏模型架构,在保证模型效果的前提下解决了推理的访存问题。

目前,这项创新成果已被机器学习和AI领域的顶级会议ICLR 2025接收,为解决大模型推理效率和扩展能力问题提供了全新思路。

公开资料显示,字节跳动豆包大模型团队成立于2023年,致力于开发先进的AI大模型技术,成为世界一流研究团队,为科技和社会发展作出贡献。团队研究方向涵盖深度学习、强化学习、LLM、语音、视觉、AInfra等,在中国、新加坡、美国等地设有实验室和岗位。

今日,一则消息再度引爆抖音豆包概念,南财快讯带你一图速览↓↓↓

(声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。)

相关内容

热门资讯

北京城建集团董事长常永春被查,... 北京城建党委书记、董事长常永春。来源:北京城建集团官网 界面新闻记者 |白帆 近日,北京城建集...
原创 高... 声明:本文内容均引用权威资料结合个人观点进行撰写,文未已标注文献来源,请知悉。 最近,国际投行高盛...
原创 玻... 作者:拉上窗帘 有朋友发来抖音视频,内容是福建曹德旺老板和他的私人飞机。 朋友问作者这是什么飞机? ...
大湾区酒价第15期|习酒窖藏1... 习酒窖藏1988多渠道价格跌至500以下,千元名酒价格小幅回升 今年“双11”,白酒价格波折不断。...
2024年上半年经济总量出炉:... 今年7月份中旬,国家统计局发布了上半年经济情况,上半年GDP总量达到了616836亿元,同比增长5%...
疯狂小杨哥杭州办公总部出租,面... 据媒体报道,疯狂小杨哥杭州办公总部出租的消息引发关注。对此,三只羊集团方面回应称,公司即将搬迁,新地...
TK公会入驻最新行情分析,现在... 随着直播行业的迅猛发展,TikTok娱乐直播公会的入驻程序引起了众多内容创作者的热议。对于希望在这个...
陕西农信兴平联社召开2024年... 为全面总结上半年经营发展情况,深刻剖析问题,科学部署下半年重点工作,8月1日,兴平联社召开2024年...
2024上半年小红书营销:深耕... 近几年,短视频社交媒体平台已成为品牌营销的重要阵地。小红书,凭借其独特的UGC分享社区氛围、人群反漏...
「大算投」超越比特币?比肩以太... 在区块链技术浪潮的澎湃推动下,市场迎来了众多颠覆性创新项目,其中,Aleo以其独到的视野与尖端技术,...