首页 > 综合

火山引擎重申不做大模型,已在服务国内多数大模型企业

哔哩哔哩 2023-04-19 13:39:48


(资料图片仅供参考)

4月18日,字节跳动旗下云服务平台火山引擎举办“原动力大会”。

大模型时代,市场最为关注的话题无疑是字节跳动在这方面的布局进展。对此火山引擎总裁谭待在会上强调:“火山引擎自己是不做大模型的,我在别的场合也说过,火山引擎本身先是服务好做大模型的公司。”他透露:“国内有数十家做大模型的企业,大多已经在火山引擎云上。”

而对于集团自研的大模型,字节跳动副总裁杨震原称:目前这部分公司是在做一些学习和做一些研究,现在还没有什么结果,所以等未来这方面有了进展再同步。”

对于火山引擎与大模型厂商的具体合作方式,谭待介绍称:“现阶段肯定还是技术层面的合作,就是他利用我们的算力平台和机器学习平台去搭建,当然也会用存储,也会用网络,各种各样云上的产品都会用,因为要把负载在这上面能跑起来,包括他未来的推理。所以就是这些合作。”

针对未来大模型的算力调度与训练两大需求,火山引擎分别发布了自研DPU(数据处理单元)等系列云产品,并推出新版机器学习平台。

相较于负责通用计算的CPU、负责AI计算的GPU,DPU负责资源卸载、加速和隔离,能够提升资源效率。谭待预测,未来3年内,大规模的算力中心,都将形成“CPU+GPU+DPU”的混合算力结构。

此外,算力方面,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,最高可以为客户节省70%的算力成本。

会上,火山引擎还宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用,离线业务资源分钟级调度10万核CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例的价格最高可优惠80%以上。

新发布的机器学习平台则针对大模型训练需求,据称支持万卡级大模型训练、微秒级延迟网络,能让大模型训练更稳更快。(撰文 | 董温淑 编辑 | 董雨晴)

上一篇 下一篇
热文推荐 更多

火山引擎重申不做大模型,已在服务国内多数大模型企业

2023-04-19

有颜有料!静态体验江西五十铃D-MAX V-CROSS

2023-04-19

记者实探网红楼盘“阳光香格里” 公积金新政“带火”绿色建筑 焦点短讯

2023-04-19

今日快讯:远洋集团:2022年竣工总楼面面积约622万平米 2023年将提升施工规模

2023-04-19

从家电到电动车首创移动健康空间 创维汽车2023焕新升级发布会召开

2023-04-19

巴西总统访华达成广泛共识 有些人“酸”了

2023-04-19

环球短讯!发改委:将通过建机制等工作 使更多民间资本参与到国家重大项目建设中来

2023-04-19

迪士尼计划下周实施大规模裁员 全公司层面裁减数千个职位-天天热点

2023-04-19

严防生成式AI“深度造假”

2023-04-19

仲量联行:杭州一季度办公楼整体空置率略有下降_新动态

2023-04-19

沈阳海关全力保障春耕钾肥供应链稳定_环球短讯

2023-04-19

20余项预报新技术将亮相杭州亚运会从冬奥到亚运接续传承的气象新科技

2023-04-19

“五一”返程火车票今起开售 这些线路车票或紧张

2023-04-19

世界滚动:扬州市

2023-04-19

环保志愿者被打伤车辆遭毁坏,吕梁市兴县警方:打人者被拘

2023-04-19

梭鱼湾超9.3万平米商服地块使用权拟挂牌出让

2023-04-19

当前观察:没经历过恐惧的人,一辈子都幼稚

2023-04-19

全球最新:主力资金监控:有色金属板块净流出超20亿

2023-04-19

关于新增浙商证券为万家颐德一年持有期混合型证券投资基销售机构的公告 环球焦点

2023-04-19

【C语言】关于整型提升、截断、打印数据的结果|世界看热讯

2023-04-19