三星、英特尔、长安汽车……9月25日召开的2024百度云智大会,将大部分的时间交给了合作伙伴,视频大模型Vidu、长安启源E07的背后都有百度智能云的支持,由客户向市场安利。当天,百度集团执行副总裁、百度智能云事业群总裁沈抖拿出百舸AI计算平台4.0、千帆大模型平台3.0两个AI基础设施,同时升级了代码助手等AI原生应用,把3D超写实数字人价格从万元降至199元。2024年二季度,百度总营收同比持平,智能云营收增长14%。和上年同期相比,百度智能云营收增幅多了9个百分点。据不完全统计,2024年二季度海内外云大厂的营收增幅从个位数到30%不等,入局者不进则退。
“大模型有个著名的定律Scaling Law,是说模型性能会随着参数、算力、数据集的规模增加而提高,这个定律仍在继续。马斯克(特斯拉CEO)说他们刚建设了10万卡的集群,未来还会扩张到20万卡,这不是个例”,说完,沈抖给了个更具象的概念:要部署10万卡集群,在物理层面要占据约10万平方米的空间,相当于14个标准足球场的面积,这些服务器一天要消耗约300千瓦时的电力,相当于北京市东城区一天的居民用电量。
挑战在于跨地域部署、有效训练时长占比低 。“用1.6万卡训练Llama3时,每3小时就会出一次故障,推演到10万卡,意味着每30分钟就要中断一次。”沈抖说,“百舸4.0,正是为部署10万卡大规模集群而设计的。”
百舸4.0实现了在万卡规模集群上95%的多芯混合训练效能;能够实现工具层面的秒级部署,将万卡集群运行准备时间从数周最快缩减至1小时;实现了超过99.5%的有效训练时长;长文本推理效率提升了1倍以上。
千帆是企业级一站式大模型与AI原生应用开发及服务平台。目前在千帆大模型平台上,文心大模型日均调用量超7亿次,累计帮助用户精调3万个大模型,开发出70多万个企业级应用。过去一年,文心旗舰大模型降价幅度超90%。
千帆3.0的升级主要体现在模型开发层、模型服务层、应用开发层上。具体到应用开发,千帆升级了企业级RAG和企业级Agent开发,发布了低代码AI应用开发平台“AI速搭”,通过自然语言对话就能进行企业级应用开发。
“云计算属于AI基建,开发者和企业客户不光需要好用、易用的算力,也倾向于开发门槛更低的平台,这是趋势,升级是无止境的。比的是价格、易用度和升级速度”,比达分析师李锦清向记者表示。
这些基础设施的目的是开发出AI原生应用,百度当天给打样的数字人、智能客服、代码提效类产品做了升级。曦灵数字人4.0支持根据文字快速生成不同妆造、不同行业特色的3D数字人形象和视频,将3D超写实数字人的价格从万元降至199元。新版智能客服应用“客悦”的问题自助解决率升至92%。文心快码服务超1万家企业客户。
在业绩层面,百度并未独立披露智能云板块营收,仅公布了2024年二季度百度智能云营收同比增长14%。和同行相比,海外的亚马逊云科技、微软云和谷歌云二季度营收同比增长分别是19%、29%、28%,阿里云同期是6%。