分享到:

小兰园子迟到骑自行车电流无问芯穹联合创始人兼CEO夏立雪:打破异构芯片“生态竖井”,让异构芯片转化为大算力

小兰园子迟到骑自行车电流无问芯穹联合创始人兼CEO夏立雪:打破异构芯片“生态竖井”,让异构芯片转化为大算力

  每经记者 张韵    每经编辑 梁枭    

  大模型时代,如何构建更好的基础设施?

  7月4日下午,在2024世界人工智能大会期间,无问芯穹联合创始人兼CEO夏立雪在“智启新章·算引未来”AI基础设施论坛上表示,算力是AI发展的前哨和基石,GPT-4之后,支撑算法所需要的算力遇到了瓶颈,“Scaling Law”一词被频繁讨论。在此背景下,国内外巨头都在加大对算力资源的投入。

  所谓Scaling Law是指模型的性能与计算量、模型参数量和数据大小三者之间存在的关系。当前,谷歌、OpenAI以及国内的大厂和三大云商都在构建万卡规模的大集群。夏立雪认为,如今Scaling Law思潮的底层逻辑和能力法思想不谋而合,因此万卡集群是大模型的兵家必争之地。

  “未来人工智能推演和训练的算力需求仍然是高速发展的状态,不仅推理场景会随着大模型的落地快速爆发,训练场景也会支撑模型迭代与模型与应用的结合。”夏立雪进一步表示,与国际上模型层与芯片层“相对集中”的格局相比,中国的模型层与芯片层更加“百花齐放”。

  然而,大量的异构芯片也形成了“ 生态竖井”,不同硬件生态系统封闭且互不兼容,给算力的使用方带来一系列技术挑战。

  对此,夏立雪认为,为适配中国独特的多模型、多芯片的生态格局,要找到一个好的合力方式,打破异构生态竖井,让异构芯片真正转化为大算力,帮助大模型进一步发展。

  在夏立雪看来,当前人工智能的发展状态,不仅需要有将多元异构的芯片统一纳入的底层系统能力,又要在异构算力和多种算法之间做轻易使用的中间层,让用户通过统一的编程框架,把不同算力调度起来,整合算力推高了大模型生态的完整度,其核心任务是持续降低大模型应用落地成本。

责任编辑:何松琳

【编辑:吴淑芳 】
关于我们 | About us | 联系我们 | 广告服务 | 供稿服务 | 法律声明 | 招聘信息 | 网站地图
 | 留言反馈
本网站所刊载信息,不代表本站观点。 内容全网聚合禁止采集。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
[网上传播视听节目许可证(0106168)] [京ICP备05004440号-1] [京公网安备:110102003000-1] [京ICP备05004440号-1] 总机:86-10-87828888

Copyright ©1999-2023 cmmrmedia.com. All Rights Reserved

app安卓v3.6.8 下载