2024 Inclusion·外滩大会于2024年9月5日至7日在上海黄浦世博园区举行,清微智能CEO王博受邀出席,并参与“绿色计算:大规模智能算力时代可持续发展之路”分享讨论。
本场会议由蚂蚁集团、上海市通信学会算力浦江专委会主办,并由开放数据中心委员会、中关村标准化协会、中关村金融科技产业发展联盟 、北京前沿金融监管科技研究院作为支持单位。阿里云数据中心事业部总经理王朝阳,蚂蚁集团AI工程一号位&超级计算部负责人余 锋及NVIDIA 英伟达、中科加禾、清微智能、腾讯、中国中煤集团等绿色计算产业链上的代表企业共同参与,从智能 计算软硬件基础设施到大模型训推工程的全栈视角出发,探讨产业各方如何通力合作,建立绿色高效,软硬协同的算力基础设施,以如何应对大模型算力基础设施带来的能源挑战。
在对话中,王博从芯片厂商的角度分享了在帮助客户实现算力落地实践过程中的挑战,他表示:在谈到智算中心的成本时,特别不能忽略的一个问题是网络成本,交换机、网卡等这些设备几乎能占到整个系统成本的20%以上,清微依靠可重构计算架构的优势,实现芯片及系统间的直接互联,不但节省了这一部分网络设备的硬成本,也节省了功耗。而可重构的数据流计算模式通过 多个数据任务并行执行、优化传输路径、减少中间步骤等大大提升了 数据的传输和处理效率,再加上数据流本身具有天然的可扩展性,更保证了整个智算中心的可扩展性和可用性。
在谈到如何通过软硬件协同优化,最大化算力资源时,王博表示:软硬件协同本质上是通过紧密集成硬件和软件,来提高系统的灵活性和性能,而可重构计算本质上是一种软件定义硬件,软、硬件均具可编程的架构技术,它通过软件定义芯片,定义数据流,实现编译器自动寻优,甚至应用软件可以根据业务直接切分模型,而不用通过编译器。这种软硬件的深度融合,能最大限度地发挥芯片的性能。
2024外滩大会以“更开放、更前沿、更创新”的姿态,打造一个既专业,又接地气的科技嘉年华。大会精心策划了一系列精彩活动,1场开幕主论坛、36场开放见解论坛、10多场创新者舞台、2场AI创新赛事、1场10000平方米的展览以及1场绿色生活节和科技人才招聘会等。
外滩大会是致力于推动金融科技和前沿科技探索的大会,由外滩大会组委会主办,上海市地方金融管理局和上海市黄浦区人民政府支持。组委会包括清华大学、复旦大学、上海交通大学、同济大学、浙江大学、上海报业集团、美国运通、蚂蚁集团等8家单位。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
江西男子收到浙江绍兴的一个违章,他又急又懵:我压根没去过绍兴啊!怎么会有绍兴的违章?交警果断出击,成功将与驾驶人查扣
美官方确认:“一块英伟达芯片也没卖出去,中国想搞自己的”!网友:当初是你不愿卖,不卖就不卖
被轰9连鞭 23岁斯佳辉面如死灰:3-10不敌伊朗选手 3年前遭11连鞭
预售30.29万起 岚图泰山X8配896线秒一脚下去,班味儿都抽干,尚界Z7T让你远离老登味