华为,AI突破将发布

来源:中国基金报

中国基金报记者 邱德坤

记者11月16日获悉,华为将在11月21日发布AI领域的突破性技术,有望解决算力资源利用效率的难题。

具体来看,华为即将发布AI领域的突破性技术,可将GPU(图形处理器)、NPU(神经网络处理器)等算力资源的利用率,从行业平均的30%至40%提升至70%,显著释放算力硬件潜能。

据透露,华为即将发布AI领域的突破性技术,是通过软件创新实现英伟达、昇腾及其他三方算力的统一资源管理与利用,屏蔽算力硬件差异,为AI训练推理提供更高效的资源支撑。

同时,华为即将发布AI领域的突破性技术,与以色列AI初创公司Run:ai的核心技术路线有共同性,后者在2024年底被英伟达以7亿美元资金收购。

公开资料显示,Run:ai自2018年成立以来,一直专注于GPU调度技术,并致力于打造一个能将AI模型拆分并行运行的平台,无论硬件位于本地、云端还是边缘。

据悉,管理生成式AI、推荐系统、搜索引擎等工作负载,需要复杂的调度来优化系统和底层硬件的性能。

Run:ai的核心产品是基于kubernetes(开源容器编排平台)构建的软件平台,用于调度GPU的计算资源,通过动态调度、池化、分片等技术,实现GPU资源利用率的优化,让深度学习训练与推理任务在企业级环境中高效运行。

校对:王玥

制作:小茉

审核:木鱼

免责声明:

1、本网站所展示的内容均转载自网络其他平台,主要用于个人学习、研究或者信息传播的目的;所提供的信息仅供参考,并不意味着本站赞同其观点或其内容的真实性已得到证实;阅读者务请自行核实信息的真实性,风险自负。

2、如因作品内容、版权和其他问题请与本站管理员联系,我们将在收到通知后的3个工作日内进行处理。