英特尔：创新软硬件产品组合推动边缘AI变革

【资料图】

在2023英特尔网络与边缘产业高层峰会期间，英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti重申了中国市场在英特尔网络与边缘业务发展中的重要地位。

Sachin Katti表示，“放眼全球市场，边缘计算机遇无限，蕴含着高达4450亿美元的市场机会。长期以来，英特尔一直与包括中国企业在内的生态伙伴深入合作，通过广泛的创新软硬件产品组合推动从云到网络到边缘的软件定义变革，优化客户从开发、部署、运营、管理、连接到保护分布式边缘基础设施过程中的体验，并在零售、医疗、工业、制造、能源、智慧城市等众多领域共推边缘解决方案的部署，从而加速各行各业的数字化转型。”

AI能力部署正在成为企业数字化、智能化转型的重要抓手，AI逐渐走向应用端后，给能够联结各个智能终端的边缘算力带来了巨大的市场机会。国际电信咨询公司STL Partners发布数据预测，到2030年，边缘计算潜在市场将从2020年的90亿美元，增长到2030年的4450亿美元，行业复合年增长率高达48%。

面对广阔的市场前景，英特尔正在持续推出从云网络到移动和电信网络、从托管边缘到网络边缘再到本地边缘的软件定义的、可编程软硬件产品组合来适应市场需求变化。Sachin Katti 表示，“从我们的策略来说，一方面我们会提供大量的硬件选择，比如说CPU、加速器、GPU等，达到一流的性能。同时在软件方面，我们希望在应用的时候可以降低复杂性。”

当前，市场上AI大模型“百花齐放”，在赋能大模型加快落地方面，Sachin Katti表示，“大模型的落地要和行业结合起来，有针对性的大模型要解决行业里有针对性的问题，因此，在整个大模型部署使用过程当中有两个问题要解决，一个是训练，一个是推理。”

大模型的增加导致了数据的云端训练需求提升，对此，英特尔近期在中国市场发布了专门面向大模型训练的加速器Gaudi 2。

在软件产品方面，英特尔OpenVINO把在云端进行的大模型训练的成果在边缘进行压缩和优化，从而可以让它得到更加广泛的使用。据介绍，最新版本的OpenVINO已经增加了对大模型的支持，比如，OpenVINO经过优化，已经可以在酷睿处理器、第四代至强可扩展处理器平台以及英特尔独立显卡上面实现Stable Diffusion模型的推理。

此外，英特尔还推出了IPU（Infrastructure Processing Unit），满足大模型训练对网络速度、可靠性、丢包率的严格要求，推动基于开放标准的连接技术将GPU和加速器连接起来，以提高网络能力。

英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇表示，“如果说大模型训练可以在云端更好地进行训练，那么在推理阶段则需要与具体的行业场景进行结合和优化，这样确保模型既满足特定行业对准确度、功能的要求，同时它的算力又能够被边缘设备所承载。”

标签：