中国工业报王珊珊
作为实体经济的根基,中国制造业规模持续扩大、占比稳步提升、结构不断优化,投资持续增长,越来越多的企业正在通过AI实现数字化转型,以新质生产力促进产业高质量发展。
近日,第十七届英特尔网络与边缘计算行业大会于天津举行,超过400位生态伙伴和客户代表齐聚,与英特尔共同探讨边缘AI的未来发展趋势,并展示教育、智能制造等众多基于英特尔边缘AI解决方案和应用案列。英特尔公司高级副总裁兼网络与边缘事业部总经理SachinKatti、英特尔公司副总裁兼网络与边缘解决方案事业部总经理DanRodriguez及英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士等分享了对AI技术和边缘计算的最新洞察、未来展望及技术与产品创新,并强调了AI与边缘计算的融合将如何重塑产业的进一步发展。
AI已成芯经济最重要的驱动力。
加速拥抱AI
AI浪潮正以势不可挡之势席卷全球,智能边缘与AI的融合为企业开辟了新机遇。如今,企业正积极将AI技术融入产业,以期释放强大的生产力。据Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。而IDC数据显示,中国生成式AI投资增长加速,2022到2027年五年的复合年增长率达到86.2%,生成式AI正在成为驱动智能发展的关键技术。
基于此,英特尔推出了专为边缘和网络AI设计的模块化平台,为制造、教育、交通、金融、医疗等多领域定制的垂直解决方案套件,与此同时还在构建一个强大的生态系统,随着合作伙伴壮大,并推动本土创新。截至目前,英特尔网络与边缘事业部在中国已经使超过200万开发者受益。
此外,英特尔联合众多中国本土合作伙伴,实现大语言模型(LLM)落地。
教育领域。希沃商用计算机事业部副总经理郭潇表示,十余年来,希沃与英特尔在“AI+教育”解决方案展开开拓。希沃第七代交互智能平板和最新的教师终端,借助AI功能帮助教师完成一键备课、互动式教学、课堂反馈等任务,显著提升了课堂效率和教学质量。
过去一年中越来越多的大模型厂商推出了自己的文件生成工具,每个厂商都说自己的生成能力非常的强,但很少有厂商提到采纳率是多少,通过走访,通过通用大模型生成的课件真实采纳率低于20%,因为大模型没有办法解决教学设计、方法落地问题。希沃垂类大模型,将整个教学大纲和教学逻辑输入到大模型中,通过真实用户的反馈进行匹配,从而推动教学设计向好。基于英特尔处理器,希沃在本地即可完成AI教学大模型的运行,并显著提高系统响应速度和稳定性。
希沃的产品如今已覆盖17万所学校,260万间教室,服务800万名教师,帮助完成了8亿个生成式课件的制作。
面向工业数字化转型升级的迫切需求,从事工业领域操作系统的科东软件工业人工智能研究院院长祝一蒙表示,通过先进大语言模型实现任务理解及代码生成,并依托科东智能控制器的多模态视觉语言模型,实现对工业机器人动作的精准控制,极大简化了开发流程并提升了生产效率。通过部署大语言模型,减少了对算力设备和网络传输的依赖,有效降低了操作延迟,满足工业场景对低延迟和高可靠性的需求。
在网络领域。深信服安全GPT业务总经理訾然表示,采用英特尔处理器和高速以太网连接技术,成功实现了垂直领域安全大模型SecurityGPT的高效能部署,不仅提供了高带宽HBM(内存)加速,极大提升了大语言模型的处理速度,还支持参数量高达70B的多种大语言模型,并能够同时部署网络安全业务和大模型推理任务。它还带来了更佳的总体拥有成本,进一步降低了企业的运营开支。
訾然介绍,基于技术方面的思考,我们构建了安全的大模型。完整的构建技术非常庞杂,涉及的面非常多。
第一数据方面。垂直领域的大模型构建数据质量比数量更重要;第二是数据工程方面。各种类型的数据需要特定的比例进行匹配,如果比例出现一些差错,很可能就会导致模型的灾难性遗忘等问题,甚至模型越积越少,这需要不断的探索配方的配比,过程很苦,但非常有效;第三是在部署推理阶段,性能优化是非常关键的。完整的大模型经过从数据,到预训练,再到微调等各阶段作,最终到商业化产品部署的形态。效果最好的两个领域,是检测和运营。
安全大模型整个产品的商业化速度非常快,目前在全国已经上线了接近200家左右的客户,其中包括头部银行、电网、各地方政府,还有世界五百强的高新制造业企业。
智慧零售领域。开域集团CUE数字科技总经理应翔翔表示,大模型准确、高效、灵活,这三点是我们落地过程中最直观的感受。比如,佩戴帽子的预警算法,有张看不清的图片,想要找帽子,结果连头都找不到,这种情况下小模型会失效,不处理就会有很多误报,这是客户所不能接受的。
但如果处理就要“人工+智能”,人工操作的努力,有非常多看不到的成本。加入大模型后,把这样一个图片喂给大模型,只要问他“帮我看一下这个人是否戴了帽子”,大模型就会回答你是戴了帽子,或者戴了一个塑料帽,这样的一个简单的交互效果,就是它帮忙把一些复杂的,或者原来没有训练过的,没有预期到的事情,通过大模型解答。这让整体的误报率下降了90%,客户看到的都是真实的预警就很开心。对于集团人工成本能大大降低,运营人力可以降低80%。
大模型AI解决方案为该企业提供强大的算力和灵活性。同时工具套件进一步增强了系统的可扩展性、易运维性和成本控制能力。
AI生态
面向未来的AI转型,英特尔正在引入端到端、可扩展的系统级战略,通过开放的生态系统全速助力企业推进AI创新。其开放系统包括来自多厂商的芯片、硬件参考平台、软件基础设施以及AI工具,使从设备制造商到软件和服务提供商等广泛的AI生态系统都能够提供解决方案,满足各行业企业对定制化生成式AI的需求。英特尔的解决方案性能卓越、易于访问、支持生态系统,可为客户提供更高灵活性和更多选择。此外,英特尔构建了包括AI加速软件、微调和训练工具、检索增强生成(RAG)流水线、部署工具等全栈开放式软件框架,其中也包含了软件合作伙伴和开源项目,简化了开发过程,实现了从设备到边缘再到数据中心的全面生成式AI部署。
英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示:“英特尔从运用AI进行创新的‘+AI时代’,到今天以AI为主导推动创新的‘AI+时代’,将进一步深化战略,更贴近中国用户,推动各行业的数字化转型。”
随着AI和边缘技术在各行各业的广泛应用,英特尔将通过持续不断的软硬件平台和产品创新,积极推动边缘AI等新兴领域的拓展,为全球企业智能化转型铺就道路,共同迎接一个由AI驱动、智能优化的全新时代的到来。
请输入验证码