2024-11-04 17:36:40 来源:
研究机构给出了这样一组数字:2023年,生成式AI火爆之时,业内却只有1600多个AI应用,一年之后,这个数字只是增长到2000多个。但到2030年,预计将实现5倍的增长,达到12000多个。从睡莲的例子可知,从2000到12000,AI应用将会以什么样的裂变速度生长。从这个角度来看,也许现在才是我们关注AI应用的最好时点。但AI技术的高速演进,以及企业级AI应用的复杂性,都给我们关注企业级AI应用增加了难度。
从企业级Linux到混合云,红帽持续高速成长的原因就在于它很容易地找到了第二曲线。而在2024年红帽论坛上,红帽全球副总裁兼大中华区总裁曹衡康在论坛上透露红帽的业绩在去年创下历史新高的情况下,今年继续以双位数增长。显然,红帽已经在AI时代找到了业绩增长的新玩法。这样,研究红帽的AI布局,我们或许可以从中窥探到企业级AI应用的新风向。
小模型的未来
大模型虽然好,但在移动和边缘设备中都跑不动,就算勉强能跑起来,也是奇慢无比。其次,企业级应用例来都有一大特性,就是要求精准,但大模型在经受特定训练前,其结果的精准度往往不能被企业用户接受。正因为如此,不少研究者和应用开发者都认为小模型才是 AI 的未来。
就在人们还沉浸在大模型的辉煌中时,为了打造出真正好用的小型语言模型(SLM),AI 研究社区已经想出了各种各样的方法,像是对大模型进行蒸馏或量化或者就直接去训练性能优异的小模型。跟随用户的应用潮流,Meta和 Mistral等都已经发布了自己的SLM。
作为本次2024红帽亚太创新奖的获奖者,西门子工业自动化产品(成都)有限公司信息技术部经理杨健对此直言:“在生产领域,我们在垃圾分拣环节采用了机器视觉技术,用于识别原材料加工后产生的金属、塑料和纸张等垃圾。以前的机器人视觉识别准确率只有大约85%,现在我们通过小模型训练,利用开源的OpenCV基础框架,将准确率从85%提升到95%以上,大幅提升了分拣效率。小模型在生产中非常适用,因为应用和场景单一,错误率低,能保证质量和过程的可控性。但大模型有时会出现幻觉现象,应用于生产环节时就可能存在风险。因此,我们对大模型的应用目前保持谨慎的探索态度,希望通过持续优化,使大模型更可靠、可信且全面。”
如果我们回到云时代的开端,我们一定不会忘记当时主流声音是公有云最终会统治世界,但最终胜出的却是用户选择的混合云。AI时代,用户的选择可能会导致同样的结果。
红帽全球副总裁兼大中华区总裁曹衡康介绍了红帽的小模型战略:“红帽和IBM合作,在过去几年提出了‘小模型’概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。红帽还引入了‘社区版’小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少。在基础架构上,我们采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,为企业提供灵活的AI模型部署方案。”
AI应用的小步快跑
对于相当数量的用户来说,AI应用都是不得不关注的方向,但要让企业级AI应用落地,却还是有相当的难度。这就造成了尝鲜的用户多,但大规模跟进的用户少的现状。同样的配方,同样的味道,当前企业级AI应用现状像极了当年企业级Linux的普及进程:用户因为稳定性、安全性等问题往往是用而不说,[SX1] Linux厂商逮着一个核心应用拼命宣传。但结果却是红帽如同将自然水转化成可饮用的瓶装水一般,创立了企业级Linux,企业级Linux才迅速占据了主流地位。
对此,红帽对于AI应用的做法,是先给用户一个救生圈,让用户一步步适应深水区。红帽大中华区方案架构部总经理王慧慧详细介绍了其中的奥妙:“针对企业级AI应用,我们确实听到许多客户反馈,他们希望先了解成本和收益,再决定项目的可行性。红帽对此需求非常重视,所以我们提出了‘分步实施’的策略,即三步走。”
具体来说,王慧慧解释道:“第一步,客户可以在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。如果第一步测试效果满意,客户可以进入第二步:通过云租用算力进行进一步扩展。因为红帽平台几乎可以在任何云上运行,所以客户可以选择公司数据中心或外部公有云资源。在确认模型适合需求后,才进入第三步的大规模部署。在第三步中,红帽的架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用AWS,这种多云方案既灵活又经济。我们的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持。”
在经历多年IT基础设施建设之后,作为后来者,AI的目的显然是在此基础上实现业务的颠覆或加速,但颠覆或加速所需要的创新,必须会付出相应的试错成本。而红帽的做法,显然是在带着用户小步快跑,在降低用户试错成本的基础上,让用户针对自己的业务一步步尝试,直至走向成功。
微服务里的长尾效应
企业级应用的繁荣往往需要一个闭环,这其中用户需求是风向标,平台商提供底层技术保障,而广大ISV的数量和质量决定了应用生态的繁荣程度。红帽的合作伙伴涵盖了硬件和软件厂商5000家,在企业级AI应用落地的过程中,红帽已经打造出了这个闭环。
曹衡康分享了这个“三步走”策略的闭环:
第一步,通过各种市场渠道,推广AI的独特功能和优势。一个新技术要进入市场,需找到成功的应用案例并加以推广,让用户意识到还可以这样用。
第二步,通过合作伙伴生态,赋能合作伙伴的技术和顾问团队,使他们更深入地了解红帽的AI技术,从而更好地支持客户。
第三步,通过开放实验室,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,与客户共同探讨如何将AI技术应用到实际场景中,一起找出最具效能的应用场景,从一个小应用成功起步,逐步扩展至更大的场景。
红帽大中华区资深市场总监赵文斌介绍了其中的进展:“我们在加速场景应用落地方面,与包括NVIDIA在内的全球合作伙伴开展了新项目。场景应用是ISV(独立软件开发商)和应用供应商最擅长的领域,在市场拓展中,我们特别关注共创模式(co-creation)。通过与ISV共创,结合各行业的独特场景和联合解决方案,可以帮助企业更快地实现AI应用落地。由于企业通常难以完全自行开发应用,红帽将本土ISV及AV(应用供应商)作为未来的重要合作伙伴,推动本地场景的AI应用落地。”
从某种程度上说,虽然企业级AI应用将创造一个庞大的市场,但因为每个企业的需求差异化极大,因此每个企业所需要的,都是贴身式的“微服务”。平台厂商要想胜出,必须依靠长尾效应,将那些原来销量小但种类多的产品或服务累积起来,从而创造出总量巨大的收益,甚至超过主流产品。
对此,红帽显然颇有心得,不仅充分利用了庞大的ISV合作伙伴生态,还对用户的需求体察入微。西门子工业自动化(成都)有限公司[SX2] 在AI应用方面,不仅已经将AI应用于质检、风险管控、生产效率提升等核心环节,还从一开始就意识到各类AI应用需要一个平台管起来。
而说起这个基础平台的选择,杨健谈了其中的关键点:“我们选择跟红帽合作,一方面是因为红帽平台的响应速度很快。另一方面更为重要的,是红帽的责任感突出。AI和技术环境在快速变化,需要不断调优和改进。红帽在这个过程中保持了谦虚友好的态度,与我们共同成长。这种共创的模式和合作环境非常宝贵。”
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。