2024-10-23 17:07:39 来源:互联网
在以“AI在企业中落地的场景、挑战与应对及真实案例解读”为主题的直播中,红帽的技术大咖们直面了种种因“三”而生的AI困境,也同样用“三”开出了药方。
从冬到春的转变
要收获AI所带来的红利,首先就要把握AI的发展趋势。但在经历了2023年的突飞猛进之后,AI在今天的发展却从没如此分裂过。从技术和产品层面来看,每月依然会有一款重磅AI技术或产品面世,但从用户端来看,用户对于AI产品本身的关注度却在持续下降。
分析机构Similarweb的数据表明,ChatGPT网站的月度访问总量遭遇断崖式暴跌。这一方面表明用户可能对GPT-4感到厌倦,或者转向由科技巨头提供支持的其他大语言模型,还可能说明部分用户认为没有必要将AI聊天机器人融入他们的日常生活。许多人据此就认为AI要开始走下坡路,更有越来越多的业界大佬选择了支持AI泡沫说。
再从AI应用的角度来看,CIO们会发现,身边应用生成式AI工具的人员在增多,企业级AI一直处于崛起的状态。
AI在历史上已经历过两个“春天”和两个“冬天”,而当前,虽然企业级AI处于稳步上升的状态,但业界存在的大量泡沫和个人端AI热情的退潮,让我们不得不开始思考一个问题:我们是否正在由AI的春天走向冬天?诸位技术大咖从不同角度对此进行了解读。
作为AI 应用的受益者,红帽大中华区市场总监赵文斌坚信生成式AI的发展依然在春天,AI的技术发展潜力非常大。作为开源的拥趸,赵文斌强调:“开源的理念在AI接下来的发展中将会起到至关重要的作用,所以CIO们在AI 应用的落地过程中,在引入开放创新思路、AI应用底座打造、组织协作能力提升及AI人才培养上,要多利用开源的理念和技术,可以达到更好的效果。”
红帽大中华区首席架构师张家驹则从技术角度进行了解读:“从技术角度分析,生成式AI还有太长的路要走。目前基于文本的生成式AI还是一维的,而发展到空间智能要理解真实的物理世界,是需要用到三维的。所以生成式AI会不会存在能力边界,还很难说。”
从惊艳问世到让人们意识到它的能力边界,生成式AI经历了一个蜕变的过程。张家驹解析了这个过程:“去年生成式AI刚出现时,让人感觉特别惊艳,也让人们产生了特别大的期待。但接下来用户发现在应用AI时,还是有大量工作需要依靠人工来完成,用户也因此进入了一个更为理性的阶段。接下来AI能走多远,取决于企业对它的运用,为此CIO们首先要了解AI在当前的发展趋势和能力边界,这对于下一步决策有很大的帮助。”
红帽首席测试工程师韩旭则认为:“AI应用可以分为个人用户级别和企业级应用,这二者存在交叉点。比如ChatGPT一开始确实是个人用户用得多,使用者在开始阶段狂热地分享使用经验和结果,但新鲜劲消退后,这些人就销声匿迹了。而在企业内部,我发现大量同事在应用ChatGPT办公,所以我认为企业级AI应用处于稳步上升阶段。”
据此,韩旭表示:“我的答案是无论在春天还是冬天,我们都要拥抱AI,因为AI确实是未来的趋势。我在研发工作中,已经能切实体验到AI已经给产品研发带来了优势。所以企业中的IT团队需要增加相关知识的积累,帮助AI落地,帮助企业借此实现成长。”
解开“三“的迷局
当前企业的CIO最为头疼的问题,可能就是既要保障业务系统的稳定性,又要跟上AI应用极快的更新速度,还要在不确定的经济环境中,在有限的IT预算内在二者之间找到最优解。这样,安全、创新、资金就构成了一个不可能三角。而要解开这个不可能三角,CIO不仅要关注AI的未来发展新趋势,还会在AI落地的进程中,遭遇算力、数据安全、AI人才等三个制约因素。因此,CIO们迫切需要解开这些关于“三”的迷局。
对此,张家驹认为打破不可能三角的本质还是降本增效。他说:“我看到很多企业有动力去让AI应用落地,也能够感受到CIO们所面临的不可能三角,但其实降本与增效是可能同时实现的。比如通过一套平台,既支持传统应用,也通过资源整合支持AI的应用。此外,AI应用还可能造成组织流程的变化,AI应用替代了一部分人的工作,相当于流程线上有人也有机器,这样业务流程就可能需要再造。而在再造的过程中,从降本增效的视角出发,我们就可以考虑,是否可以应用一个平台,一套系统实现类似的业务流程再造。包括红帽在内的许多厂商都在思考这个方向,让平台也满足企业的个性化需求。”
张家驹举了一个具体的例子:“比如应对拦路虎——安全问题,出于安全的考虑,数据和模型需要放在本地部署。但出于降本增效的考虑,为了节省算力资源,就需要借助公有云的算力。这时如果把训练好的模型和数据放到公有云上,就可能造成安全隐患。这个时候,要打破不可能三角,就既要利用公有云的弹性,又要实现模型和数据的安全保障。这也是红帽一直在着力突破的问题。“
应对AI不可能三角,赵文斌给出了一个更为全面的图谱:“要解决这些问题,需要从三个层面进行综合性思考。第一是从战略层面,去思考AI在企业中的价值定位,究竟需要什么样的应用场景。第二个层面,要去思考如何选择、构建适合自身企业的数据模型和底层统一IT平台。第三个层面,AI新技术需要新型组织协作能力和专业AI人才。CIO们如果只是追求细节末节,就很容易迷失方向。”
具体来说,赵文斌做了更为深入的解释:“这三个层面,每个层面都要有一些清晰的策略和方法。策略层要做价值分析,要明确AI会在哪个业务层面上有最佳的投入产出。明确了发展AI应用的方向之后,还要明确一个统一的AI运营平台和系统来支撑这个方向的发展。这时就会遇到降本增效的问题,这时选用的平台需要更为标准、稳健而灵活,适应跨云的环境,因为要让AI应用的体验在不同的云环境下保持一致。接下来,还会涉及在整个平台的可信度问题,需要一个安全体系提供保障。最后一个层面,AI虽然会越来越智能,但还是离不开人和组织协作,人员要在新的条件下实现协同,就需要重新进行职能梳理、技能提升。“
而说起不可能三角的破法,赵文斌强调:“要把全部因素放在一个图谱中综合考虑,虽然管理者面临巨大的挑战,但在AI强大的颠覆性面前,管理者必须要完成这道必答题。“
场景致胜
从以往的经验来看,某项技术在经历了概念期之后,能否在应用场景上顺利落地,往往决定了它是昙花一现,还是基业长青。但从AI的应用落地的进程来看,绝大多数厂商和用户可能并不能理清这个进程的真实进展。
某家头部厂商调研后认为43%的用户正在使用AI,96%的企业可能将在未来12个月内使用AI,但接触实际用户后才发现,超过50%的用户已在大规模应用AI了。
当前,多数企业级用户还处于被大模型能力吸引,从而进入到AI 应用的开发阶段。出于对结果的好奇,CIO们迫切想了解这些AI应用投入到生产阶段以后,到底会带来什么样的效果。于是,真实的AI场景成为了这次直播最吸引人的部分。
作为吃自己“狗粮“成长起来的公司,红帽既是AI应用的开发者,也是最早一批的AI应用先行者。
赵文斌谈了作为先行者的体会:“红帽在市场方面的AI落地可以分为两个层面。第一个层面,红帽的市场团队要做很多活动的市场策划,为此就要做大量宣发资料。在这方面,我们通过学习,已经掌握了许多AI工具,帮我们在日常工作中提升了效率。”
赵文斌接着介绍了第二个层面:“我们市场总部正在和内部研发部门合作,借助红帽全栈AI产品和方案,研发一些提升市场部人员日常工作效率的核心AI武器。比如某个AI项目,可以将公司内部的网站、客户营销资源等内容整合起来,实现类似于ChatCPT的功能。原来我们需要整理海量资料,当我们需要进行某类有深度的分析时,就不仅需要搜集海量资料,还要进行大量的人工分析。现在利用新开发的AI工具,采用自然语言交互的方式,我们就可以收集到所需的海量资料。其中不仅有原始资料,还包括客户特点分析、高价值客户分析等加工过的内容。当我们要大力宣发某个产品时,也可以很快地搜集到全球范围内的技术、产品、案例方面的资料,我们因此可以更为高效地做出营销计划。”
张家驹介绍了这个项目的难点:“我们很多时候都希望简化流程,但软件开发的过程中,为了达到简化的功能,就加了一层应用,这样一层层叠加,并没有真正起到简化流程的目的。我们针对此次的项目做了一些调研,发现市场部应用的许多企业级软件,造成了技术复杂度的提升。市场部因而需要一个高易用性的方式去调用这些企业级软件。以往的方式是找专业开发人员开发,但真正懂这块业务的却是一线的业务人员,所以我们将这个过程改为自然语言的方式进行交互。
表面看来,这是一个简单的项目,但张家驹却介绍了一个极为常见的难点:“这个项目的本质是将SQL查询转化成自然语言来完成。自然语言存在着二义性,但后台的SQL查询却是严格的计算机语法,特别地,自然语言中存在着许多企业内部通用的简称和术语。所以这里边不仅需要解决大模型的二次训练问题,也需要解决内部核心数据的安全问题。”
韩旭介绍了研发环节中的AI应用:“红帽研发部门近年来一直关注着AI应用于研发的技术趋势,也推出了一些提升研发效率的工具。比如在测试环节,当我们接到一个需求时,会编写测试用例。如果一条一条地编写,非常耗费人力。这个时候,我们采用了一些AI工具,针对需求文档中的要求,自动生成一些测试用例,就可以极大的节约人工。接下来,这些自动生成的测试用例还可以进一步实现自动化。在这个过程中,因为存在特定的术语和简写,通用的工具还需要进一步调整,所以我们会订制一些自己所需的工具。”
尝到了甜头之后,韩旭认为AI在提升研发效率方面大有潜力可挖:“我们在开发中体会到,CI/CD的流程中,拖后腿的往往是应用人工的环节,所以AI有可能是补齐CI/CD的最后一块拼图。在工程中,还可能会遇到一些需要人来处理的问题。需要在相关领域具备很深的知识积累的人,才能处理类似的问题。但现在通过AI工具来替代类似的领域专家,就可以给出一个相关的解决方案,所以专业知识领域是AI发力的一个关键领域。”
某调研机构给出了一组预测数字:2023年,业内还只有1600个AI应用,到了今天,这一数字已经增长到2000多个。预测AI应用将在2030年预计实现5倍的增长,达到12000多个。这表明,2024年确实是生成式AI应用落地的元年,并且在此之后,AI应用将连续保持高速增长。对此,最好的应对办法,就是关注如红帽这样已经all in AI的先驱者。去观察它们到底在应用什么样的开源利器,去助力这场已经掀开序幕的AI应用落地角逐。
红帽显然已经为此做好了准备,在诸位技术大咖介绍的案例背后,一直存在着OpenShift的身影。在另一个算力、模型、协作的 “三”的困局中,OpenShift通过引入算力池,消除了异构造成的算力损失,还通过模型框架解决了新模型不断出现的问题,当AI功能需要代码开发者和数据工程师等角色进一步协同时,OpenShift利用MLOps创立协作空间,把不同的职责的人组织起来,形成自动流水线,去加速开发效率和生产效率,从而快速将模型能力应用于业务场景当中。
而当我们掀开红帽水面下的AI工具冰山,我们才会发现OpenShift不过是这座冰山的一角,更多惊喜等着广大CIO们自己去挖掘。
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。