首页 > IT业界 > 正文

大模型 ToB 之路 - 端到端的数巅企业大模型解决方案

2024-07-04 17:17:12  来源:互联网

摘要:数巅企业大模型解决方案已经在金融、电信等场景成功落地,但当前我们所做的生成式的数据分析,例如AskBI,仅仅是大模型在企业内部应用领域迈出的第一步。
关键词: 大模型
2024年,数字经济进入新阶段,AI正走向前所未有的繁荣,数据作为关键生产要素的价值日益凸显,“AI+企业数据”的应用席卷全球,正在重塑企业发展模式,成为企业未来发展的核心竞争力。
 
6月25日,数巅科技2024智领未来线上峰会暨新品发布会隆重召开。数巅科技创始人及CEO何昌华发布了端到端的企业大模型解决方案以及生成式智能分析AskBI,以下是他的演讲实录。
 
大模型在toB领域的应用
toC vs.toB
在过去一年多的时间里,绝大多数对大模型的应用都是在toC领域。其特点是由一个产品驱动,即为一款爆款产品打造一个通用的大模型服务,即可获得用户数的快速攀升。
 
但在toB领域,大模型的应用和发展路径截然不同。企业对大模型的需求是刚需,需要通过定制化的功能来满足,后续才能够实现多场景的复制。
IMG_256
 
toB企业真正的刚需是什么?我们在经过深入地探索后认为是运营、管理、决策以及营销这一类应用的数据决策需求。
 
这些定制的功能如何沉淀、如何实现?就是用很小的成本去做快速复制,做到多场景、低成本的覆盖。
 
大模型在toB企业落地的核心要素
有这样一个悖论,即我们无法在同时满足高准确率、高通用性和低成本的情况下,确保项目落地实施。
 
对此,数巅科技在用户可接受的范围内做了一些调整。我们将“高准确率”定义为业务可用,即准确率足够高,出错的时候可以被用户识别,同时可以解释产出的结果。
 
将“低成本”定义为项目落地初期的成本一定要低,可以单机部署,且使用和维护零门槛。当前大多数大模型部署的硬件成本非常高昂,企业在无法确定项目最终收益的情况下很难投入如此巨大的成本。
 
大模型本质上就是解决了AI 1.0算法的通用性问题,理论上,用户通过一套模型可以实现全场景的通用;事实上,大模型的能力还没有这么强,我们需要对其进行微调。因此,我们将“高通用性”定义为能够工具化、自动化。在这种情况下,就可以实现规模化复制,让应用场景低成本落地。
 
在数巅科技为营销场景提供的数据分析解决方案中,我们用一个百亿大模型就实现了95%以上的准确率,已经远远超出了业界很多千亿大模型70%左右的准确率。这套解决方案就是今天我要为大家隆重介绍的“端到端的数巅企业大模型解决方案”。
 
端到端的数巅企业大模型解决方案
数巅企业大模型解决方案是面向企业的数智化决策解决方案。
1、与业界同类产品相比,其核心优势和特性包括:
  •  
通用性:解决业务的精准决策需求以及行业和场景的通用性需求。
  •  
  •  
准确性:百亿大模型分析准确度达95%以上,远高于千亿大模型GPT4+NL2SQL 70%的准确度。
  •  
  •  
实用性:性价比高且体验友好,如可单机部署、秒级响应query等,让实用落地成为可能。
  •  
  •  
安全性和稀缺性:支持信创,核心技术自主可控,支持完全私有化本地部署。
  •  
 
  •  
2、数巅企业大模型解决方案由三层构建:
  •  
底层:数据虚拟化引擎X-Engine,拥有业界独一的全面虚拟化能力,可快速集成各类异构数据源(包括实时数据源),可支持虚拟化数据建模,可无成本构建虚拟大宽表供业务使用,可灵活扩充指标及维度,可实现一站式数据资产管理、监控和运维管理,整体计算存储性能超出业界同类产品 5-10倍。
  •  
  •  
中间层:业界独创的由数据虚拟化引擎驱动的数巅企业大模型,百亿大模型的分析准确度达95%以上,远超千亿大模型 GPT4+NL2SQL 70%的准确度。数巅企业大模型拥有业界首创的基于数据虚拟化的检索增强(RAG)能力,超强任务规划能力及准确调用数百个通用数据分析工具的能力,兼具实用性与通用性。
  •  
  •  
应用层:面向不同场景的智能应用,如生成式智能分析AskBI。
  •  
IMG_257
3、生成式智能分析AskBI
AskBI采用先进的大模型技术,为企业提供高效、智能的数据分析和决策支持服务。AskBI以直观、易用的用户界面为特点,用户只需提出问题并通过自然语言交互,即可得到数据清晰可视化的答案。AskBI的四大核心功能包括:
 
生成式交互分析
  •  
通过从NL2Metric2SQL的路径,来提供极高的用户问题覆盖度和准确率。
  •  
  •  
用户可判错。
  •  
  •  
可手动调整选择指标实体及参数配置,最终获取正确答案。
  •  
 
按业务逻辑分析
  •  
在与AskBI交互的过程中,如果用户表述不够精准,AskBI可以从用户需求出发调用合适的分析框架,并从各个角度进行分析,给出一个最可能的答案,尽可能正确地回答问题。
  •  
  •  
AskBI可根据行业经验预设业务分析框架及算法,提供更准确的归因分析。
  •  
  •  
用户也可以自主定制业务分析逻辑。
  •  
 
自动化数据能力
  •  
基于数据虚拟化引擎X-Engine,AskBI可实现多源数据自动接入。
  •  
  •  
提供全时域、维度任意拓展的指标,并按业务语义灵活扩充指标。
  •  
  •  
实现智能指标加速。
  •  
 
非结构化数据融合
  •  
对非结构化数据进行实体信息提取并分析,信息抽取准确率达90%以上,分析准确率达90%以上。
  •  
  •  
对非结构化数据进行知识增强的精细提问和生成,用户评测满意度达95%以上。
  •  
 
4、可独立输出模块化能力
数巅企业大模型解决方案中的每个模块,包括数据虚拟化引擎X-Engine、数巅企业大模型以及面向不同场景的智能应用,如AskDoc,均可独立输出。
  •  
湖仓之上的编排和访问引擎X-Engine:X-Engine以独立的模块化输出,即作为一个定义在湖仓之上的编排和数据访问引擎来工作。X-Engine可以解耦数据资产与物理实现;资产定义即服务,统一资产语义,随用随算;并提供极致的性能计算存储,在实际落地场景中计算和存储成本分别可降低80%和50%。
  •  
IMG_258
 
  •  
生成式智能知识库AskDoc:AskBI展现的非结构化数据的处理能力完全可以作为一个独立模块来赋能企业,即生成式智能知识库AskDoc,它可以在非结构化数据源中智能提取关键信息,实现企业级文档的批量处理以及信息查找总结和原文定位。
  •  
 
数智化决策全民化未来可期
数巅企业大模型解决方案已经在金融、电信等场景成功落地,但当前我们所做的生成式的数据分析,例如AskBI,仅仅是大模型在企业内部应用领域迈出的第一步。我们认为最终的应用将会端到端地帮助企业解决从数据到决策的问题,这才能够为企业带来更多的业务价值。
 
一家由数据驱动的企业需要每位员工都具备数据科学能力,以前大家在讲的是人人都要学习成为一位数据科学家,现在有了AskBI的加持,相当于人人都有了一位数据科学家助理。未来,我们将打磨出更好的产品,“让数据智能像水电一样简单”,在所有的应用场景中,每位员工都可以做出数智化决策,真正实现数据智能决策全民化,这也是我们创办数巅科技的初衷和愿景。
 


第三十八届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:fanwei

免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。