“实时学习”引领大模型新趋势|传神语联打通大模型落地应用最后一米
“实时学习”引领大模型新趋势|传神语联打通大模型落地应用最后一米
2025-01-17 12:50:12 来源:抢沙发
2025-01-17 12:50:12 来源:
摘要:传神语联创始人何恩培受邀出席本次论坛,并发表题为《根原创是大模型时代安全的根本之道》的主题演讲,他阐述了“数推分离”技术所实现的“实时学习”能力,强调“实时学习”是大模型的必备能力,为大模型行业发展提供新的思路与方法。
关键词:
大模型
年会
2025年1月4日,由CIO时代主办、新基建创新研究院提供智库支持的新年论坛暨颁奖典礼在北京盛大举行。本次活动聚焦“AI引领的数字未来”,百余位来自政府、央国企、金融、制造、能源、新零售和互联网等多个领域的行业专家、研究学者、优秀CIO群体和科技企业代表等大咖欢聚一堂,共同探讨数字化时代的发展趋势和创新实践。
传神语联创始人何恩培受邀出席本次论坛,并发表题为《根原创是大模型时代安全的根本之道》的主题演讲,他阐述了“数推分离”技术所实现的“实时学习”能力,强调“实时学习”是大模型的必备能力,为大模型行业发展提供新的思路与方法。
在当今世界,地缘政治格局正经历着深刻的变化,人工智能被视为未来科技发展的核心领域,具有巨大的经济和军事价值,掌握人工智能底层核心技术将在未来的国际竞争中占据优势地位。国新办前三季度工业和信息化发展情况新闻发布会上指出“要夯实人工智能技术底座,着力推动大模型算法、框架等基础性原创性的技术突破,强化‘根’技术研发。”这意味着,我们需要重视国产大模型在新一代技术领域的探索,坚持“根原创”势在必行。
传神语联自创立之初便专注于神经网络的人工智能技术路线,成为当时人工智能领域的少数派。在国内开源生态尚未成型的情况下,团队凭借自主研发的神经网络底层开发库 zANN,在产品研发过程中持续对其迭代升级。同时将人工智能研发成果应用于语言服务领域,推出语联网智能翻译服务平台,并基于 zANN 开发出自研的机器翻译引擎与多语预训练语言模型。2022 年底,ChatGPT 3.5 推出,传神 AI 团队敏锐捕捉到其中的趋势,凭借在语言服务领域的 AI 实践与积累,利用自主研发的 zANN 开发库,研发出类 Transformer 的 moH(混合商)神经网络架构,并基于 moH(混合商)完成了全栈自研的任度大模型,该模型不依赖任何开源代码,真正实现了 “根原创” 。其 “数推分离” 双网络技术架构,更是突破了传统大模型数据与推理一体化的局限,有效提升了处理效率与数据安全性。
数推分离,即客户数据学习网络与推理网络分离。其中,客户数据学习网络专注于数据的动态管理与迭代训练,持续为模型注入知识;推理网络,作为经大量数据预训练的基础网络,有良好的推理和泛化能力。双网络架构既支持独立训练,也支持联合推理,显著降低了训练算力成本,有效避免了微调训练造成的基座模型能力退化和泛化能力减弱等问题。
相较于向量库加RAG的方式,将客户的数据压缩到大模型的网络中,能够让大模型在“理解”的基础上更充分的利用这些数据,而客户数据要压缩到大模型就需要消耗很多的算力,大幅提升了客户的算力成本。任度大模型的“数推分离”双网络架构,能够以极低的算力消耗,在客户数据不离场的情况下,压缩到任度大模型的客户数据学习网络中,实现对客户数据的实时学习。在节省算力的同时也很好的避免了常规微调方式下模型能力退化的缺点,并且对于混入的无效数据,能够以文档为单位进行移除,实现对大模型的“知识拔插”。这与近期强化学习之父Rich Sutton提出的“炮轰深度学习只是瞬时学习,持续学习才是智能突破的关键”观点不谋而合,进一步验证了传神语联在人工智能领域的根原创突破。
“根原创是大模型时代安全的根本之道,我们正在做难而正确的事情。”何恩培强调,“中国要有完全自主可控的根原创技术,因为根原创技术,才会让我们未来可以长久的过得更好更安全。”
会议同期,为了彰显数字化转型的核心价值,展示数字化革新的榜样力量,CIO时代联合新基建研究院,经过全面评估和深入考量,确立五大评选维度,举办了五场颁奖典礼。分别从不同角度对在数字化进程中表现卓越的个人和企业予以高度肯定,激励着更多的从业者以他们为标杆,奋勇前行,共同推动数字化浪潮奔腾不息,引领行业迈向更加辉煌的未来。
传神语联任度大模型,采用的“数推分离”双网络技术架构能够实现实时学习能力,凭借这一独特的技术成果、优质的服务和可靠的解决方案获得“2024年度CIO信赖的数字化伙伴奖”,表彰其在推动数字化转型道路上的突出贡献。
以上荣誉不仅代表企业和个人在该技术或商业领域有着突破性的重要贡献,更是标志着业界对传神语联自主研发能力、根原创大模型产品方案的全面认可,是软实力与硬实力兼备的象征。未来传神语联将深入贯彻“根原创”路线,努力夯实“数推分离”技术,通过大模型的“实时学习”能力为千行百业注入动力,成为底层创新的革命性创造者,为发展高质量AI创新蓄势赋能!
✦精彩推荐✦
(点击下方图片查看详情)
添加CIO时代“小希”,
领取“2024数字化转型资料”大礼包!
小 希:15701060895
第三十九届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:zhanghy
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。