新闻中心

新闻中心顺网科技最新动态

灵悉引擎:轻松构建AI陪伴应用,高效赋能行业创新
发布时间:2024-01-22

从大模型到应用的距离到底有多远?


日前召开的“跃迁·向未来”顺网科技战略升级及产品升级发布会给出了答案,大模型落地到应用并不是在跑“最后一公里”,它们之间还有很长一段路要走,而智能体引擎将进一步缩减大模型到应用之间的距离。就此,顺网科技CEO樊星博士从实践层面提出了大模型应用落地的挑战。顺网科技结合实际项目经验,提出了“AI应用的五层范式”,旨在解决AI应用落地的难题。而顺网创新研发的灵悉引擎,将在智能体层发挥连接算力、大模型与应用的关键作用,帮助从业者降低AI的准入门槛,促进高质量AI陪伴应用的构建。



AI应用五层范式——从大模型到应用,需要智能体引擎

在落地层面,顺网科技探索出一条新的道路,即涵盖“算力层、基座模型层、模型池层、智能体层、应用层”的“AI应用五层范式”。其中,算力层提供了强大的计算基础,支撑着模型的训练和运行;基于此,基座模型层利用这些算力构建出可适用于多种任务的通用深度学习模型。紧接着,模型池层作为一个资源库,存储了各种经过特定训练或微调的模型,以备不同的应用场景调用。在此基础上,智能体层发挥着至关重要的作用,它不仅整合了底层的算力和模型资源,还根据应用层的具体需求,智能地选择和调度这些资源,确保问题解决的高效性。最终,应用层将这一切转化为面向用户的具体产品和服务。


202401310752.png


在顺网科技AI应用五层范式中,智能体引擎不仅是技术到应用的转化器,更是连接整个体系高效运作的关键。通过智能体引擎的有效运用,大模型的强大能力得以在各种实际应用场景中得到充分发挥,最终实现了大模型到应用的顺利转化。



灵悉引擎——用好算力与模型,轻松打造高质量的AI陪伴应用

基于五层范式,顺网科技研发了自己的智能体引擎——灵悉引擎(SPICE AGENT ENGINE)。灵悉引擎具备四个核心系统智识中枢、感知与反馈、执行体系陪伴设定。智识中枢致力于提供更强的决策规划能力和更低的使用门槛;感知与反馈板块关注于智能体的环境感知和用户交互,增强形象和声音等多模态交互的体验;执行体系通过任务补全、链接和执行来实现复杂功能;陪伴设定则提供了个性化和快速生成的能力,允许用户根据自己的需要创建定制化的智能体,实现个性化陪伴。灵悉引擎通过这些组成部分,实现了在从大模型到应用的过程中有效地连接算力、模型与应用,帮助从业者用好算力与模型,轻松打造高质量的AI陪伴应用。


202401310166.png


其中,智识中枢与陪伴设定是灵悉引擎的两大特色模块。


一方面,通过智识中枢,参数更小的模型(小于10B)能实现与大模型(175B)相当的任务规划和决策能力。这一点在AI领域具有重大意义。普通的大模型虽然功能强大,但常常伴随着高昂的计算成本和算力要求。相反,智识中枢通过精心优化模型结构和算法,达到了在较低资源消耗下实现高效决策和任务规划的目标,从而大幅降低了成本和准入门槛;


202401310692.png


另一方面,陪伴设定模块则提供了更大的灵活性和个性化选项。这个模块允许用户根据自己的需求定制智能体,不仅可以依据极少信息快速生成智能体,还可以进行深入的个性化定制,满足更复杂的需求。例如,智能体可基于角色、行为、知识、属性和能力进行多维度定制,实现千人千面的个性化定制效果。



艾卡帕尼评估体系——评估智能体陪伴能力

基于在AI陪伴领域深入的探索,顺网科技总结了一套评估智能体陪伴能力的评估方法——AI  Companion  Benchmark即艾卡帕尼评估体系。其具备对话能力、角色一致性、角色扮演吸引力、决策能力四大类共17大评估维度。通过这些综合性的评估维度,艾卡帕尼评估体系能够全面地衡量智能体的综合陪伴能力,为AI陪伴应用的开发和优化提供了一套标准化的评价框架,从而进一步推动AI陪伴技术发展、提高AI陪伴应用质量。


通过艾卡帕尼评估体系的评估,我们观察到灵悉引擎开发的智能体在陪伴能力方面已经达到与直接使用大模型封装的智能体相当的水平。采用大模型的智能体意味着承担更高的运营成本,而通过灵悉引擎构建智能体应用,则将显著改善成本结构,降低AI应用开发准入门槛。


202401310300.png


在当前的发展周期内,想要充分、海量地提供AI应用服务,灵悉引擎将充当重要角色。它不仅在工程层面上实现了与大模型相似的陪伴能力,更在实操层面上为更为广泛的智能体应用提供了可行性,这在未来AI应用的大规模普及和发展中将发挥巨大的作用。


如果说2023年标志着“大模型”时代的到来,那么2024年或将成为“AI应用”爆发的开始。在这个新的阶段,模型的价值将不仅仅体现在其技术先进性上,更在于它们如何被有效地应用于解决实际问题和创造价值。随着模型层的快速发展和成熟,未来的AI产业趋势将越来越多地由应用层驱动。这意味着,将高端模型技术转化为具体、实用的应用将成为推动行业发展的关键。在这个过程中,像灵悉引擎这样能够连接模型与应用、同时优化成本效益的解决方案将发挥至关重要的作用,引领AI技术从“模型时代”向“应用时代”转变!


XML 地图 | Sitemap 地图

云顶集团官方入口