允中 发自 凹非寺量子位 |湖北光谷新能源有限公司 公众号 QbitAI
在大模子的多种应用形态中，，，，，执行专业功效的行业Agent，，，，，无疑是提升生产效率、实现价值创立的利器。。。。。。
然而，，，，，千行百业包括着大宗的私域知识、专家履历和工具使用逻辑，，，，，使得智能体的行业应用构建保存种种门槛。。。。。。
为了提升开发效率，，，，，业界提出了诸如Skills、OpenClaw等优异的工程框架，，，，，使得专业Agent的开发门槛日益降低，，，，，也让针对Agent应用的多维度算法优化需求愈发凸显。。。。。。
在此配景，，，，，华为诺亚方舟实验室近期在官网更新了面向行业应用的算法包MindScale，，，，，这一项目融合了实验室的算法立异基因与华为行业智能化营业实践履历。。。。。。
其系统性梳理了Agent时代将“大模子”转化为“生产力”的算法手艺挑战，，，，，并给出了对应的手艺论文昇腾代码实现，，，，，为行业用户与开发者提供了直接的“上手指南”。。。。。。
制约行业Agent生长的四大焦点挑战
在MindScale项目中，，，，，研究职员识别了在行业普及Agent应用的四大挑战：
事情流手工维护：依赖专家将营业规则“翻译”为Agent事情流；；；；；；； ；历史知识复用难：历史推理路径与反响无法有用使Agent系统自演进；；；；；；； ；训推效率瓶颈：大宗模子安排与迭代需求+思索路径变长，，，，，本钱压力陡升；；；；；；； ；重大推理测评：多步、多工具交织推理，，，，，单精度指标无法准确反应模子效果。。。。。。实现事情流自进化与提醒词自动化闭环
为了应对这些挑战，，，，，诺亚的研究职员与多所相助单位一道，，，，，给出了自己的解决计划。。。。。。
例如，，，，，面向行业Agent开发中最常见的事情流（Workflow）开发场景，，，，，算法包中包括了自进化的Agent算法EvoFabric
与手动提取事情流高度依赖专家履历差别，，，，，使用SOP2Workflow可以快速从自然语言文档与历史工具库，，，，，直接天生可执行的Workflow。。。。。。
△由用户誊写的网页功效测试SOP→自动天生的整个Workflow
为了实现这样无邪的Workflow天生，，，，，研究职员接纳了基于状态图引擎内核的Agent实现，，，，，原生支持混编Agent、工具等多种图节点，，，，，支持状态的改写和分组融合处置惩罚，，，，，实现多智能体、多工具、多影象形态的深度混编，，，，，图引擎还支持DSL文件的导入与导出，，，，，实现重大智能流程的快速复制、迁徙与安排。。。。。。
同时，，，，，该算法框架还可以实现基于影象的演进——多轮执行时，，，，，影象�？ ？？？？？？？槭褂霉旒Ｓ跋螅�，，，，以及其时的评估效果形成履历优化上下文，，，，，实现Agent越用越好。。。。。。
另一个有趣的功效，，，，，是让模子最先自己举行“prompt优化”
首先，，，，，基于前期已经先行宣布的prompt在线优化算法SCOPE，，，，，开发者可以实现在每步推理之间举行prompt在线优化，，，，，通过注入萃取历史路径中的有用信息实现提醒词的快速优化，，，，，在HLE和GAIA等agentic reasoning的场景里可以取得20%以上的精度提升。。。。。。
别的，，，，，研究职员还提出了“大模子prompt优化器”C-MOP，，，，，通过立异的样本选取与梯度更新战略，，，，，解决了“文本梯度”的冲突问题，，，，，实现了基于正负例反响的prompt自动优化，，，，，真正做到了“反响->演进”的prompt优化闭环。。。。。。
△C-MOP：融合正误双向样本感知与时序动量梯度的提醒词优化器。。。。。。
榨干算力潜能并适配国产硬件生态
除了精度提升，，，，，MindScale也注重面向行业场景模子的训推效率优化，，，，，例如：
其中的TrimR用一个已预训练、指令微调的轻量验证器在线检测并截断无用中心思绪，，，，，全程无需微调大模子或验证器；；；；；；； ；配套工业级异步在线系统，，，，，适配大并爆发产场景。。。。。。
在MATH、AIME、GPQA等基准与多款LRM上，，，，，TrimR在险些不影响准确率的条件下，，，，，将推理时延显著降低，，，，，大并发场景最高可达约70%提速，，，，，实现现实应用场景中的Test Time Scaling。。。。。。
△TrimR：工业级头脑链动态压缩算法框架
别的，，，，，为了适配行业场景高并发的推理压力，，，，，MindScale还提供了新的基于KV Cache的推理计划。。。。。。
与通用计划中KV Cache只是用来加速解码的“幕后工具”差别，，，，，研究职员提出KV-Embeddings，，，，，把KV Cache视作一种“免费附赠”的轻量体现，，，，，无需特殊盘算或存储完整隐状态，，，，，可以在链式体现推理（Chain-of-Embedding）和快慢思索切换等要害场景中，，，，，基于多款主流模子上实现性能持平或反超专用embedding模子，，，，，同时将天生token数最高镌汰5.7×
这些效果批注——KV Cache不但是加速器，，，，，更是一块尚未被充分使用的“思索缓存”，，，，，为大模子推理阶段的体现复用翻开了新的想象空间。。。。。。
别的，，，，，诺亚方舟实验室与相关相助团队还在使命影象、Agentic RAG、通用算法发明框架等多个偏向上，，，，，沉淀了大宗经由实战磨练的、围绕行业智能优化的立异算法手艺架构。。。。。。
同时，，，，，MindScale还也包括了适配昇腾硬件的代码实现，，，，，可以让行业开发的小同伴们，，，，，基于国产算力实现高精度、高效的Agent构建。。。。。。
https://noah-m湖北光谷新能源有限公司indscale.github.io/华为诺亚方舟实验室主页：https://www.noahlab.com.hk/#/home