去年秋天,一个做AI产品经理的朋友跟我吐槽。他说现在开会,每说一次'AI智能体',至少有三个人会追问'你说的是哪种AI智能体'。研发觉得是模型加提示词,产品觉得是能调工具的工作流,合规那边觉得是有行为能力需要管控的数字实体。同一个词,各说各话。

这其实不是沟通问题。AI智能体这个概念的边界正在快速移动,学术、标准、政策和产业,每个视角下它长的都不一样。而怎么定义它,直接影响到后面一连串的事情:能力怎么测,风险怎么判,出事了谁来负责。
四个阵营,四套说法
先说学术。这个词的根在那儿。上世纪90年代,学者们开始搭框架的时候,注意力在'感知环境、自主行动、达成目标'这几个基本动作上。后来条件慢慢加码:要能自己做决定,要能持续跟环境交互,最好还能多个AI智能体一起协作。学术圈干的事,是把一个概念从粗糙打磨到精密,给它一个理论底盘。但这个底盘往往太宽,具体到某个系统算不算AI智能体,边界是模糊的。
政策治理那边完全是另一套逻辑。欧盟的人工智能法案没有单独把AIAI智能体列成一个法律类别,而是把它塞进了'AI系统'的框架里。这个选择本身透露了一个态度:不想在立法层面额外开一个盒子。但NIST、英国政府、日本AISI和EDPS近年的研究又在不断往里塞新东西——有限人类监督、多步任务执行、工具调用。政策视角真正关心的是:这个系统能不能影响外部世界,什么时候必须有人盯着,出了边界谁来摁停。
标准文件最枯燥,但最务实。它要解决的问题很简单:大家说话能不能用同一个词。早期标准只提感知和行动,后来不断补丁式地往里加学习、记忆、规划和工具使用。标准化的本质是妥协和收敛,它不追求理论上的完美,只追求评测和接口规范上能对齐。
产业界最简单粗暴。一个系统能不能把事办了?能,就是AI智能体。普通程序是'如果A就B',AI智能体是'目标是C,你自己安排步骤、调工具、看结果、再调整'。所以产业眼里的AI智能体从来不只是一个模型,而是模型、记忆、工具和一套任务流程打包在一起的复合体。
四个视角凑在一起,勉强能拼出一个共识:AI智能体是以特定目标为导向,能感知、能决策、能行动的智能系统。但共识到此为止。学术要的是基础属性,标准要的是可评测,政策要的是风险可控,产业要的是能跑通。
定义在变,因为技术在变
定义的变化不是文字游戏。过去两年,AI智能体从规则驱动的软件代理变成了大模型驱动的复杂任务执行系统。这个转变背后是四条真实的技术演进路径。
第一条,评价标准变了。以前看你有没有感知和行动能力,现在看你面对一个复杂目标,能不能自己拆步骤、保持状态、根据反馈修正、把多个工具串起来用。任务完成率、稳定性、出了错能不能解释——这些成了真家伙。
第二条,内部结构变了。从简单的'感知-行动'两端,拉长成'推理-规划-记忆-工具调用-执行反馈'一整条链。这不是加了几个模块的问题,是每一个环节都变成了可出错的节点。记忆怎么存、工具怎么接、运行状态怎么监控,重要性直线上升。

第三条,单个AI智能体不够用了。多个AI智能体分工协作的场景越来越多,系统表现不只看单个模型好不好,还看它们之间怎么通信、谁来校验结果、人工什么时候介入。复杂度上了一个台阶。
第四条,竞争的焦点在转移。以前拼的是模型参数量,现在拼的是系统工程能力。模型层、工具层、权限层、监测层、治理层,每一层都卡脖子。集成得好不好,约束机制设得合不合理,这些东西开始决定一个AI智能体能走多远。
治理,跟不跟得上
AI智能体能自主调用工具、影响外部环境,这个能力把原来针对大模型的那套监管框架捅出了好几个窟窿。
最直接的变化是治理对象的扩展。传统上管生成式AI,核心盯三样:训练数据、输出内容、模型偏见。AI智能体一进来,事情就不一样了——它调了数据库、改了软件状态、甚至可能动了实体设备。你还盯着输出文本有什么用?工具接口、部署环境、操作权限全都得纳入视野。
随之而来的是治理重点的转移。原来重点是内容安全,现在权限和行动安全得跟上。这个AI智能体能干什么、有没有授权、干完了能不能撤回来——这些问题在内容安全框架里找不到答案。所以权限最小化、分级授权、高风险操作人工确认,这些机制开始进入讨论。
治理节奏也在变。以前是上线前做一轮评估,过了就过了。AI智能体的问题在于,它的能力边界会随着接入新工具而扩展,运行风险会在部署后慢慢浮现。单次测试根本不顶用。开发、测试、部署、监测、更新、应急响应,全生命周期都得有安排。
'人在回路'这个说了很多年的原则,终于被逼成了具体操作。不是笼统地说'需要人类监督',而是要明确什么情况下自动执行、什么情况下必须人工批、什么时候启动紧急熔断。还要把日志和事后的复盘机制做实。这些以前是锦上添花,现在是刚性约束。
最后,治理本身也在下沉。原来谈AI治理,都是'公平透明可解释'这种通用伦理原则。现在AI智能体逼着大家去碰工程规范、合规要求和行业细则。术语怎么统一、评测怎么搞、身份怎么确认、接口怎么定、审计怎么查——这些东西可能先成为通用底座,然后不同场景再长出差异化的规则。
还缺什么
说了这么多,有一个问题其实一直悬着。
AI智能体现在被定义为一个由模型、工具、记忆、流程和治理机制构成的复合系统。这个说法没错,但它是从外部观测得出的描述。从内部看,一个AI智能体的行为边界到底在哪里?它调用的工具出了错,责任怎么在各方之间切?当多个AI智能体协作完成一个任务,最后的决策该算谁的?
这些问题,目前的定义和框架都还兜不住。学术还在建理论,标准还在磨术语,政策还在划边界,产业还在跑场景。AI智能体的概念往前走了一大步,治理和评测的工具箱还在后面追。
这种不匹配本身就是一个信号:定义不只是文字工作,它最终会落到能力怎么测、风险怎么管、责任怎么分。而这些事,靠一个统一公式是解决不了的,得在不同场景里一点点磨出来。