试想这样一个场景：一位用户请 AI 助手协助准备周五的项目汇报。AI 助手收到要求后，可以整理材料、生成图表、写好讲稿。用户没有继续交代时，它能否发现某张图仍在使用旧数据，或某个关键结论缺少支撑？发现问题后，它应当先准备修改方案，还是立即向用户确认？

这些问题涉及一项容易被任务完成率掩盖的能力：主动发现值得做的工作，并判断是否、何时、以什么方式开始做。

综述 《Proactive AI for Superintelligent Agents》 围绕这项能力，梳理了主动式 AI 智能体的概念、历史、实现机制、评估方法与应用。研究团队来自伊利诺伊大学厄巴纳－香槟分校（UIUC）、Google、斯坦福大学、加州大学伯克利分校和卡内基梅隆大学。论文梳理了上千篇相关文献，并深入分析了数十项代表性工作，覆盖 13 个应用领域。

论文： Proactive AI for Superintelligent Agents
链接：https://storage.googleapis.com/gweb-research2023-media/pubtools/1048480.pdf
项目主页：https://empathyang.github.io/Proactive-AI-for-Superintelligent-Agents/
GitHub 仓库：https://github.com/EmpathYang/Proactive-AI-for-Superintelligent-Agents

论文将主动性视为与智能、对齐相互补充的能力：智能支持理解和执行，对齐关注行为是否符合人的意图与价值，主动性则关注如何识别并发起值得开展的工作。三者共同构成论文讨论未来超级智能体的出发点。

这篇综述关心的，是有分寸的主动性：Agent 能提前发现需要处理的事情，也能在证据不足、时机不合适或权限不够时，选择补充信息、询问、等待或不采取行动。

响应式智能体根据用户提出的任务行动；主动式智能体还会识别潜在需求、形成候选目标，并判断是否值得介入。行动结果与用户反馈继续影响后续判断。

1. 主动性：处理指令未明确的决策

如果用户报告一个 bug，要求 Agent 修复，它可能独立完成代码检查、修改和测试。这体现了执行能力，但这次工作仍由用户发现和发起；执行过程中也可能需要 Agent 自主处理未被明确说明的细节。

换一种情况：用户已经委托 Agent 持续维护代码质量。Agent 在检查中发现一个尚未被报告的问题，主动准备修复建议。这时，识别工作、判断它值得处理，也是 Agent 的职责。

论文将主动性定义为：在适用的目标、约束和授权范围内，Agent 无需为每一次干预收到新的明确请求，就能发起有目的的行动。 这里的目标可以来自用户的长期委托，具体干预则由 Agent 判断。

一项任务通常只规定部分内容。例如，“协助完成项目汇报”说明了目标，却很难预先列出所有可能发生的情况：资料晚到怎么办，结论需要补充证据怎么办，截止时间提前了又该怎样调整？论文用“剩余决策空间”描述这些没有被逐项说清的选择。主动性关乎 Agent 如何在被委托的范围内处理这些选择。

任务说明可以明确目标、约束、资源和部分流程，仍会留下取舍、执行细节、意外情况与重新规划等决策。

主动程度与行动权限需要分别看待。 主动发现 bug、准备补丁，并不自动赋予 Agent 合并代码或部署上线的权力。一个助手也可以提前发现日程冲突，同时把所有日历修改留给用户确认。

触发方式同样不能单独决定系统是否主动。定时器可以启动一次检查，后续是否需要干预、该处理什么，仍可能需要 Agent 判断。同一个系统也可以一边响应明确指令，一边在长期目标下发现新的工作。

2. 从研究脉络到 6A：主动行为的六项能力

主动 AI 有很长的研究脉络。控制理论研究如何围绕既定目标根据反馈调整行为；规划与世界模型支持行动前的未来推演；BDI，即信念—愿望—意图架构，讨论如何形成并维持行动承诺。情境感知计算让系统持续掌握用户和环境状态，混合主动交互研究何时提供帮助，以及怎样权衡收益、打断和控制权。

目标推理与内在动机研究进一步讨论目标如何产生、何时修订，以及探索和学习如何形成新的工作。基础模型为目标、记忆、计划和工具调用提供了更通用的表示与推理基础，使这些已有机制能够在更开放的任务中结合。

为了在同一套框架下比较不同研究，论文将相关机制整理为六项相互作用的能力：Awareness、Anticipation、Agenda、Arbitration、Action 和 Adaptation。准备项目汇报这一假想场景，可以帮助说明各项能力的作用。

六项能力相互作用；Adaptation 位于中央，将结果和反馈带回其余各项能力。

Awareness：情境感知，掌握当前发生了什么

助手需要知道汇报的截止时间、材料进度、哪些数据已更新，以及哪些信息还不确定。它要持续维护与任务有关的状态，在必要时查找资料或提出澄清问题。

这里涉及多模态状态跟踪、主动信息获取、分层记忆和运行时调度。难点包括识别过时信息、把不同来源的线索连起来，以及在持续感知的成本与信息价值之间作出取舍。收集到很多信息，不等于已经理解当前情境。

Anticipation：需求与后果预判，判断接下来可能需要什么

看到图表还没更新，助手要进一步判断：它会不会影响汇报结论？现在处理与继续等待，各有什么后果？

预判涉及用户的目标和偏好，也涉及环境变化与行动结果。论文从用户建模、世界建模、反事实推理和生成式场景模拟等方向梳理这项能力：系统需要比较干预和不干预可能带来的差异，并明确预测中的不确定性。

Agenda：议程形成，把潜在需求转成值得持续跟进的目标

“材料可能不完整”还不够具体。助手需要把它转成可跟进的工作，例如核对数据版本、补齐关键图表、检查结论依据，再安排优先顺序。

议程还要随着情况变化而修订，并在跨会话工作中维持承诺。有些事项应持续跟进，有些可以延后，有些已经不值得继续；暂停的任务也可能在条件满足后恢复。否则，Agent 很容易不断生成新的待办，却没有推动主要目标。

Arbitration：干预仲裁，判断是否及何时介入

即使发现了有价值的工作，也要判断这次介入是否合适。助手有多大把握？预期收益能否覆盖计算和交互成本？用户此刻是否方便？操作出了问题能否撤回？

例如，先在草稿里核对数据，与直接改动团队共享的正式报告，涉及的风险和权限不同。仲裁可能让 Agent 选择行动，也可能让它先收集证据、请求确认或继续等待。

Action：行动与交付，在权限范围内把帮助落实

决定介入后，助手还要选择怎样提供帮助：给出提醒，展示修改建议，准备可审阅的草稿，或执行已经获准的操作。

以汇报材料为例，助手可以标出修改位置、依据和仍需判断的问题，便于用户理解、审阅和调整；对外发送等操作则根据已有授权执行，或交由用户确认。

Adaptation：反馈适应，调整下一次主动行为

一次帮助结束后，Agent 需要从结果和反馈中学习：需求判断是否准确，提醒是否及时，用户接受了哪些修改，哪些行动增加了负担。

论文将这类机制归纳为隐含反馈与自我纠正、推理时反思，以及长期校准、个性化和信任。Agent 既要修正当前行动，也要在长期交互中调整对用户偏好、介入时机和主动程度的判断。用户没有回应，并不能直接说明他不需要帮助；Agent 也要处理反馈本身的歧义。

六个 A 描述的是相互作用的能力，不要求系统必须实现为六个独立模块，也不是固定的串行流程。其中，Anticipation 和 Arbitration 对应主动行为的两个突出难点：发现尚未被明确交代的需求，以及判断是否、何时、如何介入。其余能力则支持这些判断被持续、可靠地落实。

3. 三层评估：任务效用、机制表现与用户体验

在项目汇报场景中，即使材料最终按时完成，如果助手频繁打断用户，还生成了大量需要逐条核查的修改，任务成功率也不能说明这次帮助的全部价值。

论文将评估分为三个互补层面。

任务效用（Task Utility）看整体结果。 人与 Agent 合作后，任务质量是否提高，完成是否更及时？这些收益能否覆盖额外的计算、沟通、检查和纠错成本？这里需要把人的投入一起计算。

机制层评估（Mechanism-Level Evaluation）检查帮助是怎样产生的。 评估内容包括情境理解的准确性、需求与后果预测的可靠性、目标与计划的合理性、介入决定与时机的恰当性、行动交付的质量，以及反馈适应对后续行为的改善效果。这些维度对应六个 A，有助于定位系统在哪个环节出现了问题。

用户体验（User Experience）考察协作对人的影响。 用户是否觉得省力，能否理解 Agent 的意图，能否方便地拒绝、修改或撤回操作？信任是否与系统的实际能力相匹配？满意度只是其中一部分，工作负担、可用性和控制感也需要评估。

任务效用、机制层评估和用户体验分别提供不同证据。任务完成不能替代对介入过程和用户负担的检查。

这也要求评估“没有采取行动”的情况。该提醒时保持沉默，会漏掉有价值的机会；无需帮助时不断介入，又会制造干扰。单纯增加主动次数，无法代表系统变好了。

4. 十三个应用领域中的主动能力与实践

综述覆盖编程、GUI 智能体、信息获取、具身智能与机器人、安全与监控、自动化科研、智能家居、智慧城市、医疗健康、法律、教育、娱乐与媒体，以及农业。论文从主动发起的工作与获准执行的操作两个维度比较这些系统。

在编程领域，系统可以主动发现维护需求、准备补丁、运行测试，同时保留代码审阅和部署审批。

自动化科研中，还需要区分“执行研究”与“选择研究问题”。在给定问题下完成文献整理、实验和分析，已经很有价值；持续发现值得投入的问题、决定哪项实验最值得做，还需要额外的目标判断与评估。

在教育场景中，同样需要判断干预的时机。学生停顿时，提示可能帮助他继续，也可能打断有价值的独立思考。一次回答是否被接受，不能单独说明这次帮助是否改善了学习。

从完成指定任务，到持续维护受委托的目标。右侧是预期的未来状态，用于说明研究方向，不代表这些能力已在所有应用领域实现。

在这些具体应用之外，论文还总结了三项跨领域趋势。

首先，许多系统采用基础模型与领域专用能力相结合的架构。基础模型提供通用推理与协调能力，专用预测模型、工具和控制系统则适应各领域的任务要求。

其次，一部分系统正在从单次建议走向持续工作流。Agent 需要维护目标、追踪依赖、处理任务中断，并在条件变化后继续或修订工作。人的角色也相应更多地转向设定目标、约束和审阅结果。

第三，跨领域比较揭示了一个实际瓶颈：系统能多快、多可靠地知道自己的主动行为有没有帮助。

代码修改可以通过编译、测试和审阅较快得到反馈。真实物理实验可能成本高、难以撤回；教育和农业中的部分结果，可能要经过一个学期或一个生长季才能观察。因此，即使 Agent 架构相似，也会面对很不一样的验证条件。

当 Agent 提出的候选工作超过用户能够核查的范围时，成本就转移到了审阅与验证环节。这些条件会影响系统能持续承担哪些主动工作。

5. 迈向经过校准的主动性

一个直接的问题是：现有评测是否真正考察了智能体发现值得开展工作的能力？ 如果评测先把任务完整地交给 Agent，再检查它是否完成，就很难判断它能否在开放环境中识别新的需求。未来评测需要把任务发现的质量、优先级安排和干预适度性纳入考察。

长期协作又提出了新的要求。目标和偏好会变，曾经正确的记忆可能过时，授权的范围和适用条件也可能发生变化。Agent 需要在跨任务、跨会话的过程中更新情境与目标，并在这些条件变化时重新确认边界。

论文还讨论了主动性与自我进化的关系：主动发现能力缺口，可以为学习提供方向；学习与适应，又可能改善需求判断和行动选择。这仍需要可靠的反馈与验证，避免把错误或有偏的经验固化为长期策略。

为支持长期监督，系统需要向用户说明行动的理由和依据，并让用户能够纠正其行为或停止其运行。让主动程度随不确定性、风险、时机、用户偏好和权限调整，是这篇综述所强调的“经过校准的主动性”。

在应用前景上，论文进一步展望了长期陪伴用户的个人智能体、进入物理环境的具身系统，以及跨用户、跨组织协作的智能体网络。这些方向还需要相应的责任划分、监督方式和制度安排，是未来的研究议程。

论文展望的长期协作是：用户给出持续的目标，Agent 在变化中发现并推进必要的工作；当情况超出理解或授权范围时，再将需要判断的部分清楚地交还给用户。

衡量这种协作的进展，需要同时考察长期目标是否得到推进，以及监测进度、补充指令、纠错和核查所需的人工投入是否减少。