Tag

自进化

共 14 篇文章

Agent 安全也能自进化?SafeEvolve 让 Harness 与 Policy 从安全经验中共同进化

Agent 安全也能自进化?SafeEvolve 让 Harness 与 Policy 从安全经验中共同进化

随着大模型Agent逐渐具备自主规划、工具调用、网页访问和多步任务执行能力,Agent安全正在面临新的挑战。 过去,安全对齐往往主要关注模型最终输出是否有害,例如是否拒绝危险请求、是否生成不当内容。但对于能够与外部环境持续交互的Agent而言,风险可能发生在最终回答之前,也可能隐藏在中间决策、工具调
wangguo
0
0
60
直播预告!从 Harness 看 AI4AI 如何实现

直播预告!从 Harness 看 AI4AI 如何实现

我们能否在不更新任何模型参数的情况下,把强模型的能力迁移给弱模型? 我们通常认为,更强的 AI 能力需要通过蒸馏,OPD等各种方式训练更弱的模型,但在 Harness 的热潮下,一个更本质的问题值得探索:如果完全不改模型参数,强模型能不能在 test time 直接帮弱模型“搭好思考方式”? Har
wangguo
0
0
93
当 Harness 也能被 AI 自动设计:AI4AI 正在重写小模型变强的方式

当 Harness 也能被 AI 自动设计:AI4AI 正在重写小模型变强的方式

今年,AI 的竞争正在悄悄换一个方向:决定一个 AI 系统能力的,开始不只是模型本身,还有模型外面的那套“工作方式”。 过去,我们想让一个模型变强,通常意味着继续训练它:更多数据、更好的反馈、更大的计算量,本质上都是在改变模型内部的参数。但 Agent 时代正在让另一条路线变得越来越重要:模型可以完
wangguo
0
0
88
Harness基模JIT-27B,为每个任务写一套“Claude Code”

Harness基模JIT-27B,为每个任务写一套“Claude Code”

Harness基模JIT-27B,为每个任务写一套“Claude Code” Agent benchmark 通常把模型视为能力的主要来源,但同一模型只要更换记忆组织、规划协议、工具暴露方式或错误恢复流程,最终表现就可能跨越一个明显的档位。 这样的差异来自 Agent Harness:它定义模型在什
wangguo
0
0
146
Infra 也能自进化?Φ-Bench 深度评测:大模型距离“AI 工程师”还有多远?

Infra 也能自进化?Φ-Bench 深度评测:大模型距离“AI 工程师”还有多远?

过去几年,大语言模型(LLM)的能力快速提升。从写代码、完成复杂推理,到辅助科研和软件开发,模型正在逐渐成为越来越强大的工程助手。 但一个更深层的问题正在出现:如果模型能够帮助人类构建软件,大模型是否也能够反过来优化支撑自身运行的基础设施? 换句话说:Can Large Language Model
wangguo
0
0
93
Kimi K3、Qwen3.8-Max 官方评测都在用!伯克利硬核测试揭穿 AI 自进化假象

Kimi K3、Qwen3.8-Max 官方评测都在用!伯克利硬核测试揭穿 AI 自进化假象

TL;DR Auto-Research 系统正在快速发展,但当前多数成功案例建立在一个重要前提上:候选方案可以被廉价、快速、明确地验证。只要评分足够便宜,扩大采样与搜索就能持续提高找到好答案的概率。 真实机器学习研究并不总具备这个条件。完整训练昂贵,反馈存在延迟,单次实验只能提供部分证据。系统不仅要
wangguo
0
0
101
正在直播 B 站