AI安全

當 AI Agent 開始自己做決定:Anthropic 研究揭露的信任悖論與監管幻覺

我們正在目睹一個前所未有的轉變:人類不是放棄控制權,而是正在學習一種全新的控制方式。但問題是,這種控制方式能擴展到醫療、金融和法律嗎?

oDust

Anthropic 在 2026 年 2 月 18 日發表了一篇研究文章:Measuring AI Agent Autonomy in Practice。他們分析了數百萬次 Claude Code 和公開 API 的人機互動數據,試圖回答一個我們都在迴避的問題:人們到底給了 AI Agent 多少自主權?而這個自主權正在往哪個方向移動?