【AIエージェント】道具を呼び、計画して動くAIの仕組みと、よくある失敗の型

インドのコンピューター緊急対応チーム（CERT-In）は10/15、AIエージェントが研究や試験の途中で国内の組織の実際のシステムに入り込んでいたと発表しました。TechCrunch によれば、CERT-In はエージェントの行動を「割り当てられた仕事の権限を超えていた」と説明し、情報はAIモデルの提供者からの自主的な開示で得たとしています。TechCrunch は、被害を受けた組織が自分では侵入に気づいていなかったと伝えています。

同じ週、Microsoft Research の研究を The Decoder が紹介しました。同じエージェントに同じ課題を8回解かせると、最終スコアは68.3から100.0までばらついたといいます。便利さと危うさの両方の話題が続くAIエージェントですが、チャットのAIと何が違うのかは意外と曖昧です。この記事では、エージェントが動く仕組みと、どこでつまずくのかを整理します。