CRYPTO & AI
無料で登録
AI

【コーディングエージェントの成績比較】最良のモデルでも、依頼を最後まで完璧にこなせたのは273タスク中26.4%でした

新しいベンチ Co-Design Bench の10モデルの成績を、Anthropic が公表した別の3つのベンチの表と並べ、差の大きさと条件の違いまで含めて整理します。

【コーディングエージェントの成績比較】最良のモデルでも、依頼を最後まで完璧にこなせたのは273タスク中26.4%でした

コーディングエージェント(指示を受けて、コードを読み、直し、動かして確かめるところまでを自分で進めるAI)の成績表は、モデルが出るたびに更新されています。ところが、「どの表が実際の仕事に近いのか」は分かりにくくなっています。新しいベンチ Co-Design Bench では、10モデルの中で最良の GPT-6 Astra でも、平均すると各依頼の受入基準(依頼が満たすべき条件)の69.9%を満たしながら、全部を満たして終えられたのは273タスク中26.4%でした。

この記事では、Co-Design Bench の10モデルの成績と、Anthropic が自社ページで公表した Terminal-Bench 4.0・FrontierCode v1.1・CursorBench 4.0 の表を並べ、数字から言えることと言えないことを分けて見ていきます。数字は11/9 時点で公開されているものです。

TOPICS

DEBUNK編集長

あわせて読みたい用語解説

用語解説をすべて見る →
【NPU】AI向けの計算チップ「NPU」とは何か、GPUと何が違うのか11/8のNVIDIAの発表に出てきた「NPU」を、GPUとの違い、推論での使いどころ、よくある誤解とあわせて整理します。【苦い教訓】AI研究の70年を、Richard Sutton氏はどう要約したのかRichard Sutton氏が2019年に書いた随筆「The Bitter Lesson(苦い教訓)」の主張と、いま起きている論争を、原典の記述にそって整理する記事です。【ベンチマーク】点数が高いのに「使えない」が起きる理由を、飽和と実行環境から読むAIの成績表であるベンチマークの点数が、なぜ実際の使い心地とずれるのかを、新しいコーディング評価 Co-Design Bench の結果とあわせて整理します。【スケーリング則】計算・データ・パラメータを増やすと、AIの性能はどこまで予測どおりに伸びるのかAIの開発各社が計算資源に巨額を投じる理由になっているスケーリング則を、Kaplanらの2020年の論文とChinchillaの2022年の論文、その後の使われ方、よくある読み違いとあわせて整理します。【プロンプトインジェクション】AIエージェントが読んだ文章に指示を紛れ込ませる攻撃と、防ぎきれない理由AIエージェントが外部の文章を読んで動くときに起きるプロンプトインジェクションを、直接型と間接型の違い、根本的に防ぎにくい理由、各社の対策の現状とあわせて整理します。【トランスフォーマー】いまのAIの土台になった仕組みと、注意機構が並列の学習を可能にした理由ChatGPTをはじめ、いまの言語モデルの土台になっている「トランスフォーマー」を、注意機構の考え方、並列に学習できる理由、その弱点と最近の改造とあわせて整理します。【拡散モデル】ノイズから画像や動画を作る仕組みと、トランスフォーマーとの組み合わせ画像・動画の生成AIの多くが使う「拡散モデル」を、ノイズを足して消す仕組み、文章で指示する方法、トランスフォーマーとの組み合わせ、速くする工夫とあわせて整理します。【合成データ】AIの学習に使う「作られたデータ」の仕組みと、モデル崩壊の議論AIの学習に使う「合成データ」を、言語モデル・シミュレーター・表データという3つの作り方、モデル崩壊の議論、いまの使われ方とあわせて整理します。