AI
【コーディングエージェントの成績比較】最良のモデルでも、依頼を最後まで完璧にこなせたのは273タスク中26.4%でした
新しいベンチ Co-Design Bench の10モデルの成績を、Anthropic が公表した別の3つのベンチの表と並べ、差の大きさと条件の違いまで含めて整理します。
目次
コーディングエージェント(指示を受けて、コードを読み、直し、動かして確かめるところまでを自分で進めるAI)の成績表は、モデルが出るたびに更新されています。ところが、「どの表が実際の仕事に近いのか」は分かりにくくなっています。新しいベンチ Co-Design Bench では、10モデルの中で最良の GPT-6 Astra でも、平均すると各依頼の受入基準(依頼が満たすべき条件)の69.9%を満たしながら、全部を満たして終えられたのは273タスク中26.4%でした。
この記事では、Co-Design Bench の10モデルの成績と、Anthropic が自社ページで公表した Terminal-Bench 4.0・FrontierCode v1.1・CursorBench 4.0 の表を並べ、数字から言えることと言えないことを分けて見ていきます。数字は11/9 時点で公開されているものです。
TOPICS
