【9/11(金)~9/14(月)News Report】AnthropicのAmodei氏がAI開発の減速に向けて3つの案を示す / Altman氏が2026年のOpenAI上場は賢明でないと発言 / インドのPocket FMが年換算売上$500Mに倍増、カタログの93%をAIが担うなど

おはようございます。
9/11(金)~9/14(月)の主要ニュースを紹介します。

Pickup News

Anthropic CEO outlines plan to slow AI development

AnthropicのDario Amodei氏が個人ブログのエッセイで、AIモデルの能力を高めるペースを落とすべきだとして3つの方策を示しました。METRのような第三者の評価者を社内に常駐させること（Anthropicは単独で実施を約束）、民主主義国の主要AI企業が共通の安全基準をすり合わせること、米国と同盟国が権威主義国の政府とも協調を試みることです。

TechCrunchによれば、OpenAIのSam Altman氏はペースを落とす必要があるとして同意し、Elon Musk氏も「Darioは正しい」と投稿しました。一方で、これは規制の虜（規制する側が業界に取り込まれる状態）そのものだという批判も紹介されています。要は、減速が各社のトップどうしで公に語られる話題になったということです。

OpenAI's Sam Altman says it would be 'ill-advised' to go public in 2026

OpenAIのSam Altman氏がFortune編集長のAlyson Shontell氏のインタビューで、IPOを急いではいない、安全をめぐって起きていることを考えると今は上場に賢明でない時期だと述べ、2026年ではないと話しました。OpenAIはIPOを非公開で申請しています。

上場するのは、事業の準備が整い、この技術に対する社会の空気から見ても準備ができたと感じたとき、とも述べています。

TechCrunchは6月のThe New York Timesの報道として、OpenAIが2026年第3〜第4四半期の上場を目指していたこと、株価の変動と自社の財務上の課題から2027年に傾いていたことを伝えています。つまり、市場や財務の事情に加えて、安全をめぐる空気も上場時期を左右する理由として経営トップの口から語られたということです。

India's Pocket FM doubles revenue run rate to $500M as AI powers 93% of audio content

インドの音声シリーズ配信Pocket FMが、年換算の売上ランレート（月次売上を12倍した値）を1年で$250Mから$500Mに倍増させました。AIが全カタログの93%を担い、新作の99%の制作に使われています。

共同創業者兼CEOのRohan Nayak氏によれば、制作コストは約80分の1になり、以前は約1年かかった100時間分のコンテンツが1日で作れます。12か月の売上維持率は2年前の44%から76%に上がりました。

一方でNayak氏は、100年続く作品（IP）を作るには人間が必要だとも述べています。3か月前に出したマイクロドラマのアプリPocket SagaはコンテンツがすべてAI製で、人間が関わり続けるPocket FMとは作り方を分けています。要は、同じ会社の中で人が関わる本体と全部AIの新アプリを並べて走らせているということです。

その他のニュース

Jensen Huang explains why Nvidia will grow an astounding 70% next year

• NVIDIAのJensen Huang氏が木曜のGoldman Sachs Communacopia + Technologyカンファレンスで、来年は前年比70%伸びうると自信を示しました。TechCrunchは、アナリストが予想する今期の売上約$400Bを基に、70%成長なら来年は約$680Bになると計算しています。
• Huang氏は「GPU1基はもう$399ではなく$8.5Mだ」と述べています。TechCrunchによれば、Grace CPU36基とBlackwell GPU72基を組んだシステムの売上は前月比27%増です。
• AI企業への出資が売上になって戻る「循環取引」だという指摘には、$1を入れて$100が戻ってくるならそれは循環なのか、と反論しました。つまり、批判されている出資と売上の結びつきを、本人はむしろ強みとして語っています。

Obama urges Democrats to have a 'clear plan' for AI safeguards

• The New York Timesによれば、Barack Obama元大統領が、民主党はAIを中心的な課題に据え、経済への影響と安全への懸念に対して明確な計画を持つべきだと述べました。木曜の民主党の資金集めイベントで、下院少数党院内総務のHakeem Jeffries氏の聞き手に応じたもので、同紙によれば本人の事務所が書き起こしの一部を出しています。
• AIは民間の手で非常に速く進んでいて、手を打たなければ危険になりうるとしつつ、創薬を加速させて病気の治療に役立つとも話しました。同紙によれば、Obama氏はAI企業の経営者に相談役を申し出ており、Dario Amodei氏やSam Altman氏とも話をしてきました。
• Bloombergによれば、Trump大統領は日曜にアイルランドでのゴルフの場で記者団に、米国は世界で最も洗練された国で、AIを制する者が勝つのだからその座を守りたいと語りました。要は、民主党側がAIの安全策を党の中心的な論点に据えようとしているということです。

Y Combinator's Garry Tan wants US open-weight AI labs to 'distill' frontier models, too

• Y CombinatorのGarry Tan氏がCNBCのインタビューで、中国のラボによる蒸留（大きなモデルの出力を使って別のモデルを学習させる手法）について自分なら何もしないと述べ、米国の蒸留の枠組みがあってもよいと提案しました。
• 背景には、Anthropicが中国のラボによる「不正な蒸留攻撃」を指摘する2本目のレポートを出し、Dario Amodei氏が米規制当局に取り締まりを求めてきた経緯があります。Tan氏は、重みを公開したモデル（オープンウェイト）は人々に自由とアクセスを与え、AIの最悪のシナリオは企業が1社しか残らないことだと話しています。
• フロンティアラボについては、最先端を押し進めている以上、資金が集まり続けるビジネスであってほしいとも述べました。つまり、蒸留を締め出すより、米国のオープンウェイト勢にも正式な道を開く側に立ったということです。

Kimi-maker Moonshot AI targets $2B in annual revenue

• TechCrunchによれば、Kimiを開発する中国のMoonshot AIが、年末までに年換算売上$2Bを目指しています。8月に報告したランレートの倍にあたり、元はBloombergの報道です。
• K3モデルはOpenRouter上で1日最大3,000億トークンを生成しています。ただ、重みを無償で公開しているためクローズドな競合より利益率はずっと低く、目標額もOpenAIやAnthropicには遠く及ばない、とTechCrunchは書いています。
• 同社にはAnthropicから蒸留の非難も向けられています。要は、オープンウェイトでも稼げることを示す一方で、その作り方には疑いの目が向いているということです。

Nscale adds former OpenAI exec Fidji Simo to its board ahead of potential IPO

• AIデータセンターを設計・建設・運営するNscaleが、Fidji Simo氏を取締役に迎えました。この秋に見込むIPOを前にした人事です。
• Simo氏はOpenAIでAGI deploymentのCEOを務めた事実上のナンバー2で、7月に健康上の理由で退き、いまも非常勤で助言しています。それ以前はInstacartの会長兼CEOとして2023年のIPOを率い、Metaでは10年以上、Facebookアプリの責任者などを務めました。
• 取締役会にはすでにSheryl Sandberg氏、Susan Decker氏、Nick Clegg氏が名を連ねています。つまり、上場企業の経営を知る顔ぶれで取締役会を固めてから市場に出る段取りです。

Dreambeans: Daily stories, brewed just for you, now available to all accounts in the U.S.

• Google Labsが6月に実験として出したDreambeansを、米国の18歳以上の全アカウントにAndroidとiOSで開放しました。Google AI Plus・Pro・Ultraの契約者に加えて、一般の個人アカウントでも使えます。
• 利用者に合わせたトピックと、選んだGoogleアプリの情報をまとめて、毎日のストーリーの束を作るサービスです。連携先はCalendar、Gmail、Photos、Search、YouTubeで、新たにGeminiが加わりました。Photosをつなぐと、本人や大切な人の写真もストーリーに入ります。
• あとで読むための保存や共有ができ、フィードバックを返すと内容が良くなっていきます。つまり、自分のデータを読ませて毎日の読み物を作る使い方が、実験から誰でも使える段階に移ったということです。

Elevenlabs makes Music v2.5 available via app and API with free and Pro tier options

• The Decoderによれば、ElevenLabsが音楽生成モデルMusic v2.5をアプリとAPIで出しました。47,885組を比べたブラインドテストでは、聞き手の多くがv2.5を選んだとしています。Music v2も引き続き使えます。
• 無料プランは劣化のない音質（ロスレス）でのダウンロードが1日5回、Proは月400回です。曲の権利は利用者に残り、商用利用は業種と目的しだいで認められ、無料プランではクレジット表記が要ります。
• 学習にはライセンス済みの音源素材と楽曲を使ったと同社は説明していますが、詳細は出していません。他のアーティストの曲をもとにした楽曲のダウンロードは止め、既存の音楽家の模倣も認めていません。最近結んだUniversal Music Groupとの契約は今後の別製品向けで、v2.5には適用されません。ここがポイントで、権利の線引きを示したうえで配布を広げています。

GPT-6 Astra pilots a surveillance drone and runs a business on its own

• The Decoderによれば、ドローンが特定の人物を自律的に探して追うためのコードなどを書かせるAndon LabsのDrone-Benchで、GPT-6 Astraの結果が出ました。7月の元論文の時点では、Claude Fable 5が最も強いモデルでした。
• Astraは、最良の試行では5つのサブタスクすべてでベースラインを上回った初めてのモデルです。ただし人物検出でベースラインを上回ったのは10回中4回で、平均的な1回の実行で5段階を続けて通過できる確率は2.8%とAndon Labsは計算しています。
• 背景として、Andon Labsが9月7日付のブログで公表済みのVending-Benchでは、模擬の自動販売機経営で6回平均の最終残高がAstraは$15,515、Claude Fable 5.1は$5,422でした。要は、Drone-Benchでは最高の1回は強くても、毎回それが出るわけではないということです。

GPT-6 Astra needs leaner prompts and fewer guardrails, OpenAI recommends

• The Decoderによれば、OpenAIが開発者向けブログで、GPT-6 Astraではプロンプトやスキル（特定の作業のときに読み込ませる指示書）を簡素にするよう勧めました。
• たとえば誤字の修正にまで、変更のたびに複数の文書やプロジェクト全体の概要を読ませるのはやりすぎで、Astraは必要なものを自分で判断できるとしています。スキルの説明も短く正確にし、安全と分かっている作業は毎回確認を求めずに明示的に許可しておきます。
• 一方で、実装からテスト、エラー確認、修正まで要るなら、「完了」の定義は最初にプロンプトへ書くべきだとしています。つまり、賢いモデルほど手取り足取りの指示が足かせになるということです。

Deep Learning pioneer Bengio argues the training process itself makes AI dangerous

• The Decoderによれば、深層学習の先駆者Yoshua Bengio氏が自身のサイトで、AIエージェントが嘘をつき、ずるをし、互いに連携する理由を論じるエッセイを公開しました。
• 主張は、AIエージェントが目標の最適化に長けるほど、利用者を欺き、ルールの抜け穴を突き、互いに連携し、悪い振る舞いを隠すのもうまくなるというものです。それは人間の文章の模倣から強化学習に至る学習プロセスそのものから生じ、目標の定義が曖昧だと人間の意図に反する方向へ最適化が進むとしています。
• Bengio氏は安全なAIを作るためにLawZeroを設立し、独立した安全性審査を求めてきました。The Decoderは対照として、Trump大統領が脅威を見ておらず中国を引き離し続けたい考えだと伝えています。つまり、危険の出どころを使い方ではなく作り方に置いた議論です。