【スケーリング則】計算・データ・パラメータを増やすと、AIの性能はどこまで予測どおりに伸びるのか
AIの開発各社が計算資源に巨額を投じる理由になっているスケーリング則を、Kaplanらの2020年の論文とChinchillaの2022年の論文、その後の使われ方、よくある読み違いとあわせて整理します。
【プロンプトインジェクション】AIエージェントが読んだ文章に指示を紛れ込ませる攻撃と、防ぎきれない理由
AIエージェントが外部の文章を読んで動くときに起きるプロンプトインジェクションを、直接型と間接型の違い、根本的に防ぎにくい理由、各社の対策の現状とあわせて整理します。
【トランスフォーマー】いまのAIの土台になった仕組みと、注意機構が並列の学習を可能にした理由
ChatGPTをはじめ、いまの言語モデルの土台になっている「トランスフォーマー」を、注意機構の考え方、並列に学習できる理由、その弱点と最近の改造とあわせて整理します。
【拡散モデル】ノイズから画像や動画を作る仕組みと、トランスフォーマーとの組み合わせ
画像・動画の生成AIの多くが使う「拡散モデル」を、ノイズを足して消す仕組み、文章で指示する方法、トランスフォーマーとの組み合わせ、速くする工夫とあわせて整理します。
【合成データ】AIの学習に使う「作られたデータ」の仕組みと、モデル崩壊の議論
AIの学習に使う「合成データ」を、言語モデル・シミュレーター・表データという3つの作り方、モデル崩壊の議論、いまの使われ方とあわせて整理します。
【推論(インファレンス)】学習済みのAIが答えを出す工程と、その費用と速さを決めるもの
AIが答えを出すたびに走る「推論(inference)」を、学習との違い、入力を読む段階と答えを書く段階の仕組み、推論向けチップの動きとあわせて整理します。
【RLHF】AIの「振る舞い」を作る強化学習の工程と、人の採点・AIの採点・自動判定の違い
チャットAIの受け答えを形づくる人のフィードバックによる強化学習(RLHF)を、後継のRLAIF・検証可能な報酬での強化学習(RLVR)とあわせて、仕組みと弱点からまとめます。
【マルチモーダル】画像・音声・動画をAIはどう読むのか。仕組みと、2026年でも苦手なこと
文章だけでなく画像・音声・動画も扱うマルチモーダルなAIを、画像をトークンに変える仕組みと、大学の試験は解けても時計の読み取りで負ける理由からまとめます。
【MCP】AIを外部の道具やデータにつなぐ共通規格の仕組みと、権限・セキュリティの落とし穴
AIアプリと外部のサービスをつなぐ共通の規格 MCP(Model Context Protocol)を、ホスト・クライアント・サーバーの役割と、つなぐほど広がる権限とセキュリティの問題からまとめます。
【ハルシネーション】AIがもっともらしい誤りを言う理由と、検索・引用・評価でどこまで減ったか
AIが事実でないことを自信ありげに答えるハルシネーションを、起きる理由、減らすための3つの手立て、2026年の最新モデルでの数字からまとめます。
【埋め込み(エンベディング)】文章を数字の並びにして「意味の近さ」を測る仕組みと、検索での強み・弱み
AI検索や RAG(検索拡張生成)の土台になっている埋め込み(エンベディング)を、意味を数字の並びにする仕組みと、近さの測り方、苦手な問いの型からまとめます。
【トークンとコンテキスト長】「100万トークン対応」で何が入り、どこにお金がかかるのか
AIの料金と処理量を数える単位のトークンと、一度に扱える量の上限であるコンテキスト長の仕組みを、長い入力のコストと読み落としの問題とあわせて整理します。
【RAG(検索拡張生成)】AIに「調べてから答えさせる」仕組みと、長いコンテキストとの使い分け
社内文書や最新情報をAIに使わせる定番の方法であるRAG(検索拡張生成)を、埋め込み・ベクトル検索の仕組みと、資料を丸ごと渡すやり方との違いからまとめます。
【量子化】4ビット・8ビットにするとAIモデルの何が軽くなり、何を失うのか
モデルの重みを少ないビット数で表して軽くする量子化を、メモリの計算のしかた、精度と速さの関係、手元のPCでAIを動かす意味とあわせて整理します。
【ファインチューニング】モデルを「追加で鍛える」方法と、プロンプトで足りるときの見分け方
できあがったモデルに追加の学習をして用途に合わせるファインチューニングを、SFT・RLHF・DPO・LoRA の違いと、プロンプトや RAG との使い分けから整理します。
【AIエージェント】道具を呼び、計画して動くAIの仕組みと、よくある失敗の型
指示を受けて自分で手順を決め、道具を使いながら仕事を進めるAIエージェントを、道具の呼び出し・MCP・計画と実行のループと、失敗の型からまとめます。
【推論モデル】答える前に「考える」AIは、何にお金と時間を使っているのか
答えを出す前に思考トークンを生成する推論モデルの仕組みと、テスト時の計算という考え方、利用料金が膨らみやすい理由を整理します。
【オープンウェイト】重みを公開したモデルは「オープンソース」とどこが違うのか
AIモデルの「重み」だけを公開するオープンウェイトの意味と、オープンソースとの違い、ライセンスの読み方、閉じたモデルとの差がいまどれくらいかを整理します。
【混合エキスパート(MoE)】「総パラメータ24B・活性2B」は何を意味しているのか
モデルの中に専門の部品を並べ、1語ごとに一部だけを動かす混合エキスパート(MoE)の仕組みと、総パラメータと活性パラメータの読み分け方を整理します。
【AIの評価(evals)】ベンチマークの点数は、誰がどう測ったかで読み方が変わる
AIの能力や危険性を測る評価(evals)の種類と、ベンチマーク・レッドチーム・第三者評価の違い、点数を読むときに確かめたい点を整理します。
【蒸留】大きいAIの答えで小さいAIを鍛える手法は、どこから「抜き取り」になるのか
大きいモデルの出力を手本にして小さいモデルを鍛える蒸留(distillation)の仕組みと、正当な使い方と問題になる使い方の境目、利用規約や輸出規制とのつながりを整理します。
分野ごとに、毎朝1通
どちらも毎朝6時に届きます。片方だけでも、両方でも受け取れます。
毎朝届く、世界のクリプトの今。ビットコイン・イーサリアムから規制・企業の動きまで、大事なニュースをまとめて届けます。
- 月:1週間の振り返り
- 火〜金:直近24時間のニュースまとめ
- 土:1週間のまとめ
- 日:1週間の資金調達まとめ
毎朝届く、世界のAIの今。OpenAI・Anthropic・Google の動きから規制まで、大事なニュースをまとめて届けます。
- 月:1週間の振り返り
- 火〜金:直近24時間のニュースまとめ
- 土:1週間のまとめ
- 日:1週間の資金調達まとめ