機械学習

アテンションが実際に何を計算しているのかを、Q・K・V とマルチヘッドの役割から整理しました。並列化が効く理由と、長い文脈でコストが跳ね上がる理由が、同じ構造から出てくる話です。

LLMの生成が遅いのはメモリ帯域が原因。小さなドラフトモデルに数トークン先読みさせ、本命モデルがまとめて検証する投機的デコーディングの仕組みと、出力分布が変わらない理由、効かない場面を整理しました。

MoE（Mixture of Experts）が何を節約しているのかを、Mixtral 8x7Bの総47B・活性13Bという数字を手がかりに整理しました。速くなるのは計算で、メモリは減りません。

RLHFは人間の評価を報酬に変えてAIの答え方を寄せる学習方法です。3段階の流れ、なぜ模範解答ではなく順位を集めるのか、DPOのような後継手法までを一次論文つきで整理しました。