合成データとは?AIが作った学習データの使いどころ
合成データはモデルに書かせた学習データで、足りない量ではなく足りない種類を埋める道具。NVIDIAの公開データセットの内訳と、Nature論文が警告するモデル崩壊・評価データの汚染までを整理しました。
AI合成データはモデルに書かせた学習データで、足りない量ではなく足りない種類を埋める道具。NVIDIAの公開データセットの内訳と、Nature論文が警告するモデル崩壊・評価データの汚染までを整理しました。
AILoRAは事前学習済みの重みを凍結したまま、小さな行列のペアだけを学習する手法です。学習パラメータを1万分の1に減らしても精度が保てる理由と、実際に触る設定を整理しました。
AIAIを自社仕様に寄せる代表的な手段、ファインチューニング。何が得意で、RAGやプロンプトとどう役割を分けるのかを、追加学習の仕組みから整理します。