パラメータ

生成AIのパラメータ top_k と top_p は、次の1語の候補をどこまで残すかを決めるつまみです。個数で切るか確率の総量で切るかの違いと、同じしきい値でも残る候補数が変わる理由を、実際に計算した数値で整理しました。

AIの回答が毎回ぶれるのは temperature という設定のせい。回答のランダムさを決めるこのつまみの仕組みと、正確さ重視は低め・発想重視は高めという使い分けを整理しました。