生成AIを顧客の業務に組み込むと、早い段階で「この出力は合っているのか」を誰がどう判断するのかという問題に行き当たります。
開発する側が数件試して「良さそう」と感じても、その業務で何が正解かを知っているのは顧客の側だからです。
OpenAI の東京拠点の Forward Deployed Engineer – Tokyo の募集要項は、FDE(Forward Deployed Engineer)の成果の物差しの一つに、評価にもとづく現場の声が製品とモデルの計画を変えることを挙げていました。
その評価を回すには、まず入力と期待する答えを組にした評価データが要ります。
Palantir・OpenAI・Anthropic の公開資料を並べると、評価データは顧客のドメインの専門家と一緒に、小さく作って育てるものだと分かります。
私も FDE を学んでいる途中で、ここに書くのは公開資料から読み取れる範囲です。
引用する募集要項とドキュメントは、いずれも 2026 年 10 月 12 日に確認しました。
評価データは顧客の業務からしか作れない
Palantir の公式ブログには、責任ある AI の連載の 4 回目として Evaluating Generative AI: A Field Manual(生成AIの評価・現場の手引き)という記事があります。
2025 年 1 月 15 日に公開され、顧客と一緒に AI を重要な課題に当ててきた経験をもとに、テストと評価の進め方をまとめたものです。
同記事によると、顧客と評価の戦略を立てるとき、最初に投げかけるのは「何をテストしたいのか」という問いだそうです。
LLM の使い道を「チャット」とひとまとめに呼ぶと、要約・翻訳・情報検索・質問応答といった別々の仕事が一つの箱に入ってしまうと指摘しています。
旅行の計画を作らせるのと、止まってはいけないシステムのコードを書かせるのとでは、必要な評価がまるで違うという例も挙がっていました。
そこで同記事は、評価を二つの層に分けて考えるよう勧めています。
- 業務全体の層: 出荷先の工場を振り分ける業務なら、誤って振り分けた割合のように、業務の成果を表す指標
- テストできる作業の層: 文書の検索と、その文書をもとにした回答のように、業務を分解した一つひとつの作業
どちらの層でも、何が「良い」かは顧客の業務の文脈で決まります。
公開されているベンチマークにも使い道はあり、同記事は基礎的な能力が落ちていないかを見張る用途に置いていました。
ただしベンチマークは業務ごとの細かな事情を捉えないので、ほかの評価と組み合わせるよう書かれています。
OpenAI の API ドキュメント Evaluation best practices(評価のベストプラクティス)も、避けるべき型として、本番の利用のされ方を再現していない評価データを挙げていました。
「動いているように見える」を評価の代わりにすることも、同じ一覧に並んでいます。
では、その業務での正解を誰が知っているのでしょうか。
Palantir の開発者コミュニティには、同社のエンジニアが現場で評価を使ってきた学びをまとめた Writing Effective Evals(効果的な評価の書き方)という投稿があります。
2025 年 2 月 11 日付で、Palantir のプライバシーと市民的自由(PCL)の開発チームが、現場のエンジニアに同行して得た事例をもとにしたものです。
その中で繰り返し出てくるのが、ドメインの専門家を呼んで「正しい」の意味を決めてもらうことでした。
狙いは、専門家にしか見えない暗黙のルールや例外を探り出し、頭の中にある知識を評価として書き残すことだと説明されています。
OpenAI の FDE の募集要項にも、顧客のエンジニアと業務の担当チームの両方と直接組んで進めると書かれていました。
FDE の仕事が評価に寄っていくという見方もあります。
Ramp でエンジニアリングのディレクターを務める Leo Mehr 氏は、AI Engineer World's Fair の講演 How Forward Deployed Engineering is done at Ramp で、6〜12 か月先の FDE の仕事を見通していました。
話の対象は同社の FDE が自分たちの仕事を任せるエージェントで、その出力の質を評価やルーブリック、人のフィードバックで確かめることが仕事の中心になると話しています。
ルーブリックは、採点の観点と基準を書き出した表のことです。
同氏は、製品の担当者が頭の中に持っている知識をどうエージェントに渡すかが大きな難しさの一つで、Notion の文書やヘルプ記事だけでは足りないとも述べていました。
評価データの出どころは四つある
Palantir の手引きは、正解つきの評価データを集める方法として、公開ベンチマークのほかにいくつかの手を挙げています。
どの方法でも、ドメインの専門家や利用者と一緒に正解を見つけたり作ったりし、評価の間ずっと意見をもらい続けることが大事だと書かれていました。
過去の業務記録を正解として使う
すでに人が回している業務に AI を入れるなら、過去の判断の記録が正解の候補になります。
Palantir の手引きでは、過去の製品リコールの判断と、それに紐づく不具合報告からテストを組んだ例が紹介されていました。
LLM の予測を過去の結論と突き合わせ、AI を使っていたらどの判断が変わっていたかを確かめるやり方です。
OpenAI のドキュメントも、評価データの候補に本番のデータや過去のデータを並べ、開発中から記録を残してそこから良いケースを掘り出すよう勧めています。
過去の記録を顧客のシステムから取り出す段取りは、データ統合を扱った記事で整理しました。
専門家に単体テストを書いてもらう
過去の記録に出てこない場面は、専門家に例を書いてもらって補います。
手引きでは、難しいと分かっている例外の扱いや、よく聞かれる質問への答え方を確かめる単体テストを、手で書いて用意する方法が挙がっていました。
Anthropic のドキュメント Define success criteria and build evaluations(成功の基準を決めて評価を作る)も、評価は実際の仕事の分布に合わせ、例外を忘れないよう書いています。
例外の例として並んでいたのは、次のような入力です。
- 関係のない入力や、存在しないデータを前提にした入力
- 長すぎる入力
- 人どうしでも判断が割れそうなあいまいなケース
足りない分を合成データで補う
正解つきの記録がそろわないときは、モデルに例を作らせる方法もあります。
手引きでは、文書の内容から LLM に質問と答えの組を作らせ、それで情報抽出の出来を確かめる例が挙がっていました。
コミュニティの投稿は、実データは現実の込み入り方を捉え、合成データは例外を系統立てて試すのに向く、と役割を分けています。
入力をわざと崩して試す方法も、手引きは紹介していました。
医療記録から情報を抜き出す例では、薬の名前の誤字、略語や言い換え、関係のない文の混入などを加えた入力で、結果が崩れないかを見ています。
本番の利用から増やし続ける
評価データは、一度作って終わりにはなりません。
OpenAI のドキュメントは、変更のたびに評価を回し、時間をかけて評価データを増やしていく継続的な評価を勧めています。
要約の例では、生成した要約に利用者が付けた評価を本番のデータとして集め、専門家が作ったデータと混ぜて使う形でした。
コミュニティの投稿も、誤りを見つけるたびにテストを足すか直すよう書いています。
ここまでの四つを並べると、次のようになります。
| 出どころ | 資料にある例 | 出典 |
|---|---|---|
| 過去の業務記録 | 過去のリコール判断と不具合報告 | Palantir の手引き |
| 専門家の単体テスト | 難しい例外の扱い、よく聞かれる質問 | Palantir の手引き、Anthropic のドキュメント |
| 合成データ | 文書から作った質問と答えの組、誤字や略語を混ぜた入力 | Palantir の手引き |
| 本番の利用 | 利用者が評価を付けた要約 | OpenAI のドキュメント |
判定は合格・不合格で専門家とそろえる
データがそろったら、出力をどう判定するかを決めます。
Palantir の手引きは、LLM に採点させる場合も 1〜5 点のような段階ではなく、合格か不合格かの二択で問うよう勧めていました。
3 点と 4 点の違いがはっきりせず、点数を見ても何を直せばよいか分かりにくいからだと説明されています。
専門家と一緒に基準を作り始める段階では点数も役に立ち、それを後から合否の問いに置き換えればよい、とも書かれていました。
同じ手引きは、専門家と一緒に合否の判定を付けた「ゴールデンデータセット」を作るほうが、新しい点数の付け方を考え出すより確実だとしています。
専門家が付けた合否の組は、AI の採点役が人の判断とずれていないかを確かめる物差しにもなります。
合否で判定するには、基準を言葉にしておく必要があります。
Anthropic のドキュメントは、LLM に採点させるときのコツとして、詳しく明確なルーブリックを挙げていました。
例として載っていたのは、「回答の最初の文で必ず Acme Inc. に触れること。触れていなければ不正解とする」という基準です。
判定の方法は、速く、確実で、数をこなせるものを選ぶよう書かれています。
コードによる判定がもっとも速く確実で、人による判定は質が高い反面、遅く費用がかかるので、できれば避けるとされていました。
OpenAI のドキュメントは、人の判定を使う場合の進め方も書いています。
何回かに分けて人が細かく見直し、採点表そのものを磨いていくことが一つです。
点数ごとの例を見せて基準をそろえることや、複数人の判定を多数決でまとめることも挙がっていました。
LLM の採点役は、人の判定と安定して一致するのを確かめてから広げるよう勧めています。
AI に AI を採点させるときの癖そのものは、別の記事で扱いました。
つまずきやすいところ
公開資料を読み比べると、現場で評価データを作るときに外しやすい点がいくつか見えてきます。
一つ目は、完璧な評価がそろうまで始めないことです。
コミュニティの投稿は、完璧を待たずに最初の評価一式を出し、そこから学ぶよう勧めていました。
1 日テストを書くだけでも大きな失敗が見つかることがある、とも書かれています。
一方で Anthropic のドキュメントは、人が丁寧に採点する少数の問題より、自動で採点できる多数の問題のほうがよいとしていました。
少なく始めることと、数を優先することは、食い違って見えるかもしれません。
私は、少数の合否チェックから始め、自動で採点できる形にしながら数を増やしていく順番として読みました。
二つ目は、すべてのテストの合格を目標にすることです。
コミュニティの投稿は、速く改善を回している間は一部のテストが落ちたままでもよいとしています。
合格の線は、自分たちと顧客がどこまでの誤りを許せるかに合わせて決めるよう書かれていました。
三つ目は、同じ入力には同じ答えが返る前提で、一度だけ回して判断することです。
Palantir の手引きは、生成AIの出力は同じ入力でも揺れるので、テストケースごとに何度か回して結果の分布を見るよう勧めています。
LLM の採点役は費用と待ち時間がかさむため、データの一部にだけ当て、残りは軽い判定で回す工夫も書かれていました。
四つ目は、現場で分かったことを顧客の中だけに留めてしまうことです。
OpenAI の FDE の募集要項には、モデルがどこでうまくいき、どこで改善できるかを研究と製品のチームに伝える責務が書かれていました。
評価データは顧客に品質を示す道具であると同時に、自社のモデルと製品を直す材料にもなるわけです。
FDE の成果をどう測るかは、別の記事で整理しています。
最後に
生成AIの評価データは、顧客の業務と、その業務を知る専門家の頭の中から作るものです。
過去の記録・専門家の単体テスト・合成データ・本番の利用を組み合わせ、合否の基準を専門家とそろえて、誤りを見つけるたびに足していく流れになります。
最初は少数の合否チェックで構わないので、顧客の専門家と一緒に「正しい」を書き出すところから始めるのが、公開資料から読み取れる進め方です。
以上です。



![[Guide] Writing Effective Evals](https://canada1.discourse-cdn.com/palantir/optimized/2X/5/5e1fd037c3c9a8ed01551240618940a53d92ccf0_2_905x1024.png)











コメントを残す