AIの利用ポリシーとは?禁止事項と高リスク用途の読み方

AIの利用ポリシーとは?禁止事項と高リスク用途の読み方

2026年10月8日、Anthropic は Claude の利用ポリシー(Usage Policy)の新版を公開しました。

新版が効力を持つのは2026年11月12日からです。

利用ポリシーは、AI を「何に使ってはいけないか」「どんな条件なら使ってよいか」を決める文書です。

API でアプリを作る人や、エージェントに仕事を任せる人ほど、この文書の組み立てを知っておくと判断が速くなります。

以下は Anthropic の利用ポリシーを例にした解説で、内容は2026年10月10日時点の公開ページに基づいています。

利用ポリシーとは

利用ポリシーは、AI サービスの提供元が定める「使い方のルール」です。

Anthropic の文書では「Acceptable Use Policy」、略して AUP とも呼ばれています。

対象は入力を送るすべての人で、Claude.ai や Claude Code のアプリ利用者、API を使う開発者や企業、クラウド事業者経由の顧客、Claude を組み込んだ製品のエンドユーザーまで含まれます。

利用ポリシーは利用規約と別の文書ですが、契約の外にあるわけではありません。

個人向けの利用規約は「この規約には利用ポリシーを含む」と書き、API 向けの商用規約も D.2 で利用ポリシーを参照によって組み込んでいます。

参考: Commercial Terms of Service(Anthropic)

Commercial Terms of Service

もう1つの特徴は、業種ではなく使い方で線を引いている点です。

ポリシー自身が、特定の業界や事業を一律に禁じるものではないと明記しています。

3つの区分で読む

Anthropic の利用ポリシーは、次の3つの区分でできています。

区分誰に当てはまるか中身
Universal Usage Standardsすべての利用者・すべての用途「Do Not 〜」で始まる禁止事項
High-risk Use Case Requirements人の健康・権利・お金・生活に関わる用途人による確認と、AI を使ったことの開示
Additional Use Case Guidelines消費者向けチャットボット、未成年向け製品、エージェント、ディレクトリ掲載ソフト用途ごとの追加ルール

最初の区分には、違法行為・重要インフラへの攻撃・兵器・監視・詐欺・性的な内容など15の禁止項目が並んでいます。

開発者が見落としやすいのは「Do Not Abuse Our Platform」の項目です。

ここには、Anthropic の許可なくジェイルブレイクやプロンプトインジェクションで制限を破ること、出力を別の AI モデルの学習に使うことが含まれています。

個人向けサブスクリプションを経由して Claude を転売・中継するサービスも、同じ項目で禁止されています。

蒸留とは?大きなAIモデルの知識を小さなモデルへ移す仕組み

高リスク用途で求められる2つの条件

2つ目の区分は、AI の提案が人の人生を左右しうる場面に条件を付けるものです。

対象は法律・医療・金融・与信・保険・住宅・雇用・教育と資格・医療へのアクセス・公的給付・法的地位の11領域で、個人への提案や判断に使う場合に当てはまります。

求められる条件は2つあります。

1つ目は、資格のある人が提案を中身まで確認し、変更する権限を持ったうえで本人に届けることです。

確認した人が、届けた内容の正確さと妥当さに責任を持ちます。

2つ目は、提案や判断を受ける本人に、AI を使ったことをはっきり伝えることです。

開示では Anthropic や Claude、モデルの名前まで出す必要はありません。

一般的な説明や社内の下書き・調査・要約は、最終的な提案そのものでなければ対象外とされています。

たとえば「法律に何が書いてあるか」の説明は対象外で、「あなたはこうすべき」と個人の事情に当てはめた助言は対象になります。

保険金の支払いや公的給付を認めるなど、本人に全面的に有利な判断は、法律が許す範囲で人の確認を省けます。

一部だけの承認や減額は「全面的に有利」に含まれません。

EU AI法 第50条の透明性義務を3つの問いで判定する

機械を動かすときの条件

新版では、モデルを物理的に動く機器につなぐ場合の条件も同じ区分に入りました。

対象は、人のいる場所での車両やドローンの操縦、人をはさみうる機械の操作、薬剤の投与、防火設備の制御などです。

この場合、資格のある人が機器の動きを見ていつでも止められることが必要です。

人が介入したときや Anthropic のサービスとの接続が切れたときに、機器は停止するか安全な状態を保たなければなりません。

速度・力・温度などの安全の上限は、モデルの出力とは別の制御装置で守ることも求められています。

一方、人が確認してから実行する計画やコードの生成、制御を伴わない監視は対象外です。

違反するとどうなるか

Anthropic の Safeguards チームが検知と監視を行い、違反が疑われると警告・速度制限・利用の制限・停止・解約のいずれかになりえます。

製品には出力をリアルタイムで止める仕組みもありますが、止められたこと自体は違反を意味しないと書かれています。

サイバーセキュリティなど一部の領域では、審査を通った人に制限を調整して提供する Cyber Verification Program などの制度があります。

2026年10月の改定で変わったこと

Anthropic の発表によると、今回の改定の多くは既存のルールを明確にするためのものです。

主な変更点を表にまとめます。

項目変更内容
欺く宣伝・偽アカウント選挙・詐欺・プライバシー・偽情報に散らばっていたルールを「Do Not Engage in Deceptive Campaigns or Artificial Activity」に集約
選挙項目名を「Do Not Undermine Democratic Processes」に変更し、投票者を欺く行為や選挙の妨害に焦点を絞った
個別化した投票の呼びかけ一律の禁止を外した(欺く形やデータの悪用は他の項目で引き続き禁止)
兵器兵器を動かすソフトウェアや部品、ドローンの武装化も禁止に含むと明記
監視・法執行同意のない追跡は過去のデータの分析でも禁止、捜査や逮捕の対象を決める・勧めることも禁止と明記
高リスク用途条件そのものは変えず、どの提案が対象かを一覧で示す形に書き直し、機器の条件を追加
モデルへの虐待目的のない執拗な虐待を禁止に追加
提供地域提供外地域にいる人、そこに本社がある企業、その支配下の企業による利用の禁止を明確化

一律の禁止を外した理由として、Anthropic は外国語での投票案内を作る非営利団体のような正当な活動まで妨げていたことを挙げています。

モデルへの虐待の禁止は極端なケースだけに向けたもので、ふだんの不満の表明や暗い題材の創作、モデルの検証には当てはまらないと説明されています。

この種の虐待への主な対処は、Claude.ai と Claude Code で Claude が会話を終えられる機能のまま変わりません。

兵器と監視の変更についても、実際の運用を変えるものではなく、書き方を明確にしたものだとしています。

参考: 2026 Usage Policy update(Anthropic)

2026 Usage Policy update

エージェントを作る人が見ておきたい点

エージェントについて、新版は「作った・動かしたエージェントがツールやブラウザ、接続先のシステムを通じて行う行動も、利用者の責任で利用ポリシーに従わせる」と書いています。

エージェントが自分で判断して動いた結果も、動かした人の使い方として扱われると読んでおくのが素直です。

外部の利用者と直接やり取りするチャットボットやエージェントは、相手が AI と話していることを、各セッションの冒頭か製品の画面で知らせる必要があります。

また、利用ポリシーは毎年見直されると Anthropic 自身が書いています。

ページ上部の発効日を見て、手元の理解が古い版のものでないかを時々確かめておくと安心です。

判断に迷う使い方は、要約ではなく原文で該当箇所を読んでください。

参考: Usage Policy(Anthropic)

Usage Policy

最後に

利用ポリシーは、すべての人への禁止事項・高リスク用途の条件・用途別の追加ルールの3層で読むと迷いにくくなります。

2026年11月12日に発効する新版では、欺く宣伝の項目の新設、選挙の項目の絞り込み、機器を動かすときの条件の追加が主な変化です。

AI に任せる範囲が広がるほど、「誰がどこで確認し、誰に何を伝えるか」を設計に組み込んでおくことが、このポリシーの求める中身に近づく道です。

以上です。