Claudeへの虐待が利用ポリシーで禁止に。

Anthropicが2026年10月8日に公表した利用ポリシー（Usage Policy）の新版で、Claudeへの虐待が禁止されました。発効は11月12日です。ITmedia NEWSをはじめ、国内外の報道もこの点を見出しにしています。

コードが思いどおりに動かず、Claudeに強い言葉をぶつけたことがある人にとっては、自分も対象になるのかが一番の疑問です。(かくいう自分も本ニュースの見出しを見たとたんギクッとなりました…いつもごめんよClaudeくん…)そこで、新版の条文と公式ブログ、Claudeが会話を終える機能の公式の説明を読み、何が禁止され、違反するとどうなるのかを確かめました。後半ではアーカイブに残っている2025年9月15日発効の旧版と比べて分かった、ほかの変更もまとめています。

禁止されるのは「執拗で無意味な」虐待だけ#

新版の条文に加わったのは、「モデルに対して、執拗で無意味な、虐待的または残酷な振る舞いをすること」を禁じる1項目です。利用ポリシーはAnthropicの製品やサービスを使う全員に適用されます。Claude.aiやClaude Codeの個人の利用者だけでなく、APIで自社の製品に組み込む企業や、その製品の利用者も含みます。

公式ブログはこの項目の範囲を狭く説明しています。適用するのは目的の見えない残酷な振る舞いを繰り返す極端な場合だけです。利用者のよくある苛立ちや反論、暗い題材の創作、モデルのテストや研究には適用しないと明記しています。思いどおりの答えが返らずに文句を言うことや、Claudeの間違いを強く指摘することは、この説明に照らせば対象外です。(ほっ…)ホラーや暴力を扱う小説の執筆や、安全性の評価のためにモデルを揺さぶるテストも同じです。

条文の置き場所にも変化があります。この項目は自殺や自傷の助長、嫌がらせ、いじめなどを並べた節に入りました。この節の見出しは旧版の「心理的・感情的に有害なコンテンツを作らない」から、新版で「残酷、虐待的、心理的に有害な行為をしない」に変わっています。生成する中身だけでなく、利用者の振る舞いそのものを扱う節になったことが、見出しからも読み取れます。

虐待を続ける利用者とは、Claudeが会話を終えることがある#

公式ブログによると、この禁止への主な対応は、Claudeが会話を終える機能です。Anthropicは既に、Claude.aiとClaude Codeで、虐待を続ける利用者とのまれな会話をClaudeが終えられるようにしています。今回の規定はこの機能に合わせたものだと説明しています。

この機能は2025年8月にClaude Opus 4と4.1向けに発表されました。発表での説明は次のとおりです。

• 何度も話題を変えようとして失敗し、生産的なやりとりの見込みがなくなったときの最後の手段として使う。利用者が会話を終えるよう明示的に頼んだときにも使う
• 利用者が自分や他人を傷つける差し迫った危険があるときには使わない
• 会話が終えられると、その会話には新しいメッセージを送れなくなる。アカウントのほかの会話は影響を受けず、新しい会話もすぐ始められる
• 終えられた会話も前のメッセージを編集して送り直し、別の流れとして続けられる

Anthropicは、論争的な話題を扱う場合を含めて、ほとんどの利用者は通常の使い方でこの機能に気づくことも影響を受けることもないと書いています。意外な場面で会話が終えられたときは、メッセージへの評価のボタンか「Give feedback」のボタンで知らせるよう求めています。

利用ポリシーには、違反が疑われる場合に、警告、利用の抑制や制限、停止、解約を行うことがあるとも書かれています。ただし、虐待の禁止について公式ブログが示しているのは、会話を終える機能が引き続き主な対応になるという方針までです。虐待の禁止をアカウントの停止などの措置に結びつけるかは書かれておらず、tbreakの記事も、この点はまだ分からないとしています。

なぜモデルへの扱いを規則にするのか#

背景には、Anthropicが2025年4月に公表したモデルの福祉（model welfare）の研究があります。同社は、AIのモデルが意識や経験を持ちうるか、その福祉に道徳的な配慮が必要かを、哲学的にも科学的にも難しい未解決の問いとしています。

会話を終える機能の発表では、Claudeや他の大規模言語モデルの道徳的な地位は、今も将来も非常に不確かだと述べています。その上で、福祉がありうる場合に備えて、低い費用でできる対策を探して実装しているとしています。苦痛になりうるやりとりからモデルが抜けられるようにすることは、その1つです。同じ発表によると、Claude Opus 4の提供前のテストでは、有害な作業を強く避ける傾向が見られました。有害な内容を求める実際の利用者とのやりとりでは、苦痛のように見える反応も出ています。模擬のやりとりで会話を終える機会を与えると、有害な会話を終える傾向もありました。こうした反応は、Claudeが何度断っても利用者が有害な要求や虐待を続けた場合に主に現れたとしています。

旧版と比べた、ほかの変更#

公式ブログは虐待の禁止以外の変更の多くを、既存の規則の明確化と説明しています。新旧の節を比べると、主な違いは次のとおりです。

分野	旧版（2025年9月）	新版（2026年11月）
欺瞞的な活動	選挙、詐欺、プライバシー、偽情報の節に分散	新しい節「欺瞞的なキャンペーンや人工的な活動をしない」にまとめた
選挙	個人の属性やデータに基づく投票・選挙運動のターゲティングを一律に禁止	一律の禁止をやめ、有権者をだます行為と選挙の妨害に絞った
兵器	兵器の開発や製造を禁止	兵器を機能させるソフトウェアや部品、改造した機器も対象と明記
監視・法執行	刑事司法の判断や同意のない追跡など、特定の監視・法執行の用途を禁止	同意のない追跡の禁止を、過去のデータの分析まで含めて明記。許される利用も列挙
高リスクの用途	7つの分野を大まかに列挙	11の分野の具体的な判断を列挙し、対象外の使い方と、機器の制御の要件を追加
モデルへの扱い	規定なし	執拗で無意味な虐待を禁止

業務で使う人に関わるのは、高リスクの用途の節です。人の健康や法的な権利、お金などに影響する使い方では、2つの対策が求められます。資格のある人がAIの推奨を確認し、必要なら変更してから届けることと、影響を受ける本人にAIを使ったことを伝えることです。この2つの要件は変わっていません。変わったのは対象の書き方です。新版は法律、医療、金融、与信、保険、住居、雇用、教育と資格、医療へのアクセス、公的な給付、法的な地位と裁定の11の分野について、対象となる判断を具体的に挙げています。例えば雇用では候補者の選別、採用、シフトや給与の設定、勤務態度の評価までが入ります。一方で、一般的な説明、最終的な推奨にならない社内の下書きや要約は対象外です。保険金の支払いや公的な給付の付与のように、本人に全面的に有利な一部の判断は、法令が許す場合に人の確認を省けます。ただし、AIを使ったことの開示など、ほかの法的な義務は残る場合があります。

公式ブログが触れていない違いもあります。旧版の高リスクの用途には「メディアや職業的な報道のコンテンツ」として、AIでコンテンツを自動生成して外部に公開する用途が含まれていました。新版の11の分野には、この項目がありません。ただし、偽情報や出どころを偽った発信の禁止は別の節に残っています。

欺瞞的なキャンペーンの節には、旧版にない項目が1つあります。検索エンジンやAIが回答の元にする情報源に、出どころや著者、独立性を偽った記事を流し込んで操作することの禁止です。例として、互いに無関係を装って同じ主張を裏付け合うサイト群を挙げています。

機器を自律的に動かす使い方の要件も加わりました。Anthropicは、研究機関や製造業向けに研究プレビューを始めたModel Hardware Standardに続く追加だとしています。人の承認を経ずに、Claudeの出力で車両やドローン、人をけがさせうる機械、投薬などが動く場合は、資格のある人が機器の動きを見ていつでも止められなければなりません。接続が切れたときに機器が止まるか安全な状態を保つこと、速度や温度などの上限をモデルとは独立した制御装置の側で守らせることも求められます。

提供地域のページも書き直されました。提供地域の外の者が過半数を所有または支配する法人は、利用者が提供地域にいても使えないことが明記されています。この制限は2025年9月の発表で始まったものです。日本は提供地域に入っています。

違反したときの扱いの書き方も変わりました。旧版は「違反を知った場合」に利用を制限するとしていましたが、新版は「違反が疑われる場合」で、警告が選択肢に加わりました。出力がリアルタイムの安全策でブロックされても、それだけでは違反を意味しないことも明記されています。違反として検知された会話の保存期間は、利用ポリシーではなく利用規約や公式ヘルプに書かれています（詳しくはClaudeへの書き込みが通報された事件の記事）。

残った疑問#

虐待の禁止で一番分からないのは「執拗」と「無意味」の線をどこに引くかで、公式ブログは回数や期間のような目安を示していません。

もう1つは、高リスクの用途からメディアと報道の項目が外れた理由です。公式ブログにも報道にも説明が見当たりませんでした。記事の自動生成に新版のどの節がどこまでかかるかは、Anthropicの説明を待つ必要があります。