x.com/umiyuki_ai/status/2098474014662668728
1 correction found
AnthropicのAI悪用レポートは内容が刺激的過ぎてCodexに入力すると垢BANされる
OpenAI’s published Codex guidance does not say that pasting Anthropic’s threat report automatically gets you banned. It says these topics may trigger extra safety checks or blocked output, while account deactivation depends on policy-violating use, severity, and repeat violations.
Full reasoning
この表現は Codexにそのレポートを入力しただけで自動的に垢BANされる かのように読めますが、OpenAIの公開説明はそうなっていません。
OpenAIの公式ヘルプでは、ChatGPT・Codex・APIで生物/サイバー関連の内容に対して 追加の自動安全チェック が走ることがあり、安全に応答できればそのまま続行、難しければ 内容を返さないことがある と説明しています。また、追加チェックが表示されても、それ自体は利用規約違反と判断されたことを意味しない と明記しています。つまり、公開レポートを入力しただけで即BAN、という説明とは食い違います。
さらにOpenAIのアカウント措置の説明では、アカウント無効化は 利用規約/ポリシー違反 に対して行われ、一定のケースでは まず警告 が出され、警告後も違反が続いた場合 に無効化されうるとされています。OpenAIの透明性ページでも、警告・制限・アカウント停止は 違反の重大性や過去/反復違反 を考慮して決めるとしています。これも、「Anthropicのレポートを入力するとBANされる」という単純な因果関係を裏づけません。
加えて、当のAnthropicレポート自体は、Claudeの悪用事例を 公開の脅威インテリジェンス報告書として共有し、防御側や他社の安全対策に役立てる 趣旨で公開されています。OpenAI自身も、生物分野では safety, prevention, analysis, or risk mitigation に焦点を当てるよう案内しています。したがって、このレポートの内容を防御・分析目的で扱うことまで一律に「入力するとBAN」と言うのは、OpenAIの公開方針より強すぎる主張です。
4 sources
- Additional safety checks for biological and cybersecurity requests in ChatGPT, Codex, and the API | OpenAI Help Center
ChatGPT, Codex, and the OpenAI API use additional automated safeguards for some requests involving cybersecurity or biological research and applications... If the response can be provided safely, it continues after the check; otherwise the product may not return the content... Seeing an additional-check notice does not by itself mean OpenAI has determined that you violated our Usage Policies.
- Why Was My OpenAI Account Deactivated? | OpenAI Help Center
Account deactivations occur when there are violations of our Usage Policies or Terms of Service... We provide warnings for certain policy violations to allow users the opportunity to correct their usage. Failure to address these warnings within the specified time may result in a deactivation.
- Transparency & content moderation | OpenAI
When we identify content that violates our terms or policies, we may take actions such as warnings or account restrictions... We consider factors like legal requirements, the severity of the violation, and past or repeat violations, when determining enforcement actions.
- Countering misuse of AI: September 2026 | Anthropic
In this report, we share case studies from those operations and describe how malicious use of Claude has evolved... We hope that the findings in this report will help other developers recognize similar patterns on their own platforms... and strengthen collective defenses.