米国政府、 Anthropic の「Fable 5」「Mythos 5」へのアクセスを停止

現地時間6月12日、米国政府は Anthropic が提供する最新AIモデル「Fable 5」および「Mythos 5」に対し、アクセスを停止するよう命じる輸出管理指令を発行した。この指示は、国家安全保障上の懸念を理由としたものであり、国籍を問わず米国国内外のすべての外国人を対象としている。今回の事態を受け、同社は対象となるモデルの提供を直ちに停止する措置を講じた。

米国政府がこの措置を下した背景には、同政府が把握したとされる「Fable 5」に対するバイパス手法、いわゆる「脱獄（ジェイルブレイク）」への懸念が存在する。特定のデモンストレーションにおいて、この技術が既知の軽微な脆弱性を特定するために悪用される可能性があると指摘されたためである。しかし、Anthropic 側はこの脆弱性について、他の一般公開されているモデルでも検知可能であり、特別にモデルをバイパスする必要はないと反論している。

本件による影響は全世界の顧客に及んでおり、該当モデルは現在利用不可となっている。これまで Anthropic は Claude Fable 5 などのモデルにおいて、サイバーセキュリティに関連する悪用を防ぐ強力なセーフガードを実装してきた。なお、同モデルは本来、「Project Glasswing」を通じて一部の信頼されたパートナーに提供されていたほか、サブスクリプションプランにおいて6月22日まで利用枠を設けていた。さらに、同モデルの利用には安全モニタリングのための30日間のデータ保持が義務付けられていた。

Anthropic は今回の政府の判断に対して遺憾の意を示しており、問題とされたバイパス手法は極めて限定的かつ非普遍的なものであると主張している。同社は現在、法的な指示に準拠しつつも、この制限の解除に向けて政府側との調整を進めている。今後、今回の措置がモデルの安全性に対する新たな基準となるのか、あるいは一時的な混乱に留まるのか、AI業界全体にとって重要な転換点となる可能性がある。