OpenAIが、AIを悪用した偽装工作を阻止

OpenAI は、ロシアやイランが背景にある、人々の関心や世論を誘導するための情報工作に悪用された、複数の ChatGPT アカウントを停止した。これらの工作では、従来の手法と同社のモデルを組み合わせ、巧妙に偽装された組織や人物を介して地政学や紛争に関するメッセージが拡散されていた。イランの工作では架空のジャーナリストを介した長文記事の売り込みが行われ、ロシアの工作では、ラテンアメリカに対して有利な方向へ意識や行動を誘導する働きかけや、ウクライナの評判を低下させることが目的の活動が展開された。

工作員はVPNを使用してサービスに接続し、主に内部報告書の作成や工作用コンテンツの生成に ChatGPT を活用していた。ロシアの工作では、ラテンアメリカの自称「調査プラットフォーム」である社会調査センター（SRC）を支配し、ウクライナの評判を損なうための偽文書や音声用の台本、さらには教育局や中央銀行を装った偽のメールや書簡などが作成された。AIの高度な言語表現や編集機能により、工作の規模と効率が大幅に高められていた。

AI技術の導入は、サイバー攻撃を行う組織や人物が発信元を隠しながら、事情を知らない一般の従業員や編集者を利用して偽情報を広める手口をより複雑かつ巧妙なものに変革している。これにより、工作員は成果を誇張しつつ、あたかも正当な活動であるかのように装いながら現地の政治や社会情勢に影響を及ぼそうとした。しかし、こうした秘密裏に行われる工作は、実態が公開されることで活動の継続が困難になるという致命的な弱点を抱えている。

組織全体でセキュリティを強化するためには、工作員がどのような脆弱性を悪用し、情報の到達範囲を拡大させているのかを正確に把握することが不可欠である。OpenAI は関連情報を関係当局や同業他社と共有しており、今後も継続的な調査と情報公開を通じてさらなる工作の阻止と抑止を推し進める方針である。