偽装工作の摘発を発表
OpenAIは2026年10月8日、ロシアとイランに由来する2つの偽装工作組織を特定し、これに関連するChatGPTアカウントを停止したと発表しました。同社によると、これらの組織はAIモデルを従来の手法と組み合わせて使用し、偽の「シンクタンク」や「ジャーナリスト」を装って、地政学的なメッセージを標的のオーディエンスに浸透させようとしていました。
同社は過去2年半にわたり、サイバー攻撃や隠れた影響力工作（IO）、詐欺など、自社の利用ポリシーに違反する試みを報告してきました。今回の発表はその一環であり、OpenAIが摘発した30件の影響力工作のうち、ロシアに由来する工作は「IO Breakout Scale」でカテゴリー5に達した初めてのケースとなりました。このスケールは影響力工作の到達度を1（最低）から6（最高）で評価するもので、ロシア発の工作については、複数の国で政治家の発言につながったことを示す証拠があるとしています。イランに由来する工作はカテゴリー4と評価されました。
ロシアの工作「Dark Clark」の実態
OpenAIはロシアに由来する工作を「Dark Clark」と名付けました。この工作はラテンアメリカ全域を標的とし、ウクライナの評判を損なうことを目的としていたほか、アルゼンチンやボリビアの国内政治への干渉も試みていたとされます。
工作の主体は偽の人物「ミア・クラーク」を通じて「社会調査センター（SRC）」という自称リサーチプラットフォームを運営していたとみられます。OpenAIによると、SRCのラテンアメリカの従業員はロシアのグループのために働いていることを知らなかったとみられます。この工作は過去2年半で摘発された中で最も複雑な偽装工作の試みだとされます。
OpenAIによると、工作員らはChatGPTを主に、上役に宛てた活動の内部報告書の作成・更新に使っていました。報告書には、アルゼンチンのハビエル・ミレイ大統領に関する偽情報の拡散や、ボリビアの抗議活動を悪化させるための偽の音声記録の作成などが記録されていました。また、ペルーの学校に偽のメールを送り、ウクライナ関連のイベント開催を指示したケースも報告されています。OpenAIは公開情報の調査で、工作側の主張と一致する報道やファクトチェック、当局による否定を見つけたとしています。一方で、工作員は無関係な出来事まで自分たちの成果として報告しており、その主張はそのまま受け取れないとも述べています。
イランの工作と偽ジャーナリスト
イランに由来する工作では、7人の「ジャーナリスト」のペルソナを作成し、世界中の中小規模のオンラインメディアに長文記事を持ち込もうとしていました。また、米国とイランの戦争に関連するトピックでソーシャルメディアのコメントを大量に生成していたとのことです。OpenAIは、活動は委託を受けて影響力工作を行う商業的な事業者のものと整合的だとしつつ、具体的な主体は特定できていないとしています。
OpenAIはこの工作を、2016〜17年にロシア軍情報機関の工作として活動した偽ジャーナリスト「アリス・ドノバン」と類似した手法だと指摘しています。
影響力工作の傾向とAIの役割
OpenAIは、今回の2つの工作が、従来の影響力工作と似ているものの、AIによってワークフローが効率化された点で特徴的だと述べています。AIは偽装工作に規模、効率性、言語流暢性、編集能力をもたらし得るとし、これにより従業員や編集者など無防備な被害者を搾取できる可能性があると指摘しました。
また、OpenAIは過去2年半に摘発した30件の影響力工作の分析から、実際のメディアにコンテンツを掲載しようとする工作は、ソーシャルメディアだけに依存する工作よりも潜在的な到達度と影響が高い傾向があると述べています。
どう見るか
今回の発表では、OpenAIがロシアとイランに由来する2つの偽装工作組織を特定し、関連アカウントを停止したことが公表されました。具体的な工作の手法や、OpenAIのモデルがどのように使用されたかについての詳細も示されています。
一方で、OpenAIがこれらの工作をどのように検知したのかという技術的な詳細や、停止されたアカウントの数、工作が実際にどの程度の影響を及ぼしたのかについての独立した第三者による評価は公表されていません。
