米Metaは2026年10月、同社のプラットフォームにおける児童性的搾取対策を強化する追加措置を発表しました。同社は、悪意ある行為者が複数のプラットフォームを移動し、検知を逃れるために手口を変えると説明します。こうした状況に対応するため、ツールの継続的な進化、業界全体でのシグナル共有、法執行機関への報告を行っているとしています。
広告審査プロセスの新たな改善
Metaによると、オンライン上の犯罪者は手口を変えており、広告もそうした場の一つになっているといいます。一見無害に見える広告が、プラットフォーム外でホストされている違法コンテンツへ人々を誘導するケースがあるとしています。
同社はこの悪質な広告スキームの仕組みを把握した後、報告されたものだけでなく調査を拡大し、関連するアカウントを無効化し、関与したオフプラットフォームのリンクをブロックしたと説明します。さらに、特定した敵対的手口に対処するため、以下の追加措置を展開しました。
- 児童性的搾取（CSE）素材への「サイン表示（signposting）」を検知するための新たな大規模言語モデル（LLM）——一見無害な広告コンテンツで、オフプラットフォームの違法コンテンツや有害な活動へ人々を密かに誘導することが強く疑われるものを指します。
- 広告が何を表示するかだけでなく、どこへ誘導するかの理解を改善し、違反先をブロックし、責任のあるアカウントを執行します。
- 従来のシステムで検知できなかったCSE素材を浮上させるためのAI駆動の追加スイープ——調査の進展に伴い拡大中のシグナルを使用します。
- 自社の防御を能動的に調査し、弱点を見つけるAIレッドチーミングエージェント——新たな敵対的CSE手口が拡大する前に特定するためです。
- 削除後に新規アカウントを作成しようとする悪意ある行為者を特定する再犯検知の強化です。
技術的取り組み
Metaは、児童性的搾取素材（CSAM）や関連する児童安全違反を能動的に検知するため、以下のAIおよび自動化ツールを運用しています。
- 行動シグナル: メタデータと行動シグナルの組み合わせを分析し、不審な行動パターンに関与するアカウントを検知します。
- PhotoDNAおよびその他の写真・動画照合技術: 2011年からMetaの全アプリで使用され、既知のCSAMの同一またはほぼ同一のコピーを検知して削除します。Metaは業界最大級の画像・動画ハッシュデータベースを維持し、新たに特定されたハッシュを追加して、業界団体Tech Coalitionの「Lantern」プログラムを通じて他の参加企業と共有しています。これにより、他の企業もそのコンテンツを削除できます。また、オフプラットフォームのリンクプレビューでCSAMを特定するためにも同じ技術を使用します。これらの照合技術で特定されたすべてのCSAMコンテンツは、適用される法律に従い、NCMEC（全米行方不明・被搾取児童センター）の支援を受けて法執行機関に報告されます。
- 外部サイトへのリンクブロック: CSAMコンテンツをホストまたは作成する外部ウェブサイトへのリンクをブロックします。リンクがブロックされると、そのリンクを含む広告、投稿、コメントなどの他のコンテンツを検索して削除します。Facebook、Instagram、Threadsでは、ブロックされたリンクを含む投稿を防止し、ブロックされたリンクを含む広告はアップロード時に拒否されます。
- ヒューリスティックベースのルール: 自動分類器、AIモデル、その他のシグナルを組み合わせ、広告を含む新規または新興の違反パターンを大規模に能動的に特定し対処します。
数字で見る現状
同社の発表によると、2026年1月から6月までの期間に、FacebookとInstagram上で世界全体で3,320万件の児童性的搾取コンテンツに対処しました。そのうち97%以上が誰かに報告される前に同社が能動的に発見し対処したものだといいます。インドでは同期間に530万件の児童性的搾取コンテンツに対処し、98%以上が報告前に能動的に発見・対処されたとしています。
法執行機関との連携
Metaは、これらの犯罪の背後にいる人物を責任追及するため、当局と継続的に協力していると述べています。2026年9月には、インドのサイバー犯罪調整センター（I4C）が運営する国家サイバー犯罪報告ポータル（cybercrime.gov.in）に、児童安全に関する案件を直接報告すると発表しました。これは、NCMECの支援を受け、国家サイバー犯罪報告ポータルを通じて法執行機関に児童性的虐待素材を報告する既存の報告体制に基づくものだとしています。
どう見るか
今回の発表では、Metaが児童性的搾取対策として実施している具体的な措置——広告審査への新たなAIツール導入、ネットワーク単位での調査・摘発、業界団体を通じたハッシュ共有、法執行機関への報告など——が示されました。2026年上半期の対処件数（世界で3,320万件、インドで530万件）や、能動的発見率（世界で97%超、インドで98%超）という実績も公表されています。
一方で、今回発表された新たなAIツールの具体的な性能や、導入による効果の定量的な評価は示されていません。また、これらの対策の詳細な技術仕様や、他社との比較データなども公表されていません。法執行機関への報告件数や、摘発されたネットワークの規模などのデータも明らかにされていません。
