blueqat news
量子コンピュータ関連銘柄 更新: 10/12 12:45(日本時間)
%は前日比・グラフは直近10営業日の推移 — 株価とニュースの突き合わせ / 業界の関係図
AI

OpenAI、EU規制対応のテキスト透かし技術「textGrain」の運用方針を発表——段階的展開と検出器の限定公開

要約

OpenAIは2026年10月5日、EU AI法案に対応するテキスト透かし技術「textGrain」の運用方針を発表しました。全世界のAPI顧客向けに選択制で提供を開始し、EU域内のChatGPTとCodexには数週間以内に適用します。検出器は承認された研究者と専門組織に限定提供し、誤検出のリスクを踏まえ一般公開は見送りました。textGrainは単語選択に統計的信号を追加する方式で、短いテキストや編集で検出率が低下する限界があるとしています。オープンソース化の計画も明らかにしました。

発表の概要

OpenAIは2026年10月5日、EUのAI法案(EU AI Act)に対応するテキスト透かし技術へのアプローチを発表しました。同社は既に画像と音声の識別ツールを公開していますが、テキストについては今回、機械可読な形で生成テキストを識別可能にする技術「textGrain」の運用方針を示しました。

EU AI法案は、生成AIプロバイダーに対し、生成されたテキストを機械可読な形で識別できるようにすることを求めています。OpenAIはこの要件と技術的限界を踏まえ、段階的なアプローチを取るとしています。

提供の段階と対象

OpenAIの発表によると、テキスト透かしの提供は以下の3段階で進められます。

  • API顧客向けの選択制提供: 2026年10月5日から、全世界のAPI顧客は一部モデルでテキスト透かしを選択できます。ただし、APIではデフォルトでは無効となっています。
  • EU域内でのChatGPTとCodexへの適用: 数週間以内に、EU域内の対象となるChatGPTとCodexの出力に、見えない透かしを追加します。
  • 検出器の研究者向け提供: テキスト透かし検出器へのアクセス申請を本日から受け付けます。当初は承認された研究者と専門組織に限定され、技術の評価と改善に協力できる組織が対象となります。

検出器は「OpenAIの透かしが検出されるかどうか」を報告するもので、ユーザーを特定したり、プロンプトや会話を明らかにしたりすることはありません。誤検出のリスクがあるため、一般公開は見送られました。

テキスト以外の証明については、画像・音声の検証ツール(openai.com/verifyのウェブツールとContent Provenance API)は引き続き公開され、組織がOpenAIシステム生成の画像・音声かどうかを確認できます。

textGrainの性能と限界

textGrainは、モデルの単語選択に統計的な信号を追加する技術で、検出器はこの信号を探してOpenAIの透かしの有無を判定します。OpenAIは技術報告書を公開しており、今後数週間で詳細を追加するとしています。また、技術をオープンソース化する計画も明らかにしました。

同社の評価では、textGrainは他のアプローチ(SynthID for textを含む)と同等かそれ以上の性能を示したとしています。一方で、理想的な条件下での性能が日常的な使用での信頼性を保証するものではないとしています。

検出器の誤りには、透かしがないのに報告する「偽陽性」と、透かしがあっても見逃す「偽陰性」の2種類があります。同社の評価では以下の課題が示されました。

  • 短いテキストや制約の多いテキストは検出が難しいです: 偽陽性率1%を目標とした場合、200トークンの文章では約80%の検出率でしたが、400トークンでは約95%でした(心理学のコンテンツの場合)。数学のような単語選択の自由度が低いコンテンツでは、検出率が低くなりました。
  • 編集により透かしが弱まります: 400トークンの文章で単語の10%を同義語に置き換えた場合、検出率は約92%から66%に低下しました。25%を置き換えた場合は17%に低下しました。

出力品質への影響

OpenAIは、最新のフロンティアモデル「Astra」を評価するベンチマークで、透かしの有無による性能差は有意ではないとしています。同社の測定による主なベンチマーク結果は以下のとおりです。

ベンチマーク透かしなし(Astra, max)透かしあり(Astra, max)
Artificial Analysis Intelligence Index49.57ポイント49.76ポイント
AutomationBench34.09%34.86%
DeepSWE v1.172.80%71.68%
Terminal-Bench 4.053.90%56.06%
Terminal-Bench Science 0.156.90%60.00%
BrowseComp87.92%87.35%
HealthBench Professional64.27%64.60%
GPQA Diamond94.44%93.94%

透かしで分かること、分からないこと

OpenAIは、テキスト透かしが提供する情報は限定的だと説明しています。透かしの検出結果からは、以下のことは判断できないとしています。

  • 人間の貢献度(どの程度の人間の判断、編集、創造性が入ったか)
  • 所有権や責任の所在
  • ユーザーの特定
  • 正確性(真実か、誤解を招く内容か、有害かなど)

また、透かしが検出されない場合でも、人間が書いたことを証明するものではありません。OpenAIツールで生成されたテキストでも、短すぎる、編集された、翻訳されたなどの理由で検出が機能しない場合があります。さらに、未対応のモデル、透かし導入前のテキスト、他社ツールによる生成などの可能性もあります。

どう見るか

今回の発表では、テキスト透かし技術「textGrain」の仕組み、EU域内での適用時期(数週間以内)、API顧客向けの選択制提供の開始日(2026年10月5日)、検出器の申請受付開始日(同日)が明らかにされました。

一方で、以下の点は公表されていません。検出器は現時点では一般公開されず、研究者や専門機関に限定して提供されます。価格や利用条件については資料に記載がありません。textGrainのオープンソース化の時期も明記されていません。検出器の性能評価はOpenAI自身の測定に基づくもので、第三者による検証結果は示されていません。また、EU以外の地域でのChatGPTやCodexへのデフォルト適用時期も発表されていません。OpenAIは技術、標準、エビデンスの進展に応じてアプローチを見直すとしており、検出器へのアクセスは結果を責任持って解釈できると判断した時点で拡大するとしています。

続きはメールでも受け取れます

新着記事のまとめを、毎日・週1回・月1回から選んでお届けします。 対談と教えて先生の続きも読めるようになります。登録も閲覧も無料です。

ログインしてメール配信を設定