OpenAIが「AI生成画像かどうかを見分けるツール」を開発中

OpenAIが2024年5月7日に、デジタルコンテンツの来歴を追跡する技術の標準化団体「Coalition for Content Provenance and Authenticity(C2PA)」に参加したことを発表しました。Adobe、Microsoft、Google、ソニーなどの後に続いてC2PAの運営に加わったOpenAIは今後、電子透かしやAI画像検知ツールなどの技術の実装に取り組んでいくと表明しています。

OpenAI Joins C2PA Steering Committee - C2PA
https://c2pa.org/post/openai_pr/

Understanding the source of what we see and hear online | OpenAI
https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online

Our approach to data and AI | OpenAI
https://openai.com/index/approach-to-data-and-ai

OpenAI says it’s building a tool to let content creators ‘opt out’ of AI training | TechCrunch
https://techcrunch.com/2024/05/07/openai-says-its-building-a-tool-to-let-content-creators-opt-out-of-ai-training/

OpenAIは2024年2月から、画像生成AIのDALL-E 3が生成する画像に、AIによる生成物であることを示すC2PAの識別子の埋め込みを開始していました。

OpenAIの画像生成AI「DALL-E 3」にAI生成作品であることを示す技術標準「C2PA」を使った電子透かしの埋め込みがスタート - GIGAZINE

そして、今回正式にC2PAに参画したOpenAIは、デジタルコンテンツの出どころの偽装に対する耐性を高め、コンテンツの完全性を強化する新しい来歴証明技術を開発することを発表しました。

具体的には、デジタルコンテンツに除去困難かつ目に見えないマークを付ける「改ざん耐性電子透かし(tamper-resistant watermarking)」や、当該コンテンツが生成モデルによって作られたかどうかをAIで評価するツールである「検出分類器(detection classifiers)」などが挙げられています。

取り組みの一環として、OpenAIは2024年5月7日から、研究機関向けにDALL-Eの検出分類器を配布するテスタープログラムへの応募の受付を開始しました。この「DALL-E検出分類器」は、画像がDALL-E 3に由来する可能性を測定するツールで、APIとして配布される予定です。

「DALL-E検出分類器」は初期の社内検証で、DALL-E 3によって生成された画像の98％を識別したほか、AIによって生成されていない画像の誤検知率は0.5％未満という結果を示したとのことです。

OpenAIは、アクセスプログラムを通じてDALL-E検出分類器の有効性や現実のユースケースでの実効性を検証し、AIによって生成されたコンテンツについての理解を深め、AIの責任ある使用に必要な事柄を徹底的に評価するとしています。

このほか、OpenAIはコンテンツを生み出すクリエイターがAIによるトレーニングをオプトアウトすることを可能にするツール「Media Manager」を開発中であることが、複数のメディアによって報じられています。

伝えられるところによると、クリエイターやコンテンツの所有者は、Media Managerを使用して自分の作品を明示し、その作品をAI研究やトレーニングにどのように使用させるか、あるいは使用させないかを指定することができるとのこと。

Media Managerは2025年までにリリースされる予定です。