OpenAI、AI生成画像の検出ツールを開発中　AI画像を98％識別可能

OpenAIは2024年5月7日（米国時間）、AI画像生成ツール「DALL·E 3」で生成した画像を検出するツールを開発中であると発表しました。

AI生成画像の検出ツールは、研究者アクセスプログラムを通じて、研究ラボや研究志向のジャーナリズムNPOを含むテスターに公開。テスターからのフィードバックを集めている段階です。

OpenAIによれば、検出ツールの初期バージョンに対して実施した内部テストにおいて、DALL·E 3で生成された画像の区別に高い精度を示したとのこと。DALL·E 3の生成した画像を約98％識別し、非AI生成画像の約0.5％未満をDALL·E 3生成の画像と誤認したという結果でした。また検出ツールは、対象の画像が切り取られていたり、圧縮されていたり、彩度が変更されていたりしても機能するといいます。

ただし、現時点でOpenAIによるAI画像検出ツールは、DALL·E 3の生成した画像と非AI生成画像の区別のみに高い精度を示しており、他のAIモデルが生成した画像の識別性能は5〜10％とそれほど良くはありません。とはいえ、今後の開発でさらなる精度の向上が見込めれば、画像の真偽判定を正確かつ簡単におこなえるツールとしての展開が期待できます。

なおOpenAIは、2023年2月にAI生成テキストを判別するツールを公開しましたが、精度の低さを理由に提供を終了しています。