OpenAIは2023年1月31日（米国時間）、AIによって書かれたテキストと人間が書いたテキストを判別するツールを無料公開しました。
テキストの判別ツールは、Web上に無料で公開されており誰でも利用可能です。OpenAIは、学業へのAIツールの使用や、人間と偽るAIチャットボットの判別に利用できるとしている一方で、ツールの信頼性は不完全であるともしています。OpenAIの実施したテストでは、26％の確率でAIの生成したテキストを「AIで書かれた可能性が高い」と判定し、9％の確率で人間が書いたテキストをAIによるものと誤って識別しました。そのためOpenAIは、テキストの出どころの判定を補完するツールとして判別ツールが使われるべきだと注意を促しています。
ChatGPTで生成したテキストを判別させたところ、「AIによって書かれた可能性が高い」と判定された
外務省の公開しているテキストでは、「AIによって書かれた可能性が非常に低い」との判定結果
テキストの判別ツールの利用には、OpenAIのアカウントでのログインが必要です。判別ツールではさまざまな言語によるテキストを判別させられますが、英語以外の言語では性能が著しく低下するため、現時点で英語のテキストのみに使用することが推奨されています。ソースコードなどの場合には判定に信頼性がないとのことです。
判別ツールは長い文章ほど信頼性が向上するという性質から、1000文字以上のテキストが判別の対象となります。1000文字より短い文章は、入力しても判定対象となりません。
ChatGPTをはじめとするAIチャットツールは、精度の高いテキストを生成できる一方で、AIチャットツールによって生成された文章を大学の課題や試験に流用する行為が問題視されています。パリ政治学院などでは、不正防止を目的にAIチャットツールの使用を禁止したと報じられています。また、スタンフォード大学の実施した調査によると、学生の17％が課題や試験にChatGPTを利用したと回答しており、AIチャットツールはすでに教育現場に浸透し始めているのが分かります。