Future of Life Institute（FLI）は2023年3月28日、GPT-4を超えるAI研究を少なくとも6カ月間停止するよう求める公開書簡を発表しました。公開書簡には、イーロン・マスク氏やApple共同設立者のスティーブ・ウォズニアック氏ら1000人以上が署名しています。
FLIは、2014年に設立された高度なAIによるリスク軽減の研究に取り組む非営利団体。今回の公開書簡に署名しているイーロン・マスク氏もアドバイザーとして在籍しています。
FLIは、高度なAIは地球上の生命に大きな変化をもたらす可能性があるもので、相応の配慮とリソースをもって計画・管理されるべきであるものだとしています。しかし、現時点でそのような計画・管理は実施されておらず、あらゆるAI研究所がAIの作成者でさえも理解や制御をできないデジタルマインドを開発する競争に陥っていると指摘。高度なAIの開発には安全プロトコルが必要であると主張しています。
具体的には、OpenAIによるAI言語モデル「GPT-4」よりも強力なAI研究を少なくとも6カ月間、ただちに停止することを求めました。また、研究の一時停止が速やかに実施できない場合は、政府が介入してモラトリアムを実施する必要性についても言及しています。FLIは、この停止期間を利用して、独立した外部の専門家によって監査・監督される、高度なAIの開発に関するプロトコルを共同で開発するべきだとしています。
AI研究は、ChatGPTなどの登場を皮切りに急速に進展しています。Microsoftは、検索エンジン「Bing」とChatGPTの統合を実施し、複雑な質問を検索するとAIによる回答が得られる機能を実装しています。Googleも負けじと対話型AI「Bard」を発表。Google検索と連携したチャットAIの開発を進行中です。
また、公開書簡で名指しされている「GPT-4」は、OpenAIによるAI言語モデルの最新版として2023年3月に発表されました。OpenAIの発表によると、GPT-4は専門的・学術的分野では人間レベルの性能を発揮し、司法試験の模擬試験で上位10％のスコアをとるほどの性能を持っているとのことです。
これらのAI技術は、チャットで回答を得る機能にとどまらず、OfficeアプリやGoogle Workspaceなどと連携することで文章作成や要約でも応用されるようになってきています。これらが一般化されれば、多くの文章作成の場面はAIによっておこなわれるようになり、人間は生成されたドラフトのチェックをするだけでもよくなるような時代が来る可能性があります。今回の公開書簡は、そういったAI活用の便利さで加熱する情勢に一石を投じるものとして、今後のAI研究に少なからず影響を与えていくものとみられます。