「AIの開発を一時的に止めるべき」という公開レターが話題になっています。イーロン・マスクやアップルの共同創立者スティーブ・ウォズニアッキら1000人のテック・リーダーが署名。理由は「AIには社会と人類への深刻なリスクがあるから」としています。
AI開発はこのところ急速な進展を遂げています。昨年末に発表されたChatGPTが、最新テクノロジーの主役に躍り出ました。それに加わったGPT-4の能力の高さが衝撃を与えています。
今回発表された公開レターは、非営利団体フューチャー・オブ・ライフ・インスティテュートによるものです。「AI開発者は手のつけられない開発戦争に巻き込まれている。当の開発者でさえも理解、予測、また確実に制御できない、これまで以上に強力なデジタル・マインドを展開しようとしている」と警鐘を鳴らしました。
ChatGPTはこれまでのチャットボットとは桁違いの能力で、まるで生身の人間と会話しているかのように感じます。特にZ世代には大人気で、ChatGPTの膨大な知識や整理能力などを使ってレポートを書く大学生も少なくありません。
しかし、これがもっと高い能力を持てば、多くの人が現在の職を失う可能性も指摘されています。またいくらAIとはいえ間違いもあるわけで、それが誤情報を蔓延させ、2年前の議会襲撃のような事件から、最悪の場合は戦争を引き起こす可能性も考えられます。また、病気やメンタルヘルスに関する間違った情報が、健康リスクにつながるかもしれません。
ディープ・フェイクと同様、あまりにリアルなチャットボットのために、人間は現実と虚構の境目がわからなくなってしまうことは、使ってみるとよくわかります。
レターでは、「AIは人間の未来を変えるもの。だからこそこうしたリスクを防ぐための方策を、これ以上の開発を進める前に業界と政府が一緒に考えるべき」と、強く指摘しています。もちろん同意しない開発者も多いのですが、一石を投じるものになってほしいと思います。
ニューヨークからお届けします。