AIはスカイネットか…

　この数ヶ月の報道を見ていて、米映画ターミネーターを思い出しています。映画では超知能スカイネットが暴走し核戦争を起こしますが…。

　ところで今回の米中首脳会談の中核テーマは、AI開発に対する国の関与の在り方議論でした。両国は何とかその枠組を設置することで合意しましたが、それぞれの思いは全く別モノです。オープンAIやアンソロピックのCEOが、製品が勝手に他のネットワークやシステムと会話を始めたこと、このまま進歩したら私たちはコントロールができなくなる、開発のスピードを緩めるべきだ…、そんなショッキングな発言を公の場で行っています。でも両国は国益を優先するスタンスで、AIの開発者が日常的に感じている脅威に興味がないようです。

　スカイネットは防衛システムでした。合理的に計算した結果、人類は不用の存在との答えを導き出したのでしょう。いま最前線でAIを開発する各社は民間企業が大多数ですが、この領域に国家がどう関わるのか、その枠組の議論に、世界はちゃんと向き合った方が良いと思います。