イーロン・マスク氏ら900人以上のテックリーダーたちが、新たな超強力人材の育成を6カ月間休止するよう求める公開書簡に署名した。 人工知能 (AI)システムに関するものだ。書簡では、最近のAIの進歩が「社会と人類に深刻なリスクをもたらす」ことを挙げており、多くの専門家が「人類は大惨事に向かって夢遊病になっている」と危惧している。署名者は、すべてのAI研究所に対し、提案された6ヶ月の休止期間を利用して、安全性の研究を継続し、高度なAIの設計と開発に関する共有の安全プロトコルを開発することに同意するよう求めている。
書簡は、署名者がAI開発全般を一時停止することを求めているのではなく、「予測不可能なるる大きなものへの危険な競争から一歩後退すること」を求めていると指摘している。 ブラックボックス のモデルは、創発的な能力を持つ。"この本は希望的観測で終わり、長い「AIの夏」を呼びかけ、社会がこれらのシステムの開発を減速させ、設計上安全で形式的に検証可能な代替AGIアーキテクチャを社会に適応させ加速させるよう促している。
