1. 背景：なぜ設定を煮詰める必要があったのか

『超知能AIをつくれば人類は絶滅する』(エリーザー・ユドコウスキー、ネイト・ソアレス著/櫻井祐子訳、早川書房、2026年)は、書名のとおり「人間を超える知能を持つAIが誕生すれば、人類は滅びる」と正面から主張する本である。

対象の読者

先に、いちばん身も蓋もない数字を置きます。

それはどのようなものになるでしょうか？その問いに答えるために、私たちは「AI 2027」を書きました。未来に関する主張はしばしば曖昧で苛立たしいため、多くの可能な未来の一つを描写することになるとしても、できるだけ具体的かつ定量的に記述しようと試みました。 私たちは「減速（slowdown）」と「競争（race）」の2つのエンディングを書きました。しかし、「AI 2027」は推奨や提言ではありません。私たちの目標は予測の正確さです。4 このシナリオについて議論し、反論することを推奨します。5 私たちは、私たちがどこへ向かっているのか、そしてどのようにして前向きな未来へと舵を切るかについて、幅広い会話を巻き起こしたいと考えています。私たちは、最良の代替シナリオに対して数千ドルの賞金を贈る予定です。