どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。

序章　困難な予測と容易な予測
第１部　非人間的な知性（人間の特殊能力
つくられるのではなく育てられる
欲することを学ぶ
訓練したとおりの結果は得られない
ＡＩのお気に入り
人類は敗北する）
第２部　ある絶滅シナリオ（危険な認識
拡張
登頂
結末）
第３部　困難に立ち向かう（呪われた問題
科学ではなく錬金術
「不安を煽りたくはない」
停止せよ
生きている限り希望はある）