AI新生 人間互換の知能をつくる

スチュアート・ラッセル

AIの標準教科書の著者が制御の問題を扱った一冊。目的を与えて最適化させるという設計そのものが危険だとし、人の選好に不確かさを残す方式を提案する。触れたものが金に変わるミダス王の逸話が、誤った目的を与えることの怖さの比喩として使われる。人間が電源を切れる余地を機械の側に持たせる、という設計思想を示す。

ジャンル: テクノロジー

この本を薦めた人（1人）

• イーロン・マスク（テスラ / SpaceX CEO）が薦めた。

  将来のAIリスクについて読む価値がある

  出典: 本人のX（Twitter）投稿

イーロン・マスクが薦めた他の本

• ゼロ・トゥ・ワン 君はゼロから何を生み出せるか（ピーター・ティール）
• 隷属への道（フリードリヒ・ハイエク）
• 八月の砲声（バーバラ・W・タックマン）
• 銀河ヒッチハイク・ガイド（ダグラス・アダムス）
• スーパーインテリジェンス 超絶AIと人類の命運（ニック・ボストロム）
• ファウンデーション ―銀河帝国興亡史1―（アイザック・アシモフ）