『NEXUS 情報の人類史 下: AI革命』ハラリ

『NEXUS 情報の人類史 下: AI革命』ユヴァル・ノア・ハラリ、河出書房新社

　ジムで筋トレ後のエアロバイクで聴く本を探していて、特にみつからなかったので、下巻でも…と思って聴きました。

　特に面白いと思ったところはなかったのですが、西側のAIが、プロテスタントのソラ・フィデ (Sola fide、信仰のみ）の考え方を重視し、身体性を軽んじるなら、AIに法人格を与える方向に動くかもというあたりはなるほどな、と。

　これまで国家は人間をノード（結節点）にした「情報ネットワーク」によって機能してきました。脳の中であれば、ニューロンのネットワークが記憶情報となり、集団間であれば社会的情報となるわけですが、このノードにAIが入ってきて、選挙などの討論にAIが入ってきたら潰滅的になる、と。

　AIの開発は米中で国の将来を賭けた競争となっていて、勝者が獲得するのは「世界制覇」。トランプがブロードコム（シンガポール系）による米クアルコムの買収を阻止したのも、中国の影を感じたからでしょう。

　今後、オンライン世界がデカップリングによるシリコン・カーテンで分断される可能性も指摘。お互いのAIがデータを爆食いして賢くなっていくにしても、中華圏メインのデータで形成されたAIと多くの西側諸国のデータで形成されたAIの勝負はみているような…

　前半ではミャンマーのロヒンギャ虐殺をめぐるFacebookアルゴリズムの件が大きく取り上げられています。企業側は投稿はあくまでユーザーが書いたものと主張しますが、結局、AIがユーザーエンゲージメントを極大化しようと動いた結果、憎悪を煽るコンテンツがどんどん拡散され、虐殺に至ったというのは、AIの自律学習がコントロールできないリスクを意識させます。

　こうした中でQアノンも引用されます。2017年に掲示板サイトに現れたQドロップのメッセージは、米国など各国政府内部に「魔王を崇拝する小児性愛者」が潜入しているという過激な世界観を売り込み、活動家たちは21年の米国議会議事堂襲撃も引き起こします。

　「情報ネットワーク」はナチス・ドイツやスターリンのように秩序の維持を優先して洗練されていきましたが、こうした悲劇を避けるためには、自らの過ちを正す「自己修正メカニズム」が不可欠であり、AI時代にもそれが必要だ、というあたりが結論でしょうか。

　著者はAIの決定に警鐘を鳴らしていますが、現代の生成AI開発では決定をしないようにアライメント（調整）されているんじゃなかったのかな…上巻では「情報ネットワーク」「自己修正メカニズム」などのキーワードが説明されているというのですが、聴くか悩み中ｗ

[目次]

第II部　非有機的ネットワーク

第6章　新しいメンバー  コンピューターは印刷機とどう違うのか

連鎖の環

人間文明のオペレーティングシステムをハッキングする

これから何が起こるのか?

誰が責任を取るのか?

右も左も

技術決定論は無用

第7章　執拗さ  常時オンのネットワーク

眠らない諜報員

皮下監視

プライバシーの終わり

監視は国家がするものとはかぎらない

社会信用システム

常時オン

第8章　可謬  コンピューターネットワークは間違うことが多い

「いいね!」の独裁

企業は人のせいにする

アラインメント問題

ペーパークリップ・ナポレオン

コルシカ・コネクション

カント主義者のナチ党員

苦痛の計算方法

コンピューターの神話

新しい魔女狩り

コンピューターの偏見

新しい神々?

第III部　コンピューター政治

第9章　民主社会  私たちは依然として話し合いを行なえるのか?

民主主義の基本原則

民主主義のペース

保守派の自滅

人知を超えたもの

説明を受ける権利

急落の物語

デジタルアナーキー

人間の偽造を禁止する

民主制の未来

第10章　全体主義  あらゆる権力はアルゴリズムへ?

ボットを投獄することはできない

アルゴリズムによる権力奪取

独裁者のジレンマ

第11章　シリコンのカーテン  グローバルな帝国か、それともグローバルな分断か?

デジタル帝国の台頭

データ植民地主義

ウェブからコクーンへ

グローバルな心身の分断

コード戦争から「熱戦」へ

グローバルな絆

人間の選択

エピローグ

最も賢い者の絶滅