児玉 哲彦「人工知能は私たちを滅ぼすのか――計算機が神になる100年の物語」
<https://www.amazon.co.jp/dp/4478068097/>
単行本（ソフトカバー）: 328ページ
出版社: ダイヤモンド社 (2016/3/18)
言語: 日本語
ISBN-10: 4478068097
ISBN-13: 978-4478068090
発売日： 2016/3/18
[書評] ★★★☆☆
人工知能(AI)が人間を滅ぼす可能性について一部で盛んに議論されているが、本書はそれに対する答えを与えてくれる本ではない(このタイトルは客寄せトリックのようだ)。本書冒頭(「はじめに」)に明示されているが、本書は、人工知能の技術面ではなく、今後ますます進行するITインフラとその一部を担うAIと人間の関係がどのようになるのかを予測する本である。
今後、社会がどのように変化して行くかを考える上での参考資料としては面白いし、今後の技術開発動向を考える上で参考になる箇所が多々ある。特に、次世代無線通信網(LTE/4Gの次の5G)が実現するIoT (モノのインターネット)は、人間同士、人間-機械(サーバ)間の通信に比較して、機械同士の通信が圧倒的に増大するという。そのような技術が実現した未来予想図は結構説得力がある。但し：
- 下記「各論：PRO/CONリスト」の「CON (自分と意見が異なる点)」の方に書いた通り、研究者へのインタビューを行った様子も無く、参考文献リストを見ると技術情報の原典(とされる文献)も殆ど読んでいない模様。ダイジェスト版や解説記事を読んで、あとは想像力で乱暴にまとめた本のように見える。技術的な確かさは少々(カナリ？)怪しい。そういう意味で、評価を★3個(5点満点中3点)とさせて頂いた(2点でも良かったくらい…)。
- 技術的な内容に乏しく、表現は情緒に寄りすぎている。技術の未来予測と宗教/オカルトを一緒くたにしている傾向もある(AI至上主義の態度はカーツワイル以上に宗教がかっている)。
- 超AIが人間を管理する未来社会を(受け入れられない人がいるであろうことは認めつつも)「すばらしい世界」だと主張している傾向あり。(←個人の情報や行動・思想を人外の存在が主体となって徹底的に管理した社会で、人間各個人は本当に「幸せ」になれるのか？)
- とは言え、著者の未来予想図は、結構本質を突いているようにも見える。筆者は、良くも悪くも、想像力と解説力の高い非専門家なのだと思う。
以下、ちょっと長いのでお急ぎの方は読み飛ばして頂きたく(苦笑)。
・ ・ ・ ・ ・
各論：PRO/CONリスト
◆PRO (賛同できる点)
- これまでのAIの発展の歴史と、今後AI (とIT/ICT/IoT)が我々の社会や生活に与える影響について、非常によくまとめて書かれていると思う。
- コンピュータの父、アラン・チューリングの時代から、シンギュラリティ(技術的特異点)論者、レイ・カーツワイルまで、人間と同じような働きをする機械を作ろうとした人たちの歴史とその系譜について、概要を掴み易い。
- 今後の技術展望を占う上で、第6章「IoTと人工知能がもたらす2030年の社会」に描かれた未来予測は、非常に参考になる。高度情報処理&通信技術、特に人-人以上に物-物の間での通信(IoT)の方が多くなった社会では、我々の生活はどう変わり、どのような仕事が機械に奪われるか。この描写は、時期ずれや細部の違いは多少あるだろうが、概ね本書に示された通りになるのではないか。
- 書き方、表現等について
- 内容、特に人工知能に関する説明が抽象・情緒に寄り過ぎていて、技術的・具体的な内容に乏しい(著者はITを駆使している人のようだが、システム設計の立場ではない人のようなので、これはある程度は仕方無い)。
- 縦書きの書籍だからというのはあるが、Siriが「シリ」、iPhoneが「アイフォーン」等、カタカナ表記になっている箇所が多く、読み難い箇所が多い。また、縦書きで組版されているのに「上記のように…」と横書き的な表現が度々見られるのもイタダケナイ(原稿を横書きで作成しているからだろうが、これらは「右記のように」、「先述のように」などと表現して欲しかった)。
- 技術予測と宗教/オカルトを一緒くたにしている傾向がある。これは、ジェイムズ・バラットが著書『人工知能 人類最悪にして最後の発明』(ダイヤモンド社・2015、Amazon、拙書評)で批判しているカーツワイルの姿勢以上に宗教的・狂信的だ(著者・児玉氏は、カーツワイル信奉者で、AIを「神」として無批判に布教する伝道者のようにも見える)。また、クローン等も含め、先進技術が孕む倫理的な問題をスッ飛ばしている傾向も強い(核技術や遺伝子組み換え技術について、今でも安全上・倫理上の議論が絶えないことを考えて欲しい)。
- 具(つぶさ)に読むと、AI研究者への取材等は行なっていない模様。また、各章末に書かれた参考文献リストを見ると(学術論文の査読のような意地悪な読み方かも知れないが)、キチンとした技術文書は読み込んでいないようだ。真っ当な議論をする上で必要な技術資料の原典には殆ど当たっておらず、そのダイジェスト版や解説記事をチョイ読みして、想像力も逞しく未来予想をしているだけのようにも見える(シンギュラリタリアンの教祖・カーツワイルの“聖典”も『ポスト・ヒューマン誕生』(NHK出版・2007、Amazon、拙書評)ではなくダイジェスト版『シンギュラリティは近い』(NHK出版・2016、Amazon)の方しか読んでいない模様)。そのような訳で、技術的信頼性は低いと見て良さそう。このような本が、真剣に取り組んでいる研究者の著作や、丁寧な取材に基づく書籍と同列に置かれるのはあまり世の為にならない(帯に「福岡伸一氏推薦」とあったが、福岡先生は本書のどこを読んで「推薦」したのだろうか？)。
- 近未来において、コンピュータ(AI)が意志を持ち、人間を超えた合理的で偏りの無い判断能力を持ち、「超越者」として我々の生活や環境を管理するようになることを大前提として書かれている。が、この超AIの価値観/倫理観が我々人間が受け容れられるものになるか否かについて、議論も言及も全く無い。 (そもそも、超AIには、設計者・制作者の思想や価値観が反映される筈で、完全に合理的な知能・知性などあり得ないのではないか？)
- 現在AIは認識能力を大幅に向上させつつあるが、このこととコンピュータ(AI)が「意志」「感情」を持ち、自律的に我々の世界に働きかけてくることの間には雲泥の差がある筈だ(この違いについても本書では殆ど述べられていない)。そもそもAIが「心」を持ち得るかどうか、現段階では何とも言えない筈だ。このブレークスルーが起こると決めつけている点は、安易に受け取らない方が良いと思う。
- 現在のAI研究の延長線上に現われるものに「高性能」で特定の「性格」(のようなもの)を持ち、人間より高性能で応答動作するシステムは実現するだろうが(現在既に、たとえばiPhoneのSiriのように「そこそこ使い物にはなるが、完全ではない」ものなら既に実現している)、人工知能が本来の意味で「知能」と呼べる物を獲得するかどうかは別の問題であり、実際にそのような「知能」「知性」を実現できるかどうかは現段階では不明だ。
- 人間が脳の中にどのような形で意識や感情を持っているかも解明しきれていない段階で、それを超える「機械知性」を実現出来ると考えるのは行き過ぎだと思う。
- 「合理的すぎる」超AIが管理する社会は、個人の自由意志・人間性を認めなくなるだろう(超AIから見て、人間は家畜のような存在になる)。そのAIに管理される社会は、G・オーウェルの『1984年』のような全体主義国家/社会となるであろう。人間が滅亡せずに存続したとしても、それが我々人間個々人にとって好ましい社会になるとは、どうにも思えない。
- 旧約聖書(ユダヤ教)・新約聖書(キリスト教)やそれらの伝説と、コンピュータ界で起こっていることを絡めすぎている感がある。確かに、神の出現～滅亡～再生の神話との類似性について象徴的ではあるのだが：
- 人間中心・科学万能時代に「神が死んだ」。
- モーゼが手にしていた石版(タブレット)にも似た平たい電子機器(タブレットPC、スマホ)を人々が手にし、世界中でどこでも「絶対神」(サーバ・AIなど)に繋がるようになった。
- AIが「意志」「感情」を持つようになった場合、それは「神の子」にも似ている。人間がAI (超知能、ASI)と地球を共存できるかどうか、人類は滅びるのか、あるいは生き残るとしたら誰か？ これは「最後の審判」である。
- 人間を超越した絶対神たる超AIが我々の生活を支配するようになるという考え方は、カーツワイルにも似た「宗教」だ(カーツワイル以上に狂信的であるとさえ言える)。筆者が思い描く未来社会(の理想像？)は、現代の人間社会やその価値観を認めない「AI原理主義」、「危険思想」の領域ではないだろうか。人間の判断やその結果として成り立つ社会とは本来、様々な要因でバイアス(偏向)が入り、非合理的なものであるが、これらを受容できない「完全に合理的な判断」は、人間性を全否定するものとなろう。
・ ・ ・ ・ ・
余談①：超AIが支配する社会を描いたSF作品の例 (創作物ではあるが結構参考になると思う)
超AIが支配する世界は、個人の自由意志や人間の非合理性が認められない(抑圧された)社会となるだろう。たとえヒトという種(しゅ)が生き延びたとしても、個性(差異や嗜好)が殆ど認められない、ヒトがAIの家畜となった「人類文明の滅んだ社会」と言えるのではないだろうか。このような未来社会は、地球環境やヒトという種の保存の為、超AIが生命の誕生や死も含めて人間社会を完全管理している世界だ。本書に書かれたような未来社会は、たとえば以下の作品に描かれるようなディストピア(暗黒郷)に近く、(少なくとも私には)受け容れ難い世界だ。
- A・ハクスリー(小説)『すばらしい新世界』(1932)…ごく少数のエリートと超AIによる完全管理社会であり、個人が誕生・教育・仕事・死亡まで遺伝子情報により全て決められた、自由の無い世界。
- G・オーウェル(小説)『1984年』(1949)…世界が少数の国家に統合し直されている。各国家は互いに戦争をしているが、各国家は国民の行動や思想を常に監視し、国家を維持する形態をとっている。国体を維持する上で障害となりそうな危険思想に結びつきそうな用語は公用語から抹消され、言語も作り直されている。街中の各所や全ての家庭内にネットワーク化された監視装置がついており、全国民を「ビッグブラザーは見ている」。
- 竹宮惠子(漫画)『地球(テラ)へ…』(1977-1980)…破壊された地球環境の復元と社会維持のために、人間ではなく超AIが国民生活を支配している(超AIがトップに立つ全体主義国家)。全国民の言動は常に監視されており、思想や言動の管理は勿論、素質面でも社会に不適応とされた人間は、“処分”される。
- サンライズ社(アニメ)『機動戦士ガンダムSEED DESTINY』(2004-2005)
- 「コーディネーター」…遺伝子操作によって作られた人種(これに対し、遺伝子操作されていない人種を「ナチュラル」と呼ぶ)。先天的な病気を無くし、病気や怪我、環境変化に強い。これを不自然なものだとするナチュラルの一部勢力と、政治的・思想的に衝突する。
- 「デスティニープラン」…「コーディネーター」のさらに先を行く概念/計画で、各個人が遺伝子解析により先天的な適性と能力を調査され、最適な職業・役割が与えられ、社会運営の効率化を目指す。個人間の諍(いさか)いや、国家間の争い事が無くなるという“人類救済措置”を称しているが、この管理方針に沿わない人間は淘汰・調整・管理される世界。
※SF作品は創作物ではあるが、未来技術の持つ危険性などについて警鐘を鳴らす「予言の書」であり、馬鹿にしたものではないと思う(←スミマセン、とある評論家さんからの受け売りです/笑)。
余談②：超AIが管理する社会に対する私見
私はTOEICスコアや業務スキル(専門技能資格の有無など)により人事考課が変動するのは仕方無いと考えるし、年間の自動車運転距離や違反歴、酒量・喫煙の有無や病歴、日常の運動量などによって料率が変わる保険も(ある程度は)合理的だと考える。
でも、例えば個人のDNA情報だけに基づいて料率の変わる保険が出てきたら、平等の概念や社会倫理に反しているのではないかと考える(肌や目の色と同じで、それは個人ではどうしようもないものだからだ)。
さらに言えば、24時間365日間の体温・血圧・心拍数の変動によって給与が変わる会社には勤めたくないし、好きなタレントや検索キーワード履歴や友人とのチャットの内容によって受けられる福祉サービスが変わるような社会にも住みたくはない。超AIが管理する社会というのは、突き詰めれば、そのような世界ではないだろうか。そのような極端な管理社会に暮らすくらいなら、私はクレジットカードも携帯電話(スマホ)もインターネットも捨てよう。そして、不便で貧しいだろうが、プライバシーと自由が確保でき、原因と結果の因果関係に納得できる(少なくとも結果を受け容れる・諦めることの出来る)旧来の世界で生きたい。
…と書いている時点で、私は既に技術の変化について行けなくなりつつあるのかも知れない？(本当はIT依存症なんですけど/苦笑)
0 件のコメント:
コメントを投稿