『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』 〜AIがもたらす本当の脅威〜
映画『ターミネーター』シリーズでは、AIの搭載された殺人マシーンが人類の滅亡危機を引き起こすという設定になっている。架空のコンピューター・ネットワーク「スカイネット」が人類に反乱を起こし、人類滅亡の危機となる日を”Judgement Day”(審判の日)と呼んでいる。はたして将来、コンピュータが人間を支配し、破滅に導くことはあるのだろうか。こうした知識人や科学者の議論は「ターミネーター問題」と呼ばれている。
AIが将来的に人間にとっての破壊になるかどうかを議論するには、最新(ここでは2017年7月現在)のAIに関する研究や背景、状況を知っておく必要がある。本書は、命に直結しやすい3分野、車、医療、兵器の3つに関するAIの基礎知識を解説している。機械学習の3つのパターン(ルールベース、統計・確率型、ディープラーニング)の違いによって、何がどの程度まで私たちにとって脅威なのかを学ぶことが出来る。
東京都港区は、保育園の入園選考において、家庭状況を点数化して事務的な作業を短縮するこ検討してるという。(読売新聞、2018年9月28日「保育園の入園選考にAI検討」)これは文字等を情報(二進数の羅列)として認識させ、生体工学的に調節されるパラーメータ(人間でいう記憶の強度の指数となるシナプスの強度)をもとにデータの解析処理をさせることになる。このようなパターン認識こそがAIの最も得意とする(かなり高い確率で正解となる)ところだ。一方で、機械(ヒューマノイド)の動作は、幼児でもできるような、具体的にはドアノブを閉めるといった動作でさえ非常に心もとない程度である。この2つの進歩のギャップ(モラベックのパラドックス)は、いまだに、そしてこれからも簡単に埋めることは出来ていないようである。
このように、本書はAIのもたらすメリットとリスクを再考する機会を提供してくれるものである。そして筆者は、「AIがもたらす真の脅威とは、それが人間を殺すことではなく、むしろ人間性を殺すことかもしれない」と述べている。確かに、物理的かつ倫理的な側面を踏まえるとマシーンが今すぐ人間に対して致命的な言動を取ることは考えにくい。しかし、私はニューラルネットがブラックボックス化している現状を踏まえると、システムの暴走が世界的な打撃を与える可能性は大きいのだ。これは、『ターミネーター』シリーズに出てくるスカイネットの反乱(インターネット上のソフトウェアの暴走)と同じ原理である。AIの進化=人類滅亡、という図式はあながち暴論であるとは思っていない。だから、当然筆者の言うような人間性の喪失を守り抜くことは大事であるし、技術革命には対して抑止的でかつ明確な倫理規定と技術的担保が求められている。ブラックボックス内でシンギュラリティー(叡智を完全に超越する時)がいつ起こってもおかしくなく、万が一のときには最後の手段を用意しておくことが必須であると考えせられた一冊であった。
※参考文献
読売新聞、(2018 9 28)「保育園の入園選考にAI検討」
小林雅一、(2017.7) 『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』
Recent Posts
See Allディープランニングなどの技術発展により第三次AIブームが来ている。どのような倫理観や規制によって共存していくかも世界的な課題である。以前から私は法とAIの関係性に興味があったので、『AIと法の時代』を手に取ってみた。 著者の小塚壮一郎は、上智大学法学科大学院教授等を経て、学...
「(ヤフーコメント欄では)彼らは、ネット右翼と呼ばれ、「韓国人は出て行け!」といったヘイトスピーチを繰り返す。それは排他主義的でヘイトだと指摘すれば、原因は相手側にあるとい、言論の自由を持ち出す。議論を続けても最終的には「お前は在日」と罵られて終わる。議論が出来ない人々であ...
「なんて綺麗な画面なんだ!」これがApple製品、MacBook Airの出会いだ。新しいラップトップコンピュターを探しにヤマダ電機総本店を行って、一目惚れをしてしまった。Macbook AirのスタイリッシュでクールなデザインはWindowsをはじめとした他社製品にない大...