• Tom

『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』 〜AIがもたらす本当の脅威〜


 映画『ターミネーター』シリーズでは、AIの搭載された殺人マシーンが人類の滅亡危機を引き起こすという設定になっている。架空のコンピューター・ネットワーク「スカイネット」が人類に反乱を起こし、人類滅亡の危機となる日を”Judgement Day”(審判の日)と呼んでいる。はたして将来、コンピュータが人間を支配し、破滅に導くことはあるのだろうか。こうした知識人や科学者の議論は「ターミネーター問題」と呼ばれている。

 AIが将来的に人間にとっての破壊になるかどうかを議論するには、最新(ここでは2017年7月現在)のAIに関する研究や背景、状況を知っておく必要がある。本書は、命に直結しやすい3分野、車、医療、兵器の3つに関するAIの基礎知識を解説している。機械学習の3つのパターン(ルールベース、統計・確率型、ディープラーニング)の違いによって、何がどの程度まで私たちにとって脅威なのかを学ぶことが出来る。

 東京都港区は、保育園の入園選考において、家庭状況を点数化して事務的な作業を短縮するこ検討してるという。(読売新聞、2018年9月28日「保育園の入園選考にAI検討」)これは文字等を情報(二進数の羅列)として認識させ、生体工学的に調節されるパラーメータ(人間でいう記憶の強度の指数となるシナプスの強度)をもとにデータの解析処理をさせることになる。このようなパターン認識こそがAIの最も得意とする(かなり高い確率で正解となる)ところだ。一方で、機械(ヒューマノイド)の動作は、幼児でもできるような、具体的にはドアノブを閉めるといった動作でさえ非常に心もとない程度である。この2つの進歩のギャップ(モラベックのパラドックス)は、いまだに、そしてこれからも簡単に埋めることは出来ていないようである。

 このように、本書はAIのもたらすメリットとリスクを再考する機会を提供してくれるものである。そして筆者は、「AIがもたらす真の脅威とは、それが人間を殺すことではなく、むしろ人間性を殺すことかもしれない」と述べている。確かに、物理的かつ倫理的な側面を踏まえるとマシーンが今すぐ人間に対して致命的な言動を取ることは考えにくい。しかし、私はニューラルネットがブラックボックス化している現状を踏まえると、システムの暴走が世界的な打撃を与える可能性は大きいのだ。これは、『ターミネーター』シリーズに出てくるスカイネットの反乱(インターネット上のソフトウェアの暴走)と同じ原理である。AIの進化=人類滅亡、という図式はあながち暴論であるとは思っていない。だから、当然筆者の言うような人間性の喪失を守り抜くことは大事であるし、技術革命には対して抑止的でかつ明確な倫理規定と技術的担保が求められている。ブラックボックス内でシンギュラリティー(叡智を完全に超越する時)がいつ起こってもおかしくなく、万が一のときには最後の手段を用意しておくことが必須であると考えせられた一冊であった。

※参考文献

読売新聞、(2018 9 28)「保育園の入園選考にAI検討」

小林雅一、(2017.7) 『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』


4 views

Recent Posts

See All

孤独の解消 ~早稲田のクリエーター 藤吉オリィ~

インターネットを通じて遠隔操作ができる『Orimime』(オリヒメ)というロボットがある。そのロボットにはカメラ付いているので、遠隔操作している人、つまりカメラの向こう側にはユーザーがいて、私たちの顔も見えている。ペンギンのような手をパタパタさせながらリアルタイムで質疑応答をするのだから、緻密な設計に反して可愛らしい。そんな斬新なロボットを発明したのが藤吉オリィであり、早稲田大学理工学部出身である

AIは人類の味方?敵?

最新の医療では、誤診を防ぐためにAIによる画像診断の研修が進んでいる。例えば、エルピクセル株式会社の開発している「EIRIL(エイリス)」は、病変が見られる医療画像を学習し、MRIなどの画像の診断を行うことが出来る。エンジニアの後藤氏は、「AIが医師の代わりをするのではなく、あくまで医師の診断を支援するスタンス」で研究していると言う。 翻訳の世界もルールベース、統計ベースを経て、深層学習へと進歩し

『人工知能は人間を超えるか -ディープラーニングの先にあるもの-』 〜AIの歴史と将来の展望〜

「人口知能は人類を滅ぼすか?」この問いは、人口知能(AI)が自我と身体を持って人類を殺戮する可能性から、私たちの身近な職を奪うことまでを含んでいる。人口知能の専門家である著者が学問的な知見からその答えを見つけようとしている。そして、ディープラーニングの歴史的な発展を踏まえた私たちの未来を予測している。 これまでにAIは3つのブームがあった。第1次AIブームは、「推論・探索型」である。「探索木(たん

Featured Posts

Categories

Archives

Copyright © 2016-2020 Seize your Sky All Rights Reserved.