• Tom

『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』 〜AIがもたらす本当の脅威〜


 映画『ターミネーター』シリーズでは、AIの搭載された殺人マシーンが人類の滅亡危機を引き起こすという設定になっている。架空のコンピューター・ネットワーク「スカイネット」が人類に反乱を起こし、人類滅亡の危機となる日を”Judgement Day”(審判の日)と呼んでいる。はたして将来、コンピュータが人間を支配し、破滅に導くことはあるのだろうか。こうした知識人や科学者の議論は「ターミネーター問題」と呼ばれている。

 AIが将来的に人間にとっての破壊になるかどうかを議論するには、最新(ここでは2017年7月現在)のAIに関する研究や背景、状況を知っておく必要がある。本書は、命に直結しやすい3分野、車、医療、兵器の3つに関するAIの基礎知識を解説している。機械学習の3つのパターン(ルールベース、統計・確率型、ディープラーニング)の違いによって、何がどの程度まで私たちにとって脅威なのかを学ぶことが出来る。

 東京都港区は、保育園の入園選考において、家庭状況を点数化して事務的な作業を短縮するこ検討してるという。(読売新聞、2018年9月28日「保育園の入園選考にAI検討」)これは文字等を情報(二進数の羅列)として認識させ、生体工学的に調節されるパラーメータ(人間でいう記憶の強度の指数となるシナプスの強度)をもとにデータの解析処理をさせることになる。このようなパターン認識こそがAIの最も得意とする(かなり高い確率で正解となる)ところだ。一方で、機械(ヒューマノイド)の動作は、幼児でもできるような、具体的にはドアノブを閉めるといった動作でさえ非常に心もとない程度である。この2つの進歩のギャップ(モラベックのパラドックス)は、いまだに、そしてこれからも簡単に埋めることは出来ていないようである。

 このように、本書はAIのもたらすメリットとリスクを再考する機会を提供してくれるものである。そして筆者は、「AIがもたらす真の脅威とは、それが人間を殺すことではなく、むしろ人間性を殺すことかもしれない」と述べている。確かに、物理的かつ倫理的な側面を踏まえるとマシーンが今すぐ人間に対して致命的な言動を取ることは考えにくい。しかし、私はニューラルネットがブラックボックス化している現状を踏まえると、システムの暴走が世界的な打撃を与える可能性は大きいのだ。これは、『ターミネーター』シリーズに出てくるスカイネットの反乱(インターネット上のソフトウェアの暴走)と同じ原理である。AIの進化=人類滅亡、という図式はあながち暴論であるとは思っていない。だから、当然筆者の言うような人間性の喪失を守り抜くことは大事であるし、技術革命には対して抑止的でかつ明確な倫理規定と技術的担保が求められている。ブラックボックス内でシンギュラリティー(叡智を完全に超越する時)がいつ起こってもおかしくなく、万が一のときには最後の手段を用意しておくことが必須であると考えせられた一冊であった。

※参考文献

読売新聞、(2018 9 28)「保育園の入園選考にAI検討」

小林雅一、(2017.7) 『AIが人間を殺す日 ー車・医療・兵器に組み込まれる人工知能ー 』


4 views

Recent Posts

See All

『mac OS パーフェクトマニュアル』シリーズ〜最新のmacOSの全体像がつかめる〜

「なんて綺麗な画面なんだ!」これがApple製品、MacBook Airの出会いだ。新しいラップトップコンピュターを探しにヤマダ電機総本店を行って、一目惚れをしてしまった。Macbook AirのスタイリッシュでクールなデザインはWindowsをはじめとした他社製品にない大きな特徴として多くのファンを魅了している。 Macは直感的に使用できるようなインターフェースとなっているが、いざとうときのため

『たったひとつの「真実」なんてない』〜懐疑的な消費者・賢い主体者〜

私たちは決してメディアに振り回されていないと信じている人は多いと思う。以前、ヤフコメは廃止すべきで論証したように、一部の情報、それも自分に都合の良いソースだけを切り取ってメディアに吸収されていく。このようにメディアの本質が見抜けない状況は、私たちがメディアリテラシーをさらに見につけるべき典型例であろう。 筆者は、テレビディレクター時代にオウム真理教の現役信者のドキュメンタリー『A』を自主制作映画と

『人工知能の「最適解」と人間の選択』〜 AIとの共存はあり得るか?〜

2017年2月22日、日本将棋連盟は将棋の電脳戦が終了を発表した。この時、私はこれから訪れるであろうAIとの共存時代の到来の予感として衝撃を受けた。(『電脳戦が終わる意味、2017年6月22日のブログ記事』)本書も将棋好きの筆者が同じ切り口からAI問題を議論していく。NHKスペシャル「人工知能 天使か悪魔か 2017」の続編となっている。 人工知能の第一人者が2045年のシンギュラリティを予告し、

Featured Posts

Categories

Archives