『人工知能は人間を超えるか -ディープラーニングの先にあるもの-』 〜AIの歴史と将来の展望〜

　「人口知能は人類を滅ぼすか？」この問いは、人口知能（AI）が自我と身体を持って人類を殺戮する可能性から、私たちの身近な職を奪うことまでを含んでいる。人口知能の専門家である著者が学問的な知見からその答えを見つけようとしている。そして、ディープラーニングの歴史的な発展を踏まえた私たちの未来を予測している。

　これまでにAIは3つのブームがあった。第1次AIブームは、「推論・探索型」である。「探索木（たんさくぎ）」のような「場合分け」（If～, then…）の思考法である。「ハノイの塔」(*1)やロボットのプランニング(*2)が代表である。次の第2次AIブームは、「知識型」だ。大量のデータを入力し、その中から該当する可能性の高い事象を提示する。その代表が患者の診断とサポート等の医療診断を行う「ワトソン」だ。そして、第3次AIブームが「機械学習・ディープラーニング」である。一定のデータを入力し、特徴量(*3)を割り出すことで、ロバスト性(*4)を高めていく機会学習のことである。AIの発展としては大きな山を越えたと述べている。

　冒頭の質問に対してはどうだろうか。筆者は、近未来においては「ターミネーター問題」は起こらないだろうと推測する。私も現在のAIは専門家の洞察を参考にすると人類の最悪の事態はありそうにないと感じた。少なくともまだ人間の「学習ありき」の状態であるから、人間の支配下にあると言って良い。また、AIには現実世界を分析・判断するには、物の形、匂い、時間、距離、感情などあらゆる情報が必要であり、それも不可能だ。さらには、そうしたノード（物事や概念）を獲得する身体（鉄でも細胞でも）を再現することは今の技術ではほぼ無理のようである。

　それでも、一抹の不安を抱えるのは、SF映画の影響を受けすぎだろうか？実際、ディーブラーニングによる機械学習では、データの量が膨大でその処理過程を説明できなくなてきている。AIの思考過程がブッラクボック化している。機械の思考過程が分からないのだ。そんな中で何かの予期せぬ処理がネットワーク全体お暴走に繋がらないとは限らない。私たちは「想定の範囲外」だっという弁を何度も聞いてきているし、それもまた人間の限界だからだ。「ターミネーター」シリーズのスカイネットのような制御不能の事態は十分起こりえるだろう。実際、アメリカでは国防システムが誤作動したこともある。倫理面を含めて今後のAIを展望し、AIとの付き合い方を考える契機として、本書は非常に勉強になるものである。

*1 与えられた条件下で円盤を左から右へ移す問題

*2 ロボットに「もしこうなったら、こう動け」と命令すること

*3 本書では「特徴量」と呼んでいる。例えば、書道コンクールで審査対象となる項目の素点に何倍かを掛けるて順位を出すときの掛け値（重み付け:w）のこと。データ入力では順位の根拠となる項目の点数（素点）と出力の順位（結果）は同じにする。したがってディープラーニングとはコンピュータが調整して掛ける値を決める機械学習のことである。

*4 特徴量の妥当性のこと。出力層と入力層の間に一層（隠れ層）作ることで、その前後で２つの掛け値を作れるので、その層が多い（「深い」、つまり「ディープ」）にすることで望ましい値になる。データの「入力→出力」をし、答えわせをすることで掛け値を変更する（「出力→入力」）という学習過程である。

※参考文献

松尾豊、（2015 3 10）、『人工知能は人間を超えるか -ディープラーニングの先にあるもの-』角川EPUB新書