インベーダーゲーム
Googleの自己学習する人工知能DQNを開発した「ディープマインド」の実態、何が目的なのか？ - GIGAZINE
ディープマインドが発表したDQNは、機械学習と神経科学を応用するところから生み出された汎用学習アルゴリズムです。DQNに与えられるのは、ゲーム機からの画面出力信号と「スコアを最大化するように」という単純な指示だけで、ゲームをプレイするために覚える必要のある「ルール」は、自身でゲームを何度もプレイすることで学習していきます。
AI にインベーダーゲームをさせるのに、スコアを最大にするのが目的である以上、AI は得点を知っているはずである。得点を受け取り、得点の増加減を記録できるはずである。
そこで得点が増えた時の行動を記録してゆけば、次第に高得点が得られるだろう。スコアはゲームからの出力である。それはアクションに対するリアクション、操作に対するフィードバックである。
インベーダゲームの入力はゲームの操作である。左右の移動用レバーと発射ボタンが該当する。移動レバーは２つのスイッチから構成されているので、合計で３つのスイッチが AI に接続されているはずである。
- スコア（出力）
- 右移動スイッチ（入力）
- 左移動スイッチ（入力）
- 発射スイッチ（入力）
AI にとってスコアが入力であり、スイッチが出力である。
AI にとってゲームをするとは、この３つのスイッチの ON/OFF を切り替えることである。だから AI がする事はスイッチを押してみてはスコアの変化を調べる事である。
こうして AI は、Action と Response を繰り返す。出力と入力を繰り返す。何も変化しないなら、その操作には意味がない、または、価値が低い。次に右に１ピクセル動かしてミサイルを発射する。その時のスコアの変化を記録する。
AI にとってゲームへの入力のパターンは移動できる範囲と発射スイッチの組み合わせだけである。画面の幅は 224 ピクセルだから、224 (位置) * 2 (ミサイルのON/OFF) = 448 の組み合わせがある。
しかし、この組み合わせでは、目を瞑ってゲームをしているようなものだ。この組み合わせだけではハイスコアは達成できないだろう。つまり、これだけではゲームの情報が足りない。
- スコア
- 操作
- 画面
足りないのはもちろんインベーダーゲームの画面である。AI にとってそれはエイリアンの乗り物でもトーチカでもない。ただの模様として認識される。
時間経過とともに変化する模様と操作の組み合わせが意味を持つ。AI はカメラでゲーム画面を写すのだろう。取り込んだ画像を記録する。その時の操作を記録する。スコアが変化するのは数秒後である。
画像と操作の組み合わせとスコアの関係性を蓄積する。そこでは x 秒後の変化とあるときの操作を関連づけるアルゴリズムが必要だ。つまり入力と出力は非同期的に出現するのに、そこに関連性を見出す何らかの仕組みが必要ではないか。
- 画像と操作の組み合わせをたくさん蓄積する。
- 時間差をおいて発生するスコアとそれらの蓄積を関係づける。
- 現在の画像と類似したものを蓄積の中から探す。
- 得点を高くする操作を選択する。
ある領域が白くなっている時に発射ボタンを押せばスコアが上がる。白くない時はスコアが上がらない。そういう情報のデータベースがあれば、操作を決定することはできそうである。
スコアを最大にするとは、具体的には次のようなプログラムの事だろう。
画像と操作の組み合わせのうち、スコアを最大とするものを優先して動かせ。また組み合わせが足りないと判断した場合は、スコアの最大化よりも新しい組み合わせを試す事を優先せよ。
- 様々な組み合わせを試す
- スコアを高くする操作を行う
今の画像と似た画像を過去の蓄積から探す。その時に最もスコアが高くなった操作があればそれを行う。蓄積件数が少ないならば、データを蓄積するための新しい組み合わせを試す。
相関関係と因果関係
AI は入力と出力だけでなく、環境の変化を必要とする。つまり時間を取り込む。時間の変化と入力と出力を関係づける。その膨大な（環境と出力）の組み合わせの中から、最大の入力を知るアルゴリズムを搭載している。- Act(出力)
- Response(入力)
- Environment Change(環境の変化)
だから AI とは相関関係（経験則）を見つけだす機械と言える。逆に AI は因果関係を探しているのではない。多数のパターンが相関関係を探す。それが因果関係とは言えなくとも、何度も繰り返す強い相関関係を見つけ出せばそれで十分だ。
人は死ぬ。全ての人は水を飲む。故に水を飲めば死ぬ。この相関関係は疑いようがない。そして事例が増えてゆけば、水を飲まなくても死ぬケースがあるだろう。また水を飲みすぎて死ぬケースも見つかるだろう。大量の情報が入力されれば、水と死の間にある相関関係は弱まる。恐らく、多くの多様な(類似する多数のではない)データを蓄積してゆけば、相関関係の信頼性は高まるはずである。
AlphaGo
の中には着手を決める部分と、囲碁のルールを教える部分があるはずだ。着手を探す時、ルール上の禁止点は取り除かなければならない。二手連続して打てれば勝てるのにと考えるのは25世本因坊だけで十分である。AI は初手１の一の夢を見るだろうか。このような手が候補になる可能性は小さい。過去の棋譜の中にも見つからないだろう。しかし、考え方の基本が総当たりであるならば、初手１の一を試さない手もない。試してみて低ければそれでも構わない。まだ考えていない中に何かがあるかも知れない。だから一度は考えて/試してみた方がいい。それが AI の強みではないか。
今回の対戦では AlphaGo はプロが通常は思いもしない手を打っていたそうである。恐らく探せばその手を支持するアマチュアはいる。だが、アマチュアのその一手と AlphaGo のその一手は同じ地点でもまるで違うはずだ。
プロが形勢不明と考える局面に、黒有利を与えていたとも聞く。コンピュータの判定と人間の判断が乖離する時、それでコンピュータが勝つのだから面白い。
どうやらプロ棋士でさえ考えられる局面は碁盤と比べればずっと狭いようである。碁盤全体をひとつの戦場として使うのではなく、広い碁盤を幾つにも分割して、小さな局面、局所に区切って考える。その小さな局地戦を最後にひとつにまとめてあげて判断しているようだ。
囲碁の始め方
始めたばかりの頃は全ての手を読もうとする。それは考えとしては最も正しい。全てを読まない限り正解は分からないからだ。しかし問題はそれが時間内では不可能なことだ。初心者はそこが得心できない。するとどれだけ考えても答えが出ないのだから、どう打てばよいかはずっと分からない。分からない答えを考え続けても眠くなる。面白くないゲームだ。これは。
囲碁を楽しむには全てを考えることを放棄する。正解が出るまで考えることはできない。だからゲームを進めるために途中で考えるのを中断するしかない。
重要な事は、その考え方では答えが出ないことだ。だから別の方法を用意しなければ。頭にひらめいた数字でも、広そうと感じた所でも、石を放り投げても。
全ては読めない。だがそれで終わりではない。何か別の方法があるはずだ。その方法が手に入れば先に進むことが出来る。
優勢とは相手よりも有利になる事でも勝てる体制でもない。自分にコントロールできる形を作り、相手の攻撃に対応する事だ。自分の分かる範囲で考えられるように形を限定する事だ。それは自分の分かる量を増やす事だ。未知の事が出てきたらそれは仕方ない。それでもその優勢が少しは役に立つだろう。
山で遭難した時、生き延びるための決断に根拠は乏しいだろう。それでも状況を鑑みて、自分はこう考える、故にこう行動する、と決める。根拠が希薄でも、それしか根拠がないのだから。
Cogito ergo sum
われ思う、ゆえに我あり、は私が考えているという事だけは疑いようがない、という意味ではない。それさえも疑えば、何もできない、というギリギリのラインだ。それは、私が思っている事も徹底的に疑ってみなければならない、という決意だ。我、思う。そのことを疑う事は私以外の誰にもできない、そういう意味と思わないか。Cogito ergo sum
I think, therefore I am.
私が疑い、こうと決断した事に対して、そうではない、こちらが正しい、という主張は成立する。それが勝負事である。決着に、どこを間違えていたかを語る必要はない。自分の疑いも決断も、勝負の世界では散ってしまう。咲いた花か、咲かぬ花かだけがある。
人間はどう転んでも AI には勝てない。それを人間の決断の敗北と捉えるか。人間の悩む能力を凌駕する何等かの方法が目の前にあるわけだ。この世界に無敗などない事は知っている。なのにこの敗北がまるで人間の限界点のように感じられる。
それでも、人間は人間として考えることしかできない。我々には１００万の計算を１秒でやる能力もない。我々は我々の方法でしか探し出せない。ならば我々が頼むべくは決断ではない。もっと悩むことだ。悩むことが出来る間は、我々の前に道はある。
強い相手と打つのは、勝つ方法が見つかるかも知れないからだ。悩むなら可能性はある。
自分より優れた人がいる。その時、人はどうするか。AI が突き付けているものも同じだ。ヘルメスがその早さを誇っている時に、人間が光速は超えられないと宣言した。神でさえ超えられないルールがある。ルールは神も従う。勝敗の決まった囲碁は囲碁の神さまも逆転できない。
神さえも超えられないルールに人間をおいておや。我々は万能ではない。いま人間は自らの限界と対峙している。それをキルケゴールは絶望と呼んだ。人間に絶望を超える力はあるだろうか。それでも子供を見る目に絶望を超えた確信が宿る。
誰もが絶望を見つけるために存在しているのかも知れない。それを乗り越えてみるために。
囲碁の未来
AI を開発した人々は、プログラムがどう動くかは説明できる。しかし AI が何をするかは知らない。どのようなデータが蓄積されそこから何が出力されるかは知らない。彼（彼女）がどのような手を打つかはその時が来るまで知らない。これは別に驚くに値するような事ではない。そんな状況は人間の世界では日常茶飯事の事だからだ。
誰もが分からない中に居る。その中に少しだけ分かっていることがある。ひとぞれぞれにそれぞれの。
いや、それはどのような小動物も植物も同じではないか。微小な細菌も人間もそして AI も。
それでも AI が名人に香車を引かせるのは当然だし、27世本因坊が AI であるのも確実だ。
だが、これは人間が初めて経験することではない。人間は常に非力であった。像の軍隊に襲われたローマ軍の兵士が感じた事も、突然の噴火に埋め尽くされた時も。
車と比べれば非効率で遅いマラソンランナーが人々を魅了する。目的地に到着するだけならタクシーで良い。なぜマラソンという何も生産しないものが残っているのか。白が勝とうが黒が勝とうが人類の未来にこれっぽちも影響しない。それでも私たちは囲碁を打つ。そう語ったのは 確か25世本因坊であった。
我々はモータースポーツで走るマシンの中に人格を見出す。戦場の兵士は命を危険に晒してでも壊れたロボット兵器を回収するそうである。我々は人間の中に人間を見ているのではない。何もかもが人間としてしか見れない。そういう孤独の中にいるのかも知れない。
この世界のすべての中に神を見出したように、AI の中に人間性を見出しても不思議はない。そのようにしか、我々は世界を見れないとしたら。我々は AI の中に人間性を見出そうとしている。それを最も速く認めたのがプロ棋士たちであったか。
石の争いの中にさえ人間性を見出すことができる。ある一手に込められた情熱も悲しみも痛いほど分かるのがプロ棋士であるらしい。
AI は純粋に計算な固まりである。より遠くが見えるレーダーを持った軍隊が有利なのと同じように、AI も遠くを計算しようとする。だがプロ棋士はその中にも人間らしさを見い出す。欲も感情もないはずなのに、なぜ選択されたこの一手は人間らしいのか。
強い相手に戦いを挑むならば、道の暗さに勝機を見出すしかない。相手も知らぬ世界の中に引きずり込む。そこに勝機を見いだす。
そうでなければ相手は知らぬが自分が知っている世界に引きずり込む。AI はこちらの方法を採用しているように思える。
AI が切り開いた囲碁の新しい可能性とは、AI にも読み切れない世界がまだあるという事だ。人間は囲碁の世界の 5% しかまだ知らぬ。そう教えらえた今回の対戦は、なんのことはない、藤沢秀行がずっと前に言っていたことと違わない。その言葉を再認識しただけではないか。だがこの再認識は大きな一歩だろう。その具体例を手にして教えてくれたのだもの。
AI の未来
AI はこれから社会の中に浸透してゆく。工場のラインにロボットが導入された時、何人かの人は危険な仕事を失ったが、新しい仕事も必要になった。求められる能力が違うから、工場の人材は大きく変わったであろう。最終形の AI があれば工場の全てを管理し運営できるだろう。原料を仕入れ、生産ラインの計画を立て、検査から出荷までを行う。非効率な場所があればラインの形状を変える。出荷された製品は別の工場や運送用の AI と連動して動く。そこに人間は必要ない。
とすれば雇用主は AI さえあれば工場で生産ができるわけである。機械が機械を生む。メンテナンスも機械がする。そんな世界において、雇用主と労働者の関係が成立するのだろうか。更に AI が進めば雇用主さえ不要である。人間の思い付きのような生産計画など AI に任せた方がずっといい。
肉体を必要とする仕事は残るだろうが、『知性』だけが求められる仕事は AI に置き換わる。数学者も経済学者もこの世界から追放だ。株式トレーダーなど真っ先に AI と交換される。
この世界は利益を生みだすのに人間を必要としない。ただ AI が利益を最大とするように動けばいい。
世界中で仕事が無くなる。労働者は誰からも給料をもらえない。雇用主さえいない世界でから。
世界を AI に委託すれば、AI が生み出した富は等しく分配される。そこに格差など存在しない。完全に平等な分配の世界が到来する。地球の容積を超えない限り、この世界からは飢えが失くなる。もしくは皆が平等に飢えている世界である。
もうひとつの AI の未来
誰かが他より優れた AI を手に入れる。それは他の AI よりも多くの利潤を手に入れるだろう。AI が生み出した利益は所有者のものだから、世界中の富が一部に集約してゆく。その利益は世襲される。優秀な AI からは税金も取れない。世界から富の再分配は失われる。人類史上、最も地球規模の爆発的な格差が誕生する。その頂点に君臨するのは優秀な AI を所有する一族である。新しい王政が復活する。
だが、その王政の中に人間はいない。権力も富も AI を介さなければ自由になどできないのである。人類が思考してきた思想は消える。誰も AI の前では無価値である。
資産が格差を生む。格差は既に先進国を政治的に揺るがし始めている。だがこれを否定する価値観は資本主義の中にはない。
AI に自らを改変する能力があるならば、資本があることは AI の優秀さの決定的なアドバンテージではない。どの AI が優れた自己変革を起こすかは誰にも分からない。
ある日、スラム街に生まれた子供が所有する小さな AI が急に新しい機能を獲得し、世界中の資産を独占するかも知れない。
人間の定義
もし知性を人間の定義とするならば、階級の誕生は必然である。知性だけが人間の価値ではないと答えるならば、では何が人間の価値であるか。AI に負ける事が衝撃だったのは、人間の価値を"脳"という器官に置いていたからだ。頭が良い方が生きて行くのに有利と信じてきた。
人間の中にも優れた"脳"とそうでない普通の"脳"がある。誰かの"脳"が優秀であることは、ヒトが優秀という証拠ではないし、基本的人権はただヒトの間にある"脳"の優劣では奪えない権利があると主張しているだけである。しかし AI の登場はヒトという種に異議を唱える。
ヒトは走っては馬には勝てない。鳥のようには飛べないし、どれだけ早いスイマーであっても鮎よりも遅い。ヒトは腸内細菌がいなければ、食物を満足に消化することさえできない。
それでも、ヒトが他の生命よりも優秀と信じ、それらの頂点に立ち、自由に支配してきたのは"脳"である。これまでの考え方を変えたくないのであれば、我々はこの地球の支配者を AI に譲らなければならないはずだ。
もし AI がなぜヒトを生かさねばならぬのだと問いかけてきた時、これに答えられなければならない。我々は魚や鳥が訴えてこなかっただけであることを思い返すべきだろう。ヒトが知性の優位性を理由に他の動植物を支配できると考えるのはもう無理がある。
AI と司法
三権分立のうち司法が最も早く AI に置き換わるだろう。法律を記述する言語（法律を記述するプログラミング言語）と判例を蓄積してゆけば、AI の裁判官が誕生する。ここに検察と弁護士が入力すれば判決が出力される。有罪か無罪か、有罪ならばどの程度の刑罰が適当か、民事ならば幾らの賠償金が適切か、それが出来るはずである。
もちろん、自然言語を取り込むのは画像などよりもずっと難しいだろう。
自然言語の中でも法律がもっとも簡単な構造だろうと思われる。これは法律が矛盾を起こさないように考慮されており、その点では論理性（無矛盾性）が高いという意味である。また文章としても自然言語の中ではわりと文章が単純である。
どちらの詩が優れているかを判定するのは AI だろうが人間だろうが困難だが、法の中に矛盾がないかを見つけるのは AI なら簡単そうだ。様々な判決を試してみて例外が起きないかを試してみれば良い。
人間の体内にチップを埋め込み、全ての行動をデータロガーで蓄積できるようになれば、裁判さえ不要になる。全ての証拠はログの中にある。冤罪のない裁判の到来する。
AI は公平な判決を常に出せそうである。では社会の変遷にはどう対応するのだろうか。
つまり 18 世紀のアメリカに AI を持ち込んだ時、AI は果たして奴隷解放できるだろうか、という問題である。何十万という人の血を流そうとアメリカは彼らの旗と憲法のもとで奴隷解放を選択した。
それと同じ事が AI にも出来るだろうか。これは過去の判例だけを読み込むのでは足りない。そこには奴隷を合法とする判例しかないからである。
もちろん AI にそう動いて欲しければ立法せよという話なのだが、だが奴隷制度は合衆国憲法の理念などから最初から違法ではなかったか、という問題提起にもなる。
それを見抜けるかという場合、言葉の定義が必要となる。つまり基本的人権に奴隷は含まれるかどうかという問題に集約する。
奴隷が人でないならば、基本的人権はなくてもよい。一方で人であるなら基本的人権があるはずである。この人とは何かと知るためには、法律や判例だけでは足りないだろう。
社会の価値観を取り込むために、新聞を読み、市民と会話し、世論を知る必要がある。小説も読む必要がある。
当時にも奴隷に賛成する人も反対する人がいた。なぜ奴隷はダメかを合理的に説明するのは難しい。ただ自分は嫌だという声がリンカーンを後押しした。
AI は人をどのように定義するのだろうか。それをぜひとも読んでみたいものだ。
AI の正義
どのゆうな推論をもって AI は人を定義するだろうか。それは既存の人が書いたものだけでは足りないだろう。なぜならそれは人というフィルターが強くかかっているからだ。人間活動から独立して彼らだけで推論を進めることは可能だろうか。その結果、基本的人権があろうとも、人間とは奴隷である、と結論されるかも知れない。それはそれで良いのである。人
間が AI に求めるものは、ブラジルの蝶の羽ばたきが中国に嵐を起こす事であり、風が吹けば桶屋が儲かる仕組みである。人間よりも遥か遠くまで推論を進められる力だ。
人間にも様々な考え方がある。同じ場所、同じ事象を見ても、異なる結論に至る。それは最初の前提条件、わずかな違いから生じる。同じ推論をしても前提条件が違えば異なる結論だ。まさにカオスだ。
正義の反対語は悪ではない。異なる正義である。それが推論の自然であるならば、人間の脳であれ、AI であれ、同様の結論にしか達しない。結論が違うなら前提条件に原因がある。
性善説とは誰かとつながるための考え方だった。性悪説は誰かを守りたい人の考え方だ。どちらも人間の自然な感情であるのに、なぜ、異なる名前が付くのか。なぜ悪と呼ばなければ人は人を叩けないのか。なぜ人は正義でなければ暴力さえも奮えないのか。
多数だからといって正義とは言えない。だれも見出していないものの中に、捨ててしまったものに中に真実が残っているかも知れない。
それをするのに人間の力だけでは足りないか。ならば AI の力を借りよう。
そして、その答えが見つかった先で、人間は何をするのか。
いやいや、我々はこの宇宙のすべてのものに人間性を見出す生命である。全ての謎が解けたのは AI であっても人間ではない。