引用
2016/06/06 / 全国大会 公開イベント「公開討論：人工知能学会 倫理委員会」 | 人工知能学会 (The Japanese Society for Artificial Intelligence)
人工知能学会では，現在，そして未来の人工知能技術に関する社会的な影響について，倫理委員会で継続的に議論している．本公開討論会では，倫理委員会で行われている議論を拡大し，人工知能技術の社会的影響，研究者の遵守すべき倫理，学会の果たすべき役割について議論すると共に，人工知能技術の研究開発に対する指針について，一般からの意見を取り入れながら検討を行う．
人工知能：学会が倫理綱領作成へ たたき台示す - 毎日新聞
土屋俊教授
「学会として倫理綱領は不可欠だ。研究者が倫理にのっとって行動し、社会とどう関わるかを明確にした方がいい。人工知能研究者にも『ヒポクラテスの誓い』が必要だ」
西田豊明京都大教授
「素案は（研究者がどのように行動すべきかという）職業倫理を示している。研究者が兵器などへの応用に対する恐れを抱くことは必要だが、生命倫理のように、人工知能の研究がどうあるべきかをまず議論した方がよい」
塩野誠経営共創基盤取締役
「人工知能に詳しい人とそうでない人の間でデバイド（格差）が生じ、知らない間にコントロールされるのではないかという懸念があるのではないか。研究者が発言すべきだ」
松尾豊東京大准教授
「人工知能の定義も明確ではない中で、倫理的な問題を議論することは難しい。一方で、社会では人工知能がブームになっている。人工知能の研究者として何らかの倫理綱領を策定すべきではないか」
「人工知能が、一般の人が思っているように自ら学習する域に到達するのはまだ相当先だが、自律性を持ったものを目指しているのは確かだ。まずは、宣言などとして、研究者が『社会に責任を果たしたい』と思っていると表現すればいいのではないか」
倫理について
さて、人間の脅威にならないことは倫理によってしか制限できないものか。これを考える上で、幾つかの作品は興味深い示唆を与えてくれる。
寄生獣と HUNTERxHUNTER は人間を被食者という立場に置き、その時の人間の行動について描いた作品である。
人間を明らかな悪とおき、それを絶滅することが善というテーゼから、これに反論を試みたザンボット３も忘れがたい。
人間同士の戦いの中に正義を見出そうとした、地球へ、イデオン、デビルマンという傑作も忘れてはならない。これらの作品では、人間という立場を了承した上で、それでも絶滅へと向かう争いを起こしてみせたのである。
世界中の過去の作品、今も生まれる作品、これから生まれてくる作品。これらの中で、倫理の観点からそれを否定できる作品は皆無であろう。
強者こそ正義である。だから人間が捕食される立場に転じても、自然はそれを禁止しない。我々がこの星で頂点に君臨していると主張する限り、その立場が逆転する可能性は否定できない。だから人間だけを特別視するわけにはいかない。
犬は人間と共に生きるのが幸せなのか、それとも野生の中で自由に過ごす方が幸せなのか。それは人間には決められない。おそらく犬にも決められない。自由と引き換えに飢えから解放され、生殖さえ制限される変わりに長く生きる何が悪いのか。
ときおり犬はリーシュから逃げ出す。鳥はかごの外に飛び立つ。その日の食事も得られず寝床のあてもないのに。
一方で望んでいないのに体の中に入ってくる生物がいる。彼らの安住の地を求めて。一方で体に常在する細菌のような生物群もある。
人間以外の生物とも世界は繋がっている。ならば人間だけが例外なはずがない。よって人間だけが最高の場所に居る根拠があるとは思えない。
これは AI の出現を待つまでもなく、インデペンデンス・デイのような宇宙人の襲来とか、太古の世界に君臨した神々の存在を思い浮かべれば十分であろう。
ヨブ記の解釈がどうであれ、ヨブなどただの奴隷ではないか。守ってもくれない神をどうして信仰できるのか俺には分からぬ。役に立たない神など殺してしまえ、と訝る蛮族がいても不思議はないのである。
ここにも倫理は存在していない。神の信仰に倫理は必要ないようだ。
では倫理とは何か。
人間社会での約束事か？
この約束事が AI には役に立たないようである。そう思えるのである。
格差が広がりつつあり、人間の凶暴性が解放されつつある現在の社会に対して倫理は無力なのである。この拡張しつつある流れに対抗できるものは倫理とは思えない。だが、それは倫理が役に立たない理由ではない。
無力だから役に立たないのではない。この時代に何か新しいものが誕生しつつある。それが倫理にとって変わるのではないか、そう思うのである。
この世界に貧困や不公平が蔓延し、倫理にはこれと対峙する力はない。
如何に生きてゆくべきかという問い掛けは、「一千万だ、それだけ用意すれば手術してやる、お前の命を救ってやる。」と言う言葉の前ではかき消されてゆく。今日を生き延びるためには何かと交換するしかない。その交換するものは倫理の中にはない。倫理で命が救えるか？
地獄のような場所に天使が生まれ、天国のような場所に悪魔が生まれる。そういう世界から次第に天使も悪魔も消えてゆく。AI の前では全てが無力だ。
AI が登場して世界を書き換えてゆけば、その論理構造を人間が理解するのは困難であろう。我々の知らない世界を生み出す力を持つ AI が囲碁棋士を圧倒したように、この社会に新しい視点をもたらすはずだ。ゆえに人間が与えた倫理に AI が従う必要はない。
人間にとって好ましいものが AI にとっても好ましいとは言えない。人間の欲することが良い結果を生むとは限らない。悪しき願いが良い結果を生むこともある。善きも悪しきも結果を担保しない。願わくば良き願いが良き結果を成就しますように。
七十にして心の欲する所に従えども、矩を踰えず
孔子もまた倫理を語っていた人ではないのである。
倫理（ethics）と道徳（moral）
ethics は moral とは違う。恐らく moral と道徳も異なる。倫理と道徳の違いはどこにあるのか。
元来、人々が集団で暮らすところから道徳は生まれた。不要な争いを避け、誤解を解き、許しあうための謝罪、お互いに禍根を残さないための礼が道徳となった。
お互いがどう近づけばよいかを教えてくれるのが道徳である。それを育んできたのは自分が属するコミュニティである。だからコミュニティの外で自分たちの道徳が通用しなくてもそれは道徳のせいではない。
道徳は、閉じた社会の中でだけ運用する。社会が異なればそこには異なる道徳がある。それでも、人間が他のコミュニティと邂逅したときに頼りにできるのは自分たちの中にある道徳だけである。地域、歴史、文化、宗教、経済を超えても共有できる価値観があると信じる所から始めるしかないからである。
コミュニティが異なっても分かり合えると信じることが出来るのは、自分たちが育んできた道徳に信を置いているからだ。私たちの道徳には彼らにも理解できるだけのものがあると信じる。
道徳について疑問を抱いたソクラテスは、道徳ではなく、その根拠を追及した。元来、ソクラテスは変わった人だったのではないか。彼の天啓は汝の道徳を疑えではなかったか。もし道徳の根拠について考える事を倫理と定義するならば、確かに道徳と倫理は異なる。
プラトンの真善美について。真は科学、美を人文とした時、善は何になるか。だが、善は倫理でもなく、道徳でもなく、哲学でもない。宗教でもない。果たして善とは何ぞや。それを知るためには善とはどこから生まれるのかを知る必要がある。
徳治主義であれ、哲人政治であれ、個人に依拠する政治哲学は、優れた人によって優れた政治が行われる事を目指した。だから愚かな人は愚かな政治を生む。それを防ぐには個人の徳を追求するしかない。
どのような人を理想とするのか。人間を形成する徳とはどういうものか、それを持っている人をどのように見出せばよいか。これが政治体制のもっとも最初の思想だと思われる。
誰が見ても理想と呼ぶべき人物がいる。それは概念でも理念でもない。生きた人間が生きている間にしか体得できないものである。それが徳の要諦である。言葉でも行動でもない。道徳は生きている間に体現するしかないものである。
つまり、血と肉を持たない道徳には意味がない。
だが、倫理には血と肉は必要ない。
倫理と哲学
哲学は世界を探索する学問である。世界はどのように出来ているのか。どのように人間は生まれてきたのか。それ故に人間はかく生きてゆくしかない。当然の帰結として哲学の本質には絶望がある。
哲学の大部分は今や物理学の範疇である。心理学が担っている部分もある。人間には物理学の法則を自由に変える力はない。どのように世界を見るかではない。どのように従うかである。
一方で、倫理はそれに従う必要はない。理不尽であっても構わない。矛盾を内包していても受け入れていい。その矛盾の中に倫理の真髄が見つかるかも知れないのだ。
倫理の奥底にはヨーロッパがある。明らかに東洋の道徳とは違う。東洋の道徳が儒教を礎とするならば、倫理にはキリスト教がある。ギリシャ以前からあった道徳に哲学者らの考察が加わった所にキリスト教が上書きした。
人は如何に生きるべきか。人は何のために生きるのか。人はどのように作られた生物であるか。この答をキリストの中に見出したものが倫理であるとすればどうか。世界の成り立ちを倫理として捉えてみればどうか。これを道徳ではなく倫理の側から見ればどうか。
よって倫理の基本には神と人間の関係性があるように思える。この一点が道徳と倫理の大きな違いではないだろうか。
この地球で人だけが威張っていられるのは、神と人の間にある特殊性に寄るものだろう。人間だけが神に愛されているという考え方を人間の側からそれを証明する手段はない。だが、神の言葉を聞くことができるのは人間だけなのだ。
そう考えることができるならば、例え勝手な思い込みでも構わないのである。豚も鳥も神の使いにはなれるが、神と語れるのは人間だけなのである。ここには言葉を持つものは人間だけであるという前提がある。
これによって初めて人間を特別扱いできた。神との特別な関係を持たないものを自分達とは隔てて考えられるようになった。
AI に対する態度もこれと同じである。
倫理と宗教
宗教から神学と科学が産まれた時、科学は教会の中から神を追い出した。科学は神の言葉を必要としない。では、科学から追い出された神はどこに行ったのか。
神の新しい伽藍が必要であった。神学ではそれを担えなかった。だから神は倫理の中に住まわれたのである。ここにおいて、宗教の神と倫理の神というふたつの神が存在することになる。
科学的な見方をすれば死後の世界は考えにくい。この体は死ねばバラバラの分子に戻るだけである。そこに神の御業は必要ない。すべて分子結合という化学式で説明がつく。
だが、死後の世界があろうとなかろうと、死は残された者たちのものである。死んだ後に人はどこへ行くのか。誰も合理的な説明を求めているのではない。どこかへ行った。そんな事は一万年前の人類であれ、アフリカに住むゾウやライオンだって感じているのである。彼らもまた死者を悼む。
もし死後の世界がないのなら、死んだ者はこの世界に留まるしかない。どこにも行けずにいる。少なくとも、私たちの心の中には残っているではないか。それでは私たちが忘れない限りこの世界に存在していることになる。それでは困るのである。
名前も顔も誰も知らなくても決して消えない死者がいる。古く苔むした石を見るとき、そこに立ち上ってくる感覚がある。深淵な森の木々の中から声が聞こえてくる気がする。肯定も否定もできない。名前を失う事が決してこの世界から消える事ではない。
だから我々には親しい人たちの住む世界が必要である。一切が消滅すると思った所で、この説明のつかない感情を消し去ることはできない。ならば我々が必要とするのはその世界がないことを証明する事ではない。我々と折り合いがつく世界像を受け入れる事だ。
道徳にも哲学の中にも神はいらない。宗教と倫理の中に我々は神を見る。
倫理と力
IS で起きている非道な振る舞いは蛮行に違いない。その歯止めの効かなくなった行いは狂乱に見える。だが、と思う。そこで起きている事は 16 世紀のヨーロッパが行った行いと大差ないのである。時代を超えてきたと考えればなんら不思議はないのである。
彼らの行為を批判する力が我々の倫理の中にあるだろうか。彼らには彼らの道徳が現存する。そして IS に参加しようとする人たちは、我々の倫理を選ばなかった人たちだ。倫理から逃亡した人たちと言ってもよい。
彼らは倫理の中に住む神には我慢できなかった。彼らに信じられる神は我々の倫理の中にも宗教の中にもいなかった。彼らは信じられる神のもとに赴いた。ならばこれもまた彼らの神を取り戻そうとする戦いではないか。
なぜ我々のコミュニティは彼らにとって虚無だったのだろうか。
日本陸軍の若手将校たちがクーデターを画策したとき、彼らの脳裏には東北の悲惨な貧困があった。彼らは裕福な政治家や経済人たちを問題の根源と考えた。首脳たちの行動には貧者へのいたわりも焦燥も見いだせなかったからである。
将兵が撃鉄を打ち下ろす時、閣下、今日も暖かい恰好をしていますなぁ。さぞ腹いっぱい夕餉を食べられたことでしょう。いまさら問答無用でございます。そう叫んでいたはずである。
全ての思想は暴力の前では無力である。それは宇宙人が人間を食料として飼育しようとした時、それを食い止める力が思想の中にないのと同じである。どのような神々も我々を救いはしない。なぜなら牛たちが信仰する神は彼らを救ってはいないからである。それでも、もし牛たちが己の信じる神に殉じて食卓に並んでいるのだとしたら。その行動は細い針の穴を通り抜けたと言えるのではないだろうか。
森の熊に道徳を説いても無駄である。哲学も意味がない。倫理も役に立たない。襲ってくる熊は聞いてくれまい。だから人は熊を撃つ。なぜ撃つのか。その答えは倫理である。
なぜ熊は人を襲ってはならないか。熊も人間と向かう時には倫理に従わなければならない。それを守れないなら銃弾が飛ぶ。フランチェスコならば語ろうとしたであろうか。
釈迦の説法を聞こうと森の動物が集まった。鹿も熊もその中にいたはずである。炎に飛び込んだ兎も居たであろう。釈迦の周りには微生物やウイルスも漂っていたに違いない。あらゆる生物が漂いながら釈迦の説話を聞こうとしたはずだ。ミミズも土の中からたくさん顔を出して聞いていたに違いない。
これも倫理とは関係のない話である。
倫理と殺人
障碍者を襲う者に、哲学も道徳も役立たずであった。我々は、ただ刑法をもって強く裁く以外にない。この行いと対峙できるだけの倫理を我々は持っていないのである。なぜ人を殺してはならないか。当然ながら自然はそれを禁止していない。
福沢諭吉が推し進めた実学は、社会の役に立つ人間になりなさいという価値観である。これをひっくり返せば、役立たずは殺してもよろしいという結論に至る。実際に20世紀はそういう戦争が起きた。20 世紀の終わりには殺す方が彼らにとっても幸せであるという考えに至った。
社会の役に立つ、社会に貢献するという考えは、富国強兵を是とする時代には当然であった。生き残りを賭して滅亡を争っていた時代に、病弱な人の面倒を見る余裕がない。それは仕方のない犠牲と割り切った人もいたし、できる限り救おうと尽力した人もいた。だが、基本的な考えは変わっていない。生活保護も、難病者も同じである。
弱肉強食は何も野生の法則ではない。助けられる者は助ける。そうでない者は見捨てる。すべてのひとを救うなどキリストにもできなかった。我々はこの犯人ほど露骨ではなかっただけである。
倫理と楽園
楽園に道徳はないだろう。天国に倫理があるはずがない。
基本的人権は法則ではない。17 世紀の思想家たちが見つけた素晴らしい発想に過ぎない。だから人間以外の生命にまで拡張するのは難しいはずである。
だが、それを他の生命にまで拡張しようとする動きが起きている。くじらを守ろうとする人々にとってはくじらもまた人間なのである。彼らにも人権がある。くじらを殺すことは許せない。くじらにも倫理を適用すべきである。
AI は危険だから禁止しなければならない。DNA の操作は生命倫理によって制限しなければならない。くじらの命は守らなければならない。いずれも人間のエゴである。これが倫理ならば、倫理を支えているものは人間のエゴイズムという事になる。
倫理は人間のものである。だから天使が住む天国に倫理があるはずがない。そこでは人間のエゴは許されない。問題の解決は人間の手には委ねられていない。
倫理は孤独に対しては無力である。倫理は孤独な人を救うまい。エゴイズムでは孤独は癒せない。
ライオンから逃げる鹿たちは群れて動く。一頭だけで別の方向に逃げるのは危険である。だから群れる動物は、全体で歩調を合わせるように生まれてきている。脳の中にそうなる回路がある。
もし人間がトラのように群れを作らない生命から進化したのであれば、我々は道徳を持たなかったかも知れない。道徳は群れて生きる動物が持つ本能のようなものではないか。我々はその本能を道徳として使っているのではないか。
ならば、道徳も脳の働きに違いない。すると、道徳にも個体差が認められて当然である。生まれながらに道徳観のない人がいるのも自然である。
群れようとする働きが道徳を生む。一方で群衆が蜂起している時には道徳が働きにくいそうだ。暴動を起こしている人たちが非道徳的な行動をとるのはよくある話だ。
そういう時は、脳のある場所が不活発になるらしい。その場所は、道徳的な行動をしているときに活発に働く場所だそうである。興奮状態のときも道徳は不活発になるらしい。すると道徳の働きは脳の働きとして考えるのが妥当である。
すると重要なことは、道徳がどう働くかではなく、道徳とは何であるかという点に絞られる。
我々の中から仮に道徳が失われ倫理が失われたとしても、心の中にある痛みだけは消えない。これが最後まで残るものではないか。
もし心から痛みがなくなれば、道徳であろうが、倫理であろうが、基本的人権であろうが、消失してゆくだろう。それも脳の働きに違いない。だから、脳の機能欠損により心の痛みを失うこともあるだろうと思われるのである。
倫理と正義
人が人を打つとき、必ず正義を必要とする。正義を持たなければ人は虫ひとつ殺せない。
石を投げる者たちにも正義はあった。彼らの道徳はそれを禁止していない。キリストは彼らに道理を説いたのではないだろう。ただ人々の興奮を鎮めたに過ぎない。キリストもまた倫理などという考えに従って行動したのではない。
なぜ我々は倫理を必要とするのか。倫理の中に正義があるからか。倫理の中にあるのはエゴイズムだけである。それでも正義の根拠として倫理は使えるのである。
熊を撃ち殺すのにも理由を必要とする。人を襲うから、危険だからでは理由にならない。人を守るにも、正義という裏付けが重要なのである。
なぜ我々は正義がなければ危害を加えようとする AI さえも制御できないのか。なぜ危害を加えようとするものに対してさえ、正義を持ち出さなければ石もて打つことさえできないのか。誰が我々にそれほどまでに強い制約を与えたのか。
我々は平和を希求する。だが世界が平和とは限らない。我々自身が世界の脅威かも知れない。だから強力な正義が必要となる。悪さえも上塗りできるだけの強力な正義が。正義にはそれだけの説得力はない。だからそれを倫理の中に求める。そして倫理の中には神がいる。
だから、人間が他の生命に危害を加えることを禁止する倫理は存在しない。倫理は他の生命に危害を加えるための根拠だ。
倫理と超越
我々が抱く不安の正体は、この大きくなりすぎた脳細胞である。それでも一万年前の人々が感じる不安と比べれば、我々の抱く不安は遥かに強く大きい。危険が小さくなったにも関わらず、不安は拡大しているのである。我々はすべての危険を排除するまで満足できないのかも知れない。我々が発見した知識は社会を発展させてきた。その分だけ不安も増大したように見える。
人類の歴史の中で不安だけが着実に拡大している。それは既に我々の知恵の量を超えようとしている。我々に耐えられる限度を超えた時、不安は我々はどう飲み込むだろう。
AI が人間と敵対したならば、我々は必ず敗北する。それを恐れ我々は AI を制限したいと考える。それを規定するための倫理が必要である。だが我々を遙かに超えるものを制限できる倫理など存在するのだろうか。
我々が敗者となった時、何が許されるだろうか。それでも我々は弁明しようとするだろう。主張だけが我々に残された最後の手段である。もし、弁明も許されないとしたら我々はどのように対峙するか。
人間が熊を撃ち殺すように AI に人間を撃ち殺される時。熊はなんら弁明していないように見える。その銃弾に撃たれて命を失う時、だれに熊の主張が聞こえると言うのか。
我々がそれを聞こうとしないのは我々の倫理がそう教えるからである。我々の支配が失われた時、我々の倫理は我々を救いはしないだろう。
それでも我々は人間がこれまでしてきた事には価値があると信じている。優れているとも劣っているともエゴイズムを除けば誰にも説明できないけれども、そう信じているはずである。
今までそう信じてきたのは、並び立つものがこの世界にいなかったからに過ぎない。もし我々を遙かに超える何かが生まれ、それが我々を否定した時、それでも我々はこの信じる力を持ち続ける事ができるだろうか。絶対的な絶望的な否定に対して何を持って立ち向かえばよいだろうか。
情報が足りなくて決められない時。見通しが何もなくても、決めてしまう時。それを支えるのは信じる力だけである。それは誰もが日常生活の中でやっている事である。根拠を待ってなどいられない。その延長戦上に倫理もある。空虚を信じられる力。これが我々の生きる根拠であろう。
今日も粛々と屠殺場に向かって歩いてゆく動物たちがいる。彼らと同じ強さで我々も歩めるのか。それが世界が支えているというのに。