哲学への関心と期待
【――】 なるほど。さきほどのゲームの話に戻ると、三宅さんがゲームの中で自律的なエージェントをつくるという研究を始められてから15年くらい経って、研究もかなり進んできていると思うのですが、バーチャルなゲーム世界の中で自律型のエージェントをつくる上で、これはまだ難しいというようなことは、具体的には何かありますか。
【三宅】 正直、15年やっていても、整備はしたけど、昔の段階からは大分進んだけど、まだまだできてないな、知能の本質には程遠いなというところであります。例えば、自意識の問題とか、自我の問題ですね。つまり、人間が自分を自分として見ている意識というのを、本当に人工知能がつくれているのならそういうのができるはずなんだけど、そういうものが情報工学上に本当に実現できるのかというのをずっと目指してきたわけです。いろんな哲学を援用してアーキテクチャを変更して、環境とのインタラクションを取り込んで、情報の流れの中に自分の自我とか意識というものの片鱗でも見えるんじゃないかというのが、自分の出発点でもあるんですね。博士のときにやっていた研究も、あの当時は力学系とかカオスが流行ったちょっと後の時代なので、力学系のカオティックな情報の流れを頭の中でつくっていけば非線形的な現象の中に自我というのが見つかるんじゃないかというのが僕の目指したところだし、じつは僕と同じ世代の人たちはそういうロマンを共有していたりするんですね。非線形の現象の中に自我というのが見えるはずだ。つまり、海の渦みたいなものが情報の渦としてある、そこに自我というのがあるんじゃないかというのを追求したけど、結局見つからなかったんですね、この20年ぐらいの歴史の中で。
そうこうするうちにディープラーニングが出てきて、ディープラーニングというのは超線形なので、非線形じゃないんですね。途中の計算はシグモイド関数など非線形の連続ではあるけれど、システムとしては入力から出力に向かっている、という意味で線形です。我々が非線形にあると思っていたのは線形のもののほうにじつはあるんじゃないかみたいなのが今の趨勢だったりする。ただ、そうは言っても、結局それは目から入力があって認識を返すから線形でいいのであって、脳の先、第一次野の向こう側、認識のさらに向こう側の第二次野、第三次、さらに大脳皮質みたいなところにある知能の複雑な構造というのに、コネクショニズムにしろ、記号主義にしろ、まったくたどり着いていないんだなと。そこに至る道というのをずっと探していて、その一つの道は工学的アプローチで、一つの道は哲学、もう一つはサイエンスですね。サイエンスは、脳科学が進歩すればそういうのが分かるんじゃないかとは思うけど、脳科学というのはちょっとずつしか進歩しないので、多分、そこまで行くのは、100年、200年の話なわけですよ。脳の中のニューロンの構造なんて、ほとんど分かってないですし。ここが数十年に短縮されたら、すごいことですが。
工学としては、僕がやってきたような情報工学の中でいろんなアーキテクチャを考えて、自我というのを生み出そうという試みです。かすってくらいはいると思うんだけど、まだまだ全然分からない。つまり、意識とか自我というのはコンピューターの中で生まれたことは全くないというところですね。
一方、哲学はそこに対して、すごく抽象的なアプローチというか、言語的なアプローチの中で、自我とは何ですかとか、環境との何とかというように、言語としてそれを提示するわけです。例えば、精神というのは力動であるとフロイトが言うと。でも、力動って何だよ。何の流れなの、それは。何の力なのって、説明がないんだけど、哲学ってそういうところはありますよね。そういうところをヒントにして哲学的にはこうだとかいうところを突き詰めていくと、例えば、デカルトだったら、確からしい自我というのはコギトだからあるので、ただ、コギトをプログラムに落とすにはどうすればいいのですかみたいな話じゃ全くないし、フッサールの言う、世界と自分が溶け合ったものの中から自我というのが立ち現れるという話も、そもそも自分と世界が溶け合っている状態というのは一体、エンジニアリングとしては何なんだろう、みたいなところは分からない。それは多様体みたいなものかもしれない。それをニューラルネットと言ってしまえば、ニューラルネットの中に自我というのを生み出そうという研究者もいるし、よく分からないけど、とにかく何かそこにあると示唆するのはいつも哲学なわけなので、哲学がつくったマップを実際に歩くのはエンジニアの仕事だと。
だから、すごく大ざっぱな地図というのは哲学の中から抜き出すことができて、それを1個1個、プログラムを書いて検証して、実際に歩くのはエンジニアの仕事です。西洋哲学だけではたどり着きそうにないというので、東洋哲学も勉強する。東洋哲学はロジカルじゃないですから。あれは、個人が修行とか座禅を組んだりして悟った。仏教もそうですよね。要するに、これこれこうすればこういう境地に行けるんだというのが経典に書いてある。西洋からすると、そんな体験マニュアルは、客観性もないし、学問でも何でもないということになるんだけど、ただ、知能とは何かという理論をちゃんとつくったのはむしろ仏教のほうで、西洋のほうは、もちろんご専門だからご存じのとおり、すごく観念的なところを組み上げて探求していくというところがあるので、当時は東洋の哲学がお経とかそういうところの中に書いていた知能のモデルというのは結構いっぱいあって、唯識論とかは一番有名なところだと思うんですけれど、それを実際につくってみようというのは工学がやることです。ですから、人工知能をやっていると、何となく、いま自分がつくっているこの部分はあの辺の哲学と多分対応しているんだなと、勘みたいなものが働くようになるんですね。長年、僕なんかはそういう結びつきをずっと探求してきたので、それをまとめたのが『人工知能のための哲学塾』です。
【――】 そういう意味では、哲学のいろいろな理論は、実際により具体的なモデルをつくるヒントのようなものなのですね。
【三宅】 はい。
【――】 これをちゃんと明確化する、具体化するならこういうアーキテクチャになりますよという作業のヒントというのは、哲学の1つの大きな役割ということですね。
【三宅】 まさにそうですね。ただ、僕はエンジニアなので、哲学が専門じゃないから、あくまで人工知能から見える哲学をつないでいる、という形なんですね。だから、哲学を専門にしている人文科学者の人たちには見えているものが多分見えてないと思います、いろんなところで。むしろ、『人工知能のための哲学塾』を読んで、こんなのはおもちゃにすぎんと言って、フッサールの専門家の俺がおまえに教えてやるよ、こうしたら人工知能というのはつくれるってフッサールさんも言っているよ、みたいな感じのプッシュが欲しいですね。わずかですが、そういった反響があってとても嬉しかった。でも、もっと欲しいですね。曲がりなりにも哲学とか書いちゃっているから、僕はもっともっと哲学者に怒られると思って本を出して、あれを読んで哲学者が怒って議論をしに来て、そこから何かクリエーティブなことが生まれるというのをすごく期待していたのですけど、案外好意的だった。応用哲学会でも反響を頂いた哲学者の方とワークショップをさせて頂いたり、いろんなところで講演に呼ばれたりして行ったり、東洋哲学のときはお坊さんの研修会とかにも呼んで頂いて、いろんなところで話をさせて頂きました。その体験は、本当に勉強になりました。現状は、人工知能というものに対して哲学は逆に距離があったりするので、だから、人工知能のための哲学って、哲学からも距離があるし、人工知能からも距離があるみたいな、間に落ちちゃって。そこをちゃんと拾って反応して、あなたの言っていることは勘違いで、本当は、フッサールはこういうことを言っていて、こういうふうにつくったら知能ってつくれるはずなんだよというのをもっと言ってほしいという、議論を始めるために投げたところがあるので、それを返してほしいなというのが人文科学者の人に言いたいことです。
【――】 なるほど。
【三宅】 僕から見ると、哲学は真理をつかむためにやっていると思っているわけですね。真理は一つだから、真実は一つだから、真実にたどり着けばちゃんとした人工知能がつくれると思っているわけですね。だから、哲学者がここに真実があると言ってくれたら、それでオーケーなんですけど、多分、人文科学のちょっと特殊というか、理系から見て特殊なところは、哲学の系譜そのものが哲学に組み込まれているじゃないですか。解釈が変わっていってとか、この人はこう言って、この人との関係はというのは哲学の論文によくある話で、これが真実ですと一言で言ってくれるというのは、なかなか論文にならないですね。哲学の研究というのは、文献研究というのが基礎にあって、ベルクソンのこの本の何ページにこういうことが書いてあって、こっちにはこう書いてあって、この関係からこうですと、哲学の文脈そのものの中で語られると、正直、何を言っているのかよく分からない。だから、哲学の系譜は一回脇に置いてもらって、生物というのはこうなんだとか、生命というのはこういうもので、知能というのはこういうものなんですと、ダイレクトに言ってほしい。文献の後ろから言うんじゃなくて、そのままずばり言ってもらうといいのになあというところはありますけど、そこは多分、科学と哲学の文化の違いなのかもしれませんね。
【――】 過去のビッグネームの哲学者の研究をしている人は、やはり文献的に正確に解釈するということのウエートが大きくなってしまいますね。研究している当の哲学者、例えば、フッサールだったりデカルトだったりは、むしろいろいろな問題について直接語っているので、フッサールはこういうことを言っていたんですということをうまく翻訳できるといいと思いますが、それはなかなか難しいですね。
【三宅】 あるいは、その哲学者、その人が思っている論でもいいと思うんですよ。別にビッグネームを持ってこなくても、何十年も哲学を研究しているわけだから、その人が持っている生命観とか知能観というのをそのままダイレクトに、あなたの哲学を教えてくださいみたいにね。それは哲学の学会ではやりにくいことなのかもしれませんけど、人工知能の研究者と話すときは、そういう感じで話していただけると分かりやすいなという感じはありますね。
【――】 ちなみに、哲学者がやってきたときに具体的にこういう質問を投げかけてみたいということとしては、たとえばどういう質問がありますか。
【三宅】 たとえば、自我というのはどういうふうに形成されるんですかとか、意識というのはあらかじめあるものなのか、環境とのインタラクションからつくり得るものなのですかとか、人間の身体というのを人間はどういうふうに捉えて、メルロ＝ポンティの話と似ていると思うんですけど、身体感覚をつくるにはどうしたらいいですかとかですね。たとえば、いま、ロボットって体がありますけれど、あれは人間的な意味では体じゃないんですね。あれは外部装置なんですね。ですから、ロボットの頭の中に脳があるふりをしていますけど、あれは、別にあそこにある必要はなくて、1キロ先のコンピューターの中にあってもたいして変わらないんです。なぜかというと、脳と体がたんに信号でつながっているだけなので、ロボットは、モーターとかを動かしてはいますけど、自分の体の感覚を持っていないんですね。ゲームでも同じことが言えて、人工知能ってキャラクターのためにつくるんだけど、キャラクターの身体って知能とうまくつながっていないわけです。命令をして、右腕を動かせとか、人間が持っている身体の感覚というのを再現しない限り、ちゃんとした知能をつくっていることにはならないんだけど、身体感覚というのはどうやって生み出されるのか。ベルクソンはイマージュとか、メルロ＝ポンティは身体についていろいろ語っているから、きっと哲学者なら知っているはずだと僕は思うわけですね。だから、どうなっているか教えてくださいというのを問いたい、というところがあります。
【――】 なるほど。哲学の側からすると、それはきちんと答えないといけない要請ですね。
【三宅】 はい。できると思いますし、むしろ人工知能というのは哲学を検証できる唯一の学問だと僕は思っているので、それを言ってさえいただければ、こっちで確かめますということですね。主観性がどう生まれるかみたいなところを追求しているのは、電子レンジとかエレベーターをつくるのとは全く違うところなので、主観世界を味わえる知能をつくるというのが自律型AIの究極の目標でもあるというところです。そういう世界はどうつくるんだろうというところを知りたい。主観性は哲学の最古のテーマだと思うのですが、そういう主観性はどこからどうやってつくるんですかというようなところが知りたいですね。
【――】 そのような関心からすると、一つのやり方はロボティクス的なもので、非常に単純だけれども、完全に自律した、昆虫のようなものをつくる。ロドニー・ブルックスがやっていたような研究ですね。そこから積み上げ的にだんだん豊かな主観性をつくっていくというのが、おそらく工学的なアプローチとしては正統派になりますね。
【三宅】 そうです。おっしゃるとおりです。
【――】 ゲーム開発だと、実際の需要があるので、必ずしもそうはいかないわけですね。ゲームの中で使えるキャラクターをつくらなければいけないので。
【三宅】 基本的には、いまおっしゃったように、サブサンプション・アーキテクチャー、ブルックスのアーキテクチャはデジタルゲームの人工知能で踏襲していて、反射レイヤーから徐々に遅延させて上のレイヤーをつくっていくものです。それはロボティクスもゲームも一緒なんですね。制御としては体を持っていればいい。反射から思考に向かって積み上げていくと。ただ、分からないのは、結局、その層を5層にしようが、7層にしようが、20層にしようが、反射の積み上げしかないわけですね。20層の最上位層に何かが現れるかというと、現れないですよ。どんどん遅延していった先に同じようなループが現れて、どんどん抽象的になるだけなんですね。でも、人間の意識って違う気がするんですよ。30層先に反射レイヤーがあるというよりは、サブサンプションじゃない何かがそこにあるはずで、それは何なんだろうというのが分からないところなんですね。何が意識の根源なのか。井筒俊彦先生などはそれを光の光と言っている。いろいろな仏教の経典でそういうことが繰り返し問われているんですね。つまり、反射のレイヤーを1個1個そぎ落としていったときに最後に何が残るんだというようなところを仏教やイスラム教ではいろんな言葉で問題にしていて、じつはそれは共通した構造になっているということが井筒先生の本（『イスラーム哲学の原像』、岩波新書、1980年）には書かれていて、じゃあ、それは一体何なんだろう、それを実装したいんだけど、みたいな関心がある。もちろん、仏教だとそれは、「向上・向下」とか、いろいろな仏教の用語があるのだけれど、頂点にある何かというのは未定義なまま語ってしまうというところがある。すべてが生まれ出づる場所とか。それはエンジニアリングでは何だろう、というところが知りたい。サブサンプションの果てにあるものって何なんですかという話ですね。こういう議論は僕しかしてないかもしれないですけど。でも、結局、ゲームをつくっていると、サブサンプションの1層、2層、3層、4層、普通は5、6層つくれば十分動くAIがつくれるので、はい終わりだといいんですけど、そこから意識というものを積み上げるためには、層を重ねても現れないわけなんですね。その辺はどうしたらいいのだろうというところ。これは、ディープラーニングとは違う、記号主義的なアプローチの究極地点の話ですね。一番中心となるポイント、これが分からない。これは哲学者はきっと知っているはずというところを期待しています。
【――】 インタビューからはすこし外れますが、私自身はいわゆる意識のハードプロブレム、意識の問題がもともとの専門で、そういう問題にも大いに関心があります。たとえば昆虫とかでも、光を見るとか、そういうような主観的な経験、プリミティブな経験とかというのはきっとあるわけですけれども、我々が意識とか自我と言うときには、そういうものを指すこともあれば、もうすこし人間に特有の、まさに自己のようなものを指すこともあって、かなり幅があります。さきほどの、レイヤーを重ねていった一番上なのか、あるいはさらに何かプラスアルファがあってなのかという問題で、そういう先に現れるものというのは、まさに人間の自己とか自我とか、そういうものなのだろうと思います。そういうものの話と、例えば昆虫でももっているような意識の話というのは、最終的にはつながっているのかもしれないけれども、ある程度切り離して考えられるのだと思います。
【三宅】 なるほど。
【――】 よりプリミティブな方に関しては、ある程度のサブサンプション・アーキテクチャーを実現すると、そこにはもう主観性が生じているんだと言っていいのかもしれない。
【三宅】 なるほど。人間の側だとサブサンプションじゃない何かがあるということですね、今の議論ですと。
【――】 そうですね。意識とか自我とか言ったときには、いろいろなものが含まれていると思うんですね。
【三宅】 自己意識と、対象に対する意識、二つの意識の違いみたいなところなんですかね、それは。
【――】 はい。知覚のようなものの話と、自己とか自我とかの話というのは、ある程度分けられると思うんですね。じつは、哲学者でも、デネットとか、その辺をあえてごちゃごちゃにして論じることはあったりするので、どうしても話が錯綜するのですけど。
【三宅】 自分はデネットの議論は、切れ味が良すぎるのではないか、という感覚を持っています。論理的に見えて、論理的ではない。世界の模様ではなくて、言葉の流れに従っている。
【――】 よく分からないうちに丸め込まれてしまうというところはありますね。
【三宅】 何かをそぎ落として定義したみたいな、トリックの積み重ねで何かこうなっちゃう。自分の読みが甘いのかもしれないですけど、その辺は教えていただけると助かります。
【――】 デネットは、いわゆる分析哲学の哲学者と比べても、レトリカルに冗談で煙に巻くみたいなスタイルなので、ちょっと独特ですね。
【三宅】 そうなんです。デネットは、一見、エンジニアリングに持っていきやすいようなふりをしている割には、あそこから何かを持ってこれないですね。僕の力量が足りないのかもしれないけど、レトリックではあるけど、アーキテクチャになってない。先生から見ると、サブサンプションじゃない構造というのは何になりますかね。哲学の用語で言うと、そこは何なんでしょうね。昆虫にはなくて人間にはある、言語的なものなんでしょうね。
【――】 例えば、言語的なものであったり、あるいは言語によって可能になる反省的な思考だったりということですね。
【三宅】 なるほど。どうすればいいのかな。僕は常に知能をつくりたいと思っているわけですから、どうすればいいのか。一つの鍵は時間にあると思っていまして、人間って時間を感じますよね。人工知能って、時間は感じないんですよね。むしろ時間というのにむち打たれていて、要するにCPUのクロックで動いているわけです。人間が分子運動で動いているのと同じなんだけど、人間はそこから意識の上で時間というのを感じるのですが、人工知能には時間がないんですね。時間を感じるという感覚も課題も全くなくて、むしろ突き動かされている。CPUのクロックで前へ前と動かされているだけなので、そういう存在である限り、意識というのはないのだろうなと思うんですね。だから、人工知能に時間を感じられるような機構をつくると、そこに自然に意識というのも現れるんじゃないか、という感覚を自分は持っている。時間の話って哲学では本質的で、いっぱいあると思うんですけど、そこを人工知能で再現してあげるべきだという。ちょうど特殊相対性理論が時間と空間の話で宇宙の原理を一個加えたように、人工知能もある意味基礎理論がないので、時間といっても主観的な時間、知能が感じる時間の謎を突き詰めていくと、きっと知能の謎が解けるんじゃないかなと考えていたりしますね。それとさきほどのサブサンプション以上の何かって、結びついている気がするんですね。サブサンプションというのはあくまで時間の流れの中にうまく適応するためのモデルなので、それだけだと時間に流されているだけだから、それを逆転するような機構が何かあるはずなんですね。時間に抗して何かを立てるというところが。それはきっと意識というのに結びついているのだろうなと思っていますね。
【――】 まさにそのへんについて哲学者からいろいろヒントを欲しいわけですね。
【三宅】 そうなんです。ぜひ教えていただきたいというところですね。
【――】 後日、インタビューをウェブ上で公開するので、三宅さんはそういったフィードバックを求めているんだということも知っていただけると思います。
【三宅】 俺が教えてやるわという、ちょっと説教してやるから来いみたいな感じを期待しています。それを全部教えてくれるんだったら、こっちとしては願ったりかなったりというところではありますね。
（その4へ続く）