第3次ブームと哲学の役割
【――】 ちょうどそのお話しが次の質問とも関連するのですが、若い研究者があまり原理的な問題に関心を持たないというのは、深層学習などで人工知能の性能がすごく向上したことで、関心を持つ必要がなくなったのか、あるいはより具体的なレベルでやれることがたくさんあるので、ほんとうは問題が残っているんだけど、とりあえず棚上げになっているという感じなのか、そのあたりはいかがでしょう。
【堀】 いきなり哲学のところまで深く立ち返らなくても、やれることはすごく増えていて楽しいので、最先端の機械学習の能力の数字で勝負できるところはわーっと勝負するというので、楽しんで、かつそれが経済的にも役に立つということでやっているんですが、どこかで行き詰まったときに、もう一遍、状況依存性だとか身体知だとか情報の部分性だとかいうところの壁にはぶつかるので、また立ち返ってくるはずですね。
じゃあそのときに立ち返って、現在の第3次人工知能ブームで使われているディープラーニングの次に何ができるのかというのが、多分若い人を含めてそろそろ気になり始めていると思うんです。フロントエンドだけで、いわば同じプールのコースを泳いでタイムを競っている競争にはもう疲れてきてですね、ちょっとこのプールの外に何があるのか探検したいと思うのは、研究者としては当然ですよね。同じ競技のルールで、わーっと同じ競争だけやっているのは、学問としてはおもしろくないので、もっと本質的に、次の本質的課題は何なんだろうと思う人たちが、おそらく若者にも出てきている。それで、今年［2019年］の人工知能学会の全国大会でも「AIと哲学」というセッションが、学生企画でつくられた。学生たちもおそらく、我々年寄りが昔哲学者と一緒にやっていたらしいということが気になるらしいんですよ。自分たちもまたやれるんじゃないかってきっと思ってくれているんだと思います。
【――】 そのあたりは若い人でも、まだ技術的なところで行き詰まったわけじゃないけれども、もうちょっと大きな問題に関心があると。
【堀】 ええ。あまりにフロントエンドで競争するマスが増えていて、そこで勝負するのは非常に苦しいですよね。同じルールでタイムの競争だけするのは、やっていて、勝っているうちは楽しい人も多いんだろうけど、研究者として、少なくとも僕なんかはあんまり喜べる感じではない。どうせなら人と違う道を行くのが絶対研究者にとって楽しいので。
それともう一つは、量の勝負とかスピードの勝負は、どう頑張ってもGoogleとかに勝てないんですね。量的に勝負する領域はもうGoogleに絶対勝てない。まあ、絶対ということはないけども、少なくとも彼らと同じ技術を改良してもそこの勝負は非常に厳しい。そうではないもうちょっと別の道を考えたいって、何かを考えている研究者であれば、若者もみんなそう思うだろうなと。
【――】 私は人工知能学会のセッションには参加できませんでしたが、参加者は多かったのでしょうか。
【堀】 盛り上がっていました。議論もすごく盛り上がりました。
【――】 発表をするまでには至っていないけれども、関心のある人はかなり多いと。
【堀】 多いと思いますね。そう思います。
【――】 あとは、例えば、80年代の状況だと、例えば、松原仁先生が、当時は具体的に成果が見やすい形で出せるわけではないので、むしろ理論的な話で研究の正当化をせざるを得ないような状況もあって、わりと理論的な話をしていたということをおっしゃっていたのですが、その点では状況は違う？
【堀】 そうですね。
【――】 具体的にできるが増えているので、大きい話には目が向きにくくなってはいると。
【堀】 というところはあるかもしれません。ただ、もう第3次AIブームの技術というのは、AI研究から卒業していく部分も出てきている。実用化されると人工知能学会の研究領域から大体卒業していくんですよね。パターン認識にしろ音声認識にしろ文字認識にしろ。
AI学会のコアの部分は、知能って何だろう、知識って何だろう、人間と機械の協力で知的なことをやれるというのは何だろうという問題です。そこにみんなが戻ってくるのは、やっぱりそこが一番おもしろい未知の領域で、いくらやってもわからないから。やれば少しはわかる。少しわかるとまたわからないことが出てくる。これが、知的に一番楽しいところなので、産業界の実用化が進む一方で、学問としての人工知能という意味で、そこをやらないといけない。実用化を支える次の技術のためにも、やはりそこら辺は必要だと思います。
認知科学の人ともその話をしていて。認知科学が最近やはり実験心理学に近づき過ぎちゃって、統計的有意差の出る実験をしないと論文を書けないということが増えているんですよね。
それで、僕らと一緒にやってきた古い世代が、知能ってそもそも何だろう、状況依存性だとか身体性だとか、そこをもう一遍一緒に議論しようよ、AIの人、認知科学の人、哲学の人、もう一遍やろうよって言っていると同時に、若い人もまたそこに入ってきそうな気がします。
そういう知的興味で非常に楽しい重要な領域だというのが一つあるのと、ちょっと先走っちゃいますが、もう一方で、AIがこれだけ世の中に埋め込まれるようになったときに、人々が抱く不安についてどういう答えを出すのかというのは、AIの研究者だけでは答えを出せないので、そのときはもうどうしても哲学者と一緒に答えを考えなきゃいけないと。そういう意味で、現実世界の応用領域においても哲学者とAIの研究者というのは、協力というのが不可欠になっているという面があると思います。
昔から知的議論を楽しんできたコアの領域と同時に、そのコアの領域を拡大する形で、現実の問題にどう答えるかと。カント的な自立した個人の自由意志みたいなもので、今まで法体系その他が全部つくられていたのが、法学部の先生たちとも議論するんですが、自立した個人の自由意志というのは、フィクションの面も多いということは法学部の先生も認識していると。でも、そのフィクションを否定すると、法体系全部が壊れちゃうと。そこをどうするのか。
AIが、人間の代替としてのAIでなくても道具として一緒に仕事をするようになると、道具に刺激されて何かやるという必ずしも自由意志だけではないかもしれないことが起こる。人間の自律とか自由意志というあたりでどんなことがあり得るのかというのは、AI研究者はわからないので、哲学者と一緒に議論するというのが、実際的な問題としては出てきていると思います。
この間の全国大会では、そっちの現実的な問題のほうを、今ヨーロッパの哲学者なんかと一緒にどういう議論をしているかという話をしました。
人工物の道徳性
【――】 今の話に関してもうすこし伺いたいのは、例えば、自動運転車が事故を起こしたらどうするとか、かなり具体的なレベルでは、かなりいろいろな人が議論していますし、実際にどういう法律をつくるかというレベルで議論されていますけれども、堀先生が問題にされているのは、ある意味もうちょっと広い問題ですね。もう少し広い意味での人間と道具の関係というのの一環として、人間とAIの関係を見て、それによってどう社会のあり方が変わっていくかという。
【堀】 そうですね、まさにそうです。
代表的なところでは、オランダのトゥエンテ大学にいるピーター・フェルベーク先生という、系統としてはポストフェノメノロジーの先生が主張しているような人工物の道徳性の問題ですね。あれは人工知能研究者必読だと思うんですね。
フェルベーク先生は、実はユネスコでパネル討論を一緒にさせてもらったんです。そのときフェルベーク先生は自分の自説はお話にならないで、人工知能の問題の全体像だけを紹介されたんですが、ユネスコなんかでもそういう人間と機械の関係というものの再定義をどうしようというのは、議論が始まっているところです。
【――】 フェルベークさんの本だと、技術一般についてすでに論じてきた話の延長線上で、AIについても論じられるという感じですね。
【堀】 まさにそうですよね。ですから、AIだけの問題じゃないですよね。人工物の哲学。それがAIとか生命科学というのは、顕著に出ますよね。生命倫理とかAI倫理というのは。
【――】 逆に、そのくらい広い視点で捉えないと、AIをめぐる社会的な問題の全体像というか、本質は捉えられないんじゃないかと。
【堀】 と思います。それで、現在、国内でもいろんな政府系の委員会でもAIの技術者と法律関係の先生方との一緒の勉強会や委員会が多いんですが、哲学の先生はごくわずか、久木田水生さんが出てきているぐらいなんですよね。なので、ほんとうはもっと真剣に一緒に概念体系をつくっていく作業をしないといけないと思います。
【――】 人工知能学会で先生が出されている記事の中に、人工知能の定義を論じたものがあります。そこでは、個体主義的にあるものに知能があるという語り方をせずに、さまざまなものとのインタラクションの中で知能的なものが出てくるというスタンス
をとられていました。人工物の道徳性についても、人工物とそれをとりまくものを一つのシステムと捉えて、その中で人工知能知能にまつわるさまざまな社会問題を考えないといけないという感じでしょうか。
【堀】 まさにおっしゃるとおりですね。そういうのをぜひ考えたいなと。それを考える中で、じゃあどういう技術を世の中に埋め込んでいくかという技術の設計にまた戻ってくると思うんですね。それで、つくる技術と生まれる社会とのサイクリックなループをどう回していくのかと。それを回すということと、回す前に一緒に哲学者といろんな可能性について議論するということをぜひやりたいなというのが、今現在の希望です。
【――】 先生のような知能や知性の捉え方は、現在の人工知能研究者のあいだでどの程度一般的なのでしょうか。。
【堀】 少数派だと思います。マスコミの人とかにしつこく言うんだけど、相変わらず人間を置きかえる人工知能しかマスコミは報道しないですよね。でも、わかっている人は増えてきているかな。法律屋さんは比較的わかってくださってきているかなと思います。単独型の人工知能じゃなくて、いろんな機械が埋め込まれたところでの制度設計みたいなのを考えなきゃいけない。
いろんなナッジ、仕掛けが組み込まれていく。ポップ広告がスーパーマーケットで出てくるときに、その人をターゲットにしながら知的に出てくると。それで、自分は買いたいものを選んだつもりだけど、実は仕掛けで誘導されているというときに、何かが起こったときに誰が責任、どうとるんだろうみたいなことは、法律屋さんはもう既に、気にし始めている人は気にし始めている。
【――】 哲学でも、1990年代後半から、知性とかエージェンシーというものの範囲とや境界というものがそれほど自明のものではないという考え方や心の拡張という議論が登場しています。
【堀】 そういうグループとまたつながるとおもしろいですよね、きっとね。
まさにその知性の拡張みたいなことが、AIの研究でも、現実に増えてくると思うんですよ。応用システムとして。それで、そこを考えざるを得なくなると思うんです。それはAIだけじゃなくて、バーチャルリアリティー（VR）の技術もつながりますし、あとIoT、もののインターネットですよね。
IoTでいろんなものが知能を持つというか、いろいろな高度な機能を持ち始める。そうすると、従来型、マスコミが伝えるような人間代替型の知能じゃなくて、いろいろな機能が分散的に、しかも目に見えない形でネットワークでつながると。それが現実に起こっていくので、そのときに技術屋と哲学者が一緒になって、じゃあそれが望ましい形になるように、どう設計を変えていったらいいだろうという議論を絶対やる必要があると思っています。
だから、ほんとうはそれは喫緊の課題で、フェルベーク先生も本に書いていらっしゃいますが、今すぐにでも議論をオープンダイアローグでやらないといけないことだと。
【――】 かなり悪いシナリオというのもあり得ると？
【堀】 ええ。わっと悪い方向に行った後で修正するのが非常に難しいってことが起こらないように、あらかじめ修正できるように設計しておくというのは大事だと思いますね。
【――】 それはある意味、人間より賢い人工知能ができて人類を滅ぼすというような話よりもはるかに現実味があると。
【堀】 ええ、現実的だと思う。カーツワイルのシンギュラリティーの話は、そういう極端なほうの話は現実的にはそうないかもしれないけど、実際にもう起こり始めている技術的変革から、あそこで心配されているような事態に近づく可能性があると思うんですよね。それは我々も認識しておく必要があって、少なくともまずいほうに行っているんじゃないかというのを検知するためのシステムとか、検知するといっても何がまずいのか何がいいのかっていうのを、そもそもそこから議論しないといけないですね。何がいいというのは簡単にはいえないので。そこを単純な議論じゃなくて、網羅的な議論をみんなで一緒にする必要があると。
【――】 そのためには、そもそもどういうあり方が好ましいのかというところから始めていかないといけない。
【堀】 と思いますね。それで、その好ましいあり方というのが、非常に多様であるべきだと思うんですよね。グローバルに同一システムで支配されるというのは非常に不愉快なことで、村上陽一郎先生が『文明の死/文化の再生』という本を書いていらっしゃるんですが、多様な文化というのが重要だと。それとグローバルな文明というのは相入れないだろうと。
僕の個人的な興味としては、グローバルにわーっとブルドーザー的に支援する技術じゃなくて、多様な文化を生かせるような技術というのをつくれるはずなので、そういうのをつくりたい。じゃあ多様性を考えるってどういうことなのというのは、哲学の先生と一緒に議論すると多分、僕らが単純に能天気に考えるよりもいろいろ深く広く考えられるだろうなと思うんですよね。それは村上先生も書いているんですよ。西垣先生もそういうことを書いていらっしゃいますよね。
【――】 そうすると、現在の人工知能研究に対して哲学者のなし得る役割というのは、第2次ブームのときと同じような、状況性だとか身体性だとかの考察に加えて、今おっしゃったようなものがあると。そういう意味では、哲学者あるいは人文科学者がなし得る役割は、さらに増えているはずだと？
【堀】 だと思いますよ。アメリカではそういう人文系の先生が主体となるベンチャービジネスも生まれているそうです。世の中の人がどういうニーズを持っているかというのを吸い取ることをビジネスにしている。それは、人文系の人が本来得意なはずなのでね。文化人類学者とか哲学者、倫理学者がビジネスとしてすごくもうかっているそうです。
【――】 ある種のコンサルティングでしょうか。
【堀】 はい。文化人類学者の手法でほんとうに入り込むらしいですね、長期間。そうすると、我々技術屋だと全然わかんないようなことが見えると。そういうベンチャービジネスとしてやっている方もアメリカでは成功し始めているし、学問的にも我々とまた一緒に新しい重要な領域ができると思います。
2019年8月6日東京大学本郷キャンパスにて
聞き手：鈴木貴之、染谷昌義