第3次ブームが一段落して見えてきたこと
【黒崎】 それで、2、3年前のAIブームの熱狂のときには、シンギュラリティの問題が、急に花咲いた。コンピュータは人間を超えるのかという話になって、コンピューターが人間世界を牛耳るようになるんじゃないかといういつものパターンが表に出てきた。かつ、社会的影響力のある人々、例えば、ビル・ゲイツだとかスティーブン・ホーキングだとか、人工知能ができて人類は終わりだというふうにかなり言ったので、あの人たちがそう言うのだから、という雰囲気もないわけじゃなかったですね。
でも、どうもそこまでじゃないと。そもそも、コンピューターには支配するとか何とかしようという意図、意志はない。例えば自動改札機は、瞬時にして残高とか何とかを計算するというものすごい知能ですが、あれが世の中に普及することによって人間が支配されるということはないですよね。
単体のコンピュータにはそういうことはない。じゃあ、ネットワーク全体が何となく知性みたいなものを持つんじゃないかと言えば、そういうことがないわけではないけども、どうもそれも違うんじゃないか。それについて最近おもしろかったのは、ケヴィン・ケリーの『〈インターネット〉の次に来るもの』（NHK出版、2016年）という本です。これ、なかなか画期的でしたね。彼は『WIRED』の編集長をずっとやっていますが、やっぱりおもしろいんですよ。人工知能問題は、決して人がAIに支配されたり何とかではないと言っている。だけど、AIは今後、従来の水道やガスのようになると。つまり、知識はタダになる、蛇口をひねるように出てくるようになるだろうとしているわけです。今までの知識とか知恵というのは、ある種貴重なものだったけれども、それがあふれ出て、至る所に人工知能があって、環境みたいになっていく。でも、決して人間を支配するとか、そういう形には全然ならないだろうと。最近、一時の恐怖ブームが終わって、世の中の流れもちょっと落ち着いた感じがありますね。
一番象徴的だったのは将棋ですね。将棋で完全に負けたら、もう棋士っていう職業はなくなるんじゃないかって言われていたけれども、その時期あたりから、加藤一二三さんとか藤井聡太さんはすごいという話になった。人工知能に負けたということはもうどうでもよくて、人間同士の戦いにまた戻っていって、そこでまたすごいね、おもしろいねって、何事もなかったかのように、また将棋の世界が生き生きと、むしろエネルギーを得たかのようになっている。あれを見ると、人間ってすごいなって思う。
たしかに、人間より速く走る自動車ができたけど、いまではもう自動車に嫉妬したり、俺たちはこれで終わったとは思わないですよね。人間は、100メートルを9.8秒で走るのか、9.7秒で走るのかを、世界レベル、人類レベルでまだ楽しんでいる。あ、こういう形なのかという感じが最近ちょっと見えてきています。
だから、できるところは代替されるのだけれども、それはコンピューターだからできるんじゃない？ 当たり前じゃない？ という形で我々が取り入れていく形で、ちょっと落ち着いてきている感じはありますよね。
【――】 そういう意味では、人工知能も従来のテクノロジーと同じだと。
【黒崎】 最初登場したときは、携帯電話だってそうですよね。それが何でもないようにおさまっていくという側面がAIでも出てきているというところは、同じですね。
例えば、ディープラーニング。ディープラーニングってある意味、脳のシミュレーションだけど、脳のある一部のシミュレーションでしかなくて、脳は海馬やら何やらいろいろなところが統合して動いている。1箇所だけのシミュレーションはうまくいったけれども、短期記憶なり何なりが統合されて初めて人間はうまくいっているというところまで見えてきた。そうすると、これは脳の機能のごく一部分の巨大化ということかもしれない。
そうすると、それでできることももちろんある。人間が8,000年かかることを2、3日でやってしまう速さとか、1秒間で1,000万人の画像を処理するとか、そこだけは独自の進化を遂げるから、とんでもないこともできることは間違いない。今回の第３次ブームも、ディープラーニングのところの成果はうまくいったかもしれない。道具としてはかなりのところまで行くとは思うけれども、またどこかで行き詰まるかもしれない。やはり第3次ブームと捉えていいような動きになっているかもしれないですね。
【――】 第２次ブームのときと同じように、ある領域に関してはすごいのだけれども、どういうことができてどういうことができないかということに関してまた議論が生じてきて、原理的なところに立ちかえる可能性があると。
【黒崎】 そろそろそういう話が出てくる時期になってきている。だから、2年前ぐらいだと、どう論じていいかわからなかった圧倒的な速さとブームとがあったけども、ちょっと雰囲気が変わってきている。
これからの人工知能の哲学
【――】 では、これからそういう議論が起こってきたときに、哲学者が、西洋哲学の道具立てをもって貢献する余地というのはどのくらいあるとお考えでしょうか？
【黒崎】 まず、人工知能からヒントをもらって哲学の内部が活性化するということ自体は非常にある。記号と直観とか、これまで考えてきた問題の系列が見えたり、議論が新たな意味を持ってきたりと、ＡＩから刺激をもらえる意味では大きいですよね。
逆に、人工知能研究に指南、指導することができるかというところは、哲学なのかあるいは脳科学なのか。つまり、脳のシミュレーションのようなことを彼らは考えているわけですけれども、例えば今話題の辺縁系のこの働きをシミュレーションしたけど、ここの短期記憶のこれがこう絡んでというようなことになると、哲学からは絶望的に遠いですよね。
その方向ではなくて、例えば意味が分かるとか、意味を理解するということは、まさにそういう統合的な働きだと思うのだけれども、そういうところまではAIはるかに遠いという意味では、人間の解明っていうのは、やはり深い深い、おもしろいテーマですよね。
ディープラーニングも、＜深い＞方法というところに神秘性を込めていて、だからすごいことができるかもしれないということを言っているのだけど、全てが解明されるとそれは単なる一つのメカニズムになってしまうので、できればこの計算法は神秘というか、解明しつくせないものとしてとっておきたいという側面がおそらくあると思うんです。
【――】 メカニズムがわかってしまうと、限界も見えてくると。
【黒崎】 そうですね。
【――】 われわれはメカニズムをどこまで理解できるようになるのでしょうか。
【黒崎】 例えば、ビッグデータ的思考と人間の思考には大きな差がある。我々は原因と結果で物事を考え、それは事柄としてそうなんだと普通思っているけれども、カントに言わせると因果性はカテゴリーなので、人間に独自の世界の見方ですよね。人間にとって世界は原因と結果で成立しているように見えているけれども、それは人間にとってそのように現象しているだけで、物自体の世界はどうかわからない。原因・結果という発想自体、人間に独自のものかもしれないわけですよね。
そうすると、ここで明日犯罪が起きると言われたとき、何で？ って我々の思考法はかならず問いますけども、ビッグデータ的思考では、瞬時にしてその確率を計算する。彼らは何でって考えているわけではなく、統計と確率で答えを出してきているから、何でという問いに答えないし、答えられない。このようにビックデータ的思考も一つの思考のあり方だと言える。人間がずっとこだわってきた、原因・結果で物を考えるという世界観がこれによって相対化ということもあり得ますよね。
【――】 カントが哲学的に言ったことを具体的に示してくれるのだと。
【黒崎】 そうそう。その意味ではおもしろいなと。
【――】 逆に言うと、そういうビッグデータ的な思考様式は、なかなか人間には理解できないかもしれません。
【黒崎】 人間とは相容れない。だから、単に手段として利用するっていうことはあるけれども、whyの問いには答えない思考方法なんだよっていうことは理解したほうがいいと思いますよね。
【――】 第2次ブームのときは人間を逆照射させるような形の考察が中心だったのが、今のお話を聞いていると、知性の本性とか思考の本性を考える上で、人間を相対化するような可能性もあるわけですね。
【黒崎】 そうですね、そういうことになりますね。昔はやはり人間中心主義、人間はすごいじゃないかという前提があった。いま人間とは別の知性が発生しつつあるとすると、人間知性の独自性も見えるけども、それは知性のone of themだということも見えるっていう意味ではそうですね。
【――】 第2次ブームの際にはさまざまな論点があったわけですが、やはりフレーム問題は重要だとお考えでしょうか。
【黒崎】 そうですね。例えば明示的知識と背景知識とか、図と地とか、後者が明示性を支えているんだという構造。全てを明示的にするコンピューターのプログラミングとの対比では、人間は全て明示的にわかっているわけじゃない、背景的知識の中で明示的知識が生きているというあの視点は非常に重要な視点ですね。そして、それもやはりフレーム問題という形に収斂、還元できると思うし……。
【――】 フレーム問題をめぐる議論では、古典的な、計算主義的な人工知能だと結局フレーム問題に陥ってしまう、人間の知性はそのようなものではないのだということは、説得的に論じられました。たとえばドレイファスは、鍵になるのは直観あるいは身体だと言うわけですが、そのあたりに関しては、掘り下げる余地は残されているとお考えでしょうか。
【黒崎】 そうですね。人工知能ができない、残余のところを身体と呼んだり直観的と呼んだりしてきているわけですよね、いつでも。でも、対談なんかだと典型的ですけれども、そういう概念だけだとなかなか工学者が納得してくれない。じゃあそれをプログラム化すればいいんじゃないかという話になる。つまり、人間だってモノだろうという工学者の一番原理的な前提に戻ると、モノなのだから、シリコンだろうがたんぱく質だろうが、機能はそこに乗っかるはずだと。そこをモノだと言った瞬間に、工学者たちは、原理的には必ず実現できるはずだという一番根本的なテーゼを言ってくる。モノだからいつか実現できるっていう議論は、永遠に続くんですよね。
人工知能問題におけるスタンス
【――】 最近またこのようなお仕事が増えてきているという実感はお持ちでしょうか？
【黒崎】 ちょっとありますね。それで、そのとき自分がどのスタンスにいるのか。Viva!人間、人間すごいっていうふうにするか、いや、機械も心持つんだよ、ロボットにも心はあるんだよってやるかって、二者択一みたいなところがあった。それで一生懸命考えた挙句に、やっぱり人間はすごいんだよって、絞り出すように言う。（笑）でも、一般の人がそれを聞いてると、「あったりめえじゃねえか、機械に心あるわけねえじゃねえか」っていうことになる。そうすると、必死に考えた挙句、一番最初の、一般の人たちの考えと同じになっちゃう（笑）。だからむしろ、いや、機械も心があるよって言ったほうが議論がしやすい。いや、そうじゃないな、やっぱり人間は違うんだって言うと、当り前じゃないかそんなの、っていうふうになるのがつらかったので、どうしようかなと思ってた。
【――】 でも、今日のお話を伺っていると、人工知能は人間と同じにはまだまだなり得ないという感じですね。
【黒崎】 まだまだというか、全然違うなと。それが見えてきたって感じですよね。ディープラーニングはとんでもない成果で、自己学習というところから、これまでの人工知能の歴史から見ても画期的な、とんでもない成果を得たし、今後も、それを使ってまだ見えてないこともいろいろできるということは間違いない。だからといって、人間に取って代わる、人間としての全体的なものを捉えたっていうことではなさそうだし、第３次ブームはやはりブームなのかもしれないという感じは、やはり感じられますよね。
【――】 そうすると、viva!人間の立場を数年前よりももう少し自信を持って主張できると。
【黒崎】 うん、そうそう。少しずつ自信は回復しつつある。
2019年2月25日黒崎先生ご自宅にて
聞き手：鈴木貴之、染谷昌義