お薦めの本、そしてふたたび人文科学への期待
【ーー】 準備していた最後の質問を伺います。研究書でもフィクションでもよいので、人工知能を考える上でヒントになる文献や重要な文献を、何かお勧めのものがあれば紹介していただけますでしょうか。
【谷口】 真面目にちょっと考えて、途中でたまたま出ましたけど、僕ってやっぱりシステム論とかが思想的なところのベースになっていて、マトゥラーナ、バレーラの『知恵の樹』とかはやっぱりすごいインスパイアされたものですね。それと、さっきも出しましたけど、西垣通先生の『基礎情報学』『続・基礎情報学』は、結構いろんなトピックにも手を伸ばしてはるところもあって、ちょっと読んでほしいなと。
最近、特にAIとかやっている人がこういうシステム論的な思想面を学ぶ機会が減っているんじゃないかと思います。最近やっぱりエンジニアリングべったり感が少し高まっているので、AI周りが。だからもうちょっとそういうところも学んでもらったら世界が広がるかなと。僕らが学生のときは結構、現代思想が元気だったんですよ。だからそれでいろいろつまみ食いを書籍でしたりしましたけども、
あともう1つは、今ちょっと書籍が出てこなかったんですけど、ユクスキュルの『生物から見た世界』。やっぱりあれはもう典型的に生物の内部に視点を取るという、その描像にシフトするということが非常に大事で、そうするとやっぱり……、まあ、よくAIの開発で、画像認識でも、僕ってほかの研究者とか学生とかに、「おまえ、機械学習機の気持ちになってみろよ。それ分かるか？」みたいな。「この情報からどうやってそれが認識できるんだよ？」みたいな話をするんですよね。そういうふうなツールを作るときですら。いわんや自律的なロボットをつくるときをや、なんですけども、そういう視点のシフトというのは非常に重要なので。
あと、知能って何なんだと。知能って結局、環境適応で、身体や生物種、――そういうふうなものと切れない部分があるよねというふうなところを改めて感じることも大事かなと。
せっかくフィクションと言っていただいたので、AI研究をするのに役に立つか役に立たないかというのは完全に脇に置いて、単純に僕にとって、僕のこのライフにとってでかい作品を1つ言っていくと、アニメなんですけど、『サイバーフォーミュラ』という作品ですね。AIが運転する車と協調しながらグランプリを戦うレーシングアニメがあるんですよ。SF。もう大分前ですけど、サンライズの。
結構それが、僕がAIというのを考えるときには原点的になるアニメなので。実は、SFと人工知能か何かの特集のときに、ほかの何か人工知能学会誌でそれの記事を書いたことありますけどね。だから、「人工知能 サイバーフォーミュラ」で検索したら僕の記事が出てきてしまうみたいな（「AI研究者にとってのSF：新世紀GPXサイバーフォーミュラに学ぶ人と自動車の調和」）。そこでも言っていたんですけれど、AIの議論をすると、SFの話をすると、出てくるSFのキャラが限られてくるじゃないですか。「アトムを作りたい」って何や定型的な言説になっていて。せやけど僕、1978年生まれなんですけど、僕らの世代ってアトムを作りたいって全く同時代性がないというか。すごいそれは何というか、アトムを作りたいというふうな言説を行うのはもうちょっと上の世代だろうと。だから、僕らは僕らの世代の言説を持つべきじゃないかみたいなのも若干あって。なんか論考を書きました。
【ーー】 それは面白いというか、ある意味本質的なチョイスですね。アトムでなければ、『2002年宇宙の旅』や『ターミネーター』のようなネガティブな話を選ぶというのが定番かもしれませんが。
【谷口】 そうそう。定番にくみしたくない。（笑）
【ーー】 でも、ある意味本質的な視点ですね。いかに協調するかという。
【谷口】 そうそうそう、そうなんですよ。そうなんですよねえ。
【ーー】 ちなみに、さきほどもすこしお話に出てきましたが、いまの若い人、30代、40代ぐらいのAI研究者は、哲学的というか思想的なことにあまり関心をもっていないと。普通に研究しているので十分忙しいということはもちろんあるんだと思いますが、実際のところどうなのでしょう。じつはそういうことに関心を持つ人も結構いるのか、やはりひと昔前よりは距離が離れているのか。
松原仁先生らが言われていたのは、当時はAIシステムとして実際にすごいものをつくれるわけではないので、むしろ可能性としてはこういう可能性があるんだという話を盛んにやっていたということです。いまはむしろ実際にできることがいろいろあるので、ある意味それで手いっぱいというか、それで業績を十分出せるというあたりが変わってきているのかなというような話をされていました。
【谷口】 そういうのもあると思います。一方で、僕の青春時代というか、学生だったときの青春時代は大体修士から博士だと思うんですけど、そこの頃って、もう話したように、冬の時代じゃないですか。だから人工知能というともう怪しいから、みんな違う名前を使うというようなところもあって、オルタナティブが探索された時代でもあったと。複雑系、人工生命、カオス、ニューロが一定生きていて、ファジー、そういうのがまだ元気だったというか。だからこそみんなそこに答えがない状態というか。だからこそいろいろ議論があったし、それが奨励されたようなところはあるかもしれない。やっぱりそれが大きな川の流れになってくると、その中で泳がざるを得ない。停滞していることが許されないといったこともあるかもしれない。
それに若干付言すると、先ほど言っていたかな、知能のシステムの妥当性というものを考えるときに、ある種の実世界の実データの検証に耐えるということが、これが一つ重要なわけです。これは逆のサイドから言うと進化論なわけですよ。哲学的な、要は概念的な議論をするときには進化論的な世界、文脈から切り離して議論をするときがありますが、僕的なというかボトムアップなものの考え方をすれば、今残っている知能というのは結局のところ進化を耐え抜いたものなんですね。そういう意味ではある意味でもちろんそれで語り切れないものもあるかもしれませんけども、何かしら機能的なわけですよ。
そういう意味ではある知能のメカニズムがあったときに、そのメカニズムの表現、形が妥当であるかどうかというのは、パフォーマンスを出せるかどうかというので一定程度検証されるわけです。それはある種の反証可能性なわけです。だからパフォーマンス争いというのはある種の反証可能性というのを持った上での、要は検証であると。もちろん、きわきわのデータセットに強化学習して過適合するみたいなのはちゃうんかもしれんけど、そういう意味でこっちの理工系のこの流れは、ただパフォーマンスを出せればいいというよりかは、パフォーマンスを出さないことには、要は自分たちの言っていることはモデルとして妥当ではないというようなことを突きつけられるような状況にあるわけですね。
なので、つまりパフォーマンス、ステートオブジアートというか、パフォーマンスを出すことによって「人権」を得るんです。そうなると、速度が遅い時代というのはある程度仕事をしながら、否定されないから議論は可能なわけですよね。こういう可能性もあるかもしれない、こういう可能性もあるかもしれないと。ところが速度が出だしてしまうと、結局幾らこう言っても……、だから、おまえのそれはどんだけ確からしいねんというので、あいつのはこんだけ実際に動いとるし、知的な処理できとるぞと、おまえはどうやねんと言われたら、いやもう、俺の考え方だってこうやって正しいでというようなことを言わざるを得ないというようなところがあるからこそ、やっぱりとにかくパフォーマンスを出さなきゃというほうになっているというのはあると思います。これが一つ。
もう一つだけ足させてもらうと、やっぱりそれは今、人工知能というものの内部環境の話をしましたけど、やっぱり学術的な外部環境というのも考えるべきで、一つにはやっぱり現代思想的な思想の潮流そのものが弱まっていますよね。
やっぱりそういうふうな、知能とはとか、意識とはみたいなもろもろを語る上で、やっぱり2000年頃とか、1990年代にしろ、今ってそこに対するファッション感というか、そこに対するクールさというのがやはり弱まっている気がしていて。だから、それがやっぱり、技術のほうがクールだからそっちに若者が向かっているということもあるんじゃないかなと思います。
【ーー】 そうですね。雑誌の『現代思想』などを見ても、最近は社会的な問題を扱うことが多くなって、科学思想のようなテーマを扱うことは減っていますね。
だから、理系の人もちょっと手に取って、思想も面白いぞと思わせるようなアピールは、ひと昔前に比べるとないかもしれないですね。
【谷口】 それがインパクトをもたらしたということもあるかもしれないですね。スターがいないのかもしれないですけども。あと、やっぱりこの10年間、20年間で国の科学技術政策的なところも、やはり科学技術政策というか産業応用できる学問が学問の王者であるかのようなところに行き過ぎていて、ここまで話を広げる必要があるか分からないけど、国立大学法人改革とかとも相まって、やはり日本の人文思想かいわいの活力というのを奪われているようなところもあるんじゃないかなと。
【ーー】 そうですね。社会に役立つということを必要以上に強調するようになっているというのはありますね。だから、AI研究者と共同研究するというときにも、自動運転の倫理的なルールをつくるとか、そういうところに特化して協調しようという話になって、かつてやっていたような、もっとでかい話、知能の原理とは何かみたいな話にはなかなかならなくなってしまっているというのはあると思います。
【谷口】 そうそうそう。それはちょっと今日の、哲学に何を期待するかでも言いたかったところがあるんですけど、AIと哲学者が組んだら、何かAIの倫理的問題とかにもうめちゃめちゃグラビティが働いて、ELSIがみたいな話になってくるんですよね。僕はどっちかというと人間の心、意識とか自由意志とかそういうものとかを、要は今、AIの技術とかモデルとかで何となく切り開いてきた実証的なものから連携させて、要は知能理解を前に進めること、人間理解、知能理解を前に進めることで一緒したいという思いのほうが強いですね。
【ーー】 その点ではわたしもまったく考えは同じで、自分の研究プロジェクトの一部でこのインタビューをやっているのですが、このプロジェクト自体、倫理的な問題というよりはむしろ原理的な問題に取り組もう、人工知能の哲学を改めてやろうというプロジェクトで。
【谷口】 本当に、第4次AIブームを20年後に取るためにはそれが必要で。
日本人のAIの論文って、やっぱりそれなりにカンファレンスが出るんですよね。そやけどやっぱりリーディングの立場が取れないんですよねと思うんです。何でかというと、AIのリーディングのところ行くと、認知科学（コグニティブサイエンス）とか哲学（フィロソフィー）の話が入ってくるんですよ。哲学（フィロソフィー）の議論をそこの文脈（コンテクスト）も押さえた上で、技術で、パフォーマンスで勝負するんじゃなくて、上でリードする議論を展開できる日本人がいないんですよね。
【ーー】 なるほど。
【谷口】 浅田先生とかは発達ロボティクスというある種のフィールドではオピニオンリーダーをされていたので、そこが偉い。パワー的なものも含めて。そやけどAIとなると、やっぱりメタなレベルというのを取れないんですよ。そこは多分、そもそもやっぱり人文的な意味でのトレーニングがAI研究者に不足しているし、それを積んでないと。そのためには、そこに入ってきてそこと協業してくれたり、やってくれたりする日本の人文の知能研究というか、そこが強化されないと、なかなか高尚なことはできないというように思っています。
【ーー】 そのメッセージは、ぜひ人文科学の研究者に伝えたいですね。これだけ需要があるんだということを知ってもらえると。私は、谷口先生の本を読むと、背景に見える哲学的な問題、関心が非常によく分かるので、基本的には同じ問題、関心を違うアプローチでやっているんだという感覚を強く持つので、協働していく余地は大いにあるという感じを抱きます。今後もぜひよろしくお願いいたします。
【谷口】 よろしくお願いします。
―― 了 ――
聞き手：鈴木貴之
2022年3月18日Zoomにてオンラインインタビュー
その1
その2
その3