AIと人間の関係
【ーー】 麻生先生は、もともと機械学習や統計的学習も研究されてきたということでしたが、しばらく前の時期には、機械学習させるよりも人間がプログラムを直接書いたほうが効率がよかったというお話をさきほどされていました。機械学習がどのくらい重要かということの認識は、過去2、30年間で大きく変わってきているのでしょうか。
【麻生】 世の中がですか、私がですか。
【ーー】 世の中が、あるいは研究者一般がということですね。
【麻生】 世の中は変わってきています。人工知能研究者の中でも変わってきています。
一番大きく変わったのはディープラーニングのためだと思います。学習自体は特殊な戦略ではなくて、パターン認識の世界では1950年代からあったわけですし、そもそも進化の過程で生き物が生存のために使っている戦略なので、可能性の一つとしてはずっと存在していたわけですが、エンジニアリング的な価値の評価は大きく変わっています。
昔からパターン認識の分野では使われていたわけですけれども、性能がすごく上がった。データを大量に使って、とても複雑なモデルを学習させることで、性能が大幅に上がったのは大きな変化です。
例えば、ラッセルさんが書かれたAIの標準的な教科書がありますが、機械学習に関する内容が大きな部分を占めています。そのことが、AIの中での機械学習の位置づけの大きな変化を表していると思います。
それまでは、人工知能の教科書の内容は、探索や推論などがほとんどだったのですが、あの教科書で初めて、機械学習の割合が大きく増えた感じがしました。
【ーー】 第3版から第4版になるときにも、機械学習関連の章のボリュームがかなり増えていますね。
【麻生】 そうなんです。逆に言うとかなり切られているところもあったりするんですよね。もう、本の厚さから、これ以上増やせないということだと思うんですが。
【ーー】 でも、第2次ブームの80年代ぐらいまでは、人工知能研究の中では、学習させようというアプローチはそれほど有力ではなかったわけですね。
【麻生】 機械学習を使うパターン認識系の研究と、知識を使った推論を使うAIの研究とは違う分野でした。1980年代には、第5世代コンピュータのように、知識をプログラムや論理式、ルールで書いて推論するものがAIという分野の中心でした。二つの分野の間には、直接的な交流はあまりなかったです。全くなかったわけではないんですけど、あまりなかったと思います。ですから、ラッセルの教科書の最初のバージョンは印象的でした。
【ーー】 いまでは、人工知能研究と統計的学習の研究はほとんど連続的な感じになっていて、一般的なイメージだと、むしろ機械学習イコール人工知能ぐらいになっていますね。
【麻生】 今は機械学習イコール人工知能みたいになっていますが、昔は全く違ったんです。
【ーー】 いまは関係が180度逆転したような感じになっているわけなんですね。
【麻生】 そうです。人工知能学会の大会のセッションを見ても、ある時期までは、機械学習関連のセッションはほとんどなかったと思います。ほとんどなかったって言うと言い過ぎかもしれませんが、でも、ある時期からすごく増えていると思います。
【ーー】 そういう意味では、人工知能研究者のバックグラウンドが、ロジック系の人から統計系の人に、割合が変わってきているというのもあるのでしょうか。
【麻生】 そうですね。人口比はとても変わっていると思います。
ただ、ロジック系の話はもう要らないのか、については、先ほども言いましたが、両方の意見があって、もうニューラルだけで全部やるんだという人もいるし、ハイブリッドにしたほうがいいんじゃないかという人もいる、という感じだと思います。
個人的には、やはり脳の仕組みに興味があるので、全部ニューラルでつくりたいですが、でも、人間もプログラムを書いて計算機を使っているので、外づけでロジック系の情報処理が動いても全然問題はないと思っています。そのほうが最終的には全体の能力は高くなると思います。無理してニューラルネットで難しい論理推論をする必要はないので。
【ーー】 そういう意味では、先ほどのパターン認識的なメカニズムと記号操作的なメカニズムを組み合わせるという話は、人間と人工知能をどう組み合わせるか、セットにして考えたときにどうあるべきかという話とも関係するように思われます。
【麻生】 そうですね、確かに。そうかもしれないです。
【ーー】 われわれのプロジェクトでは、そういったことも議論しています。
【麻生】 その辺も、逆転している感じがします。計算機ってシンボリックな操作が得意な――計算が代表ですけど――はずで、人間はむしろパターン、情報処理のほうが得意だったのですが、ディープラーニング以降は、計算機のほうが大規模なデータから学習するパターン認識の能力がすごく上がったので、人間とAIの関係もずいぶん変わってきていますね、確かに。
【ーー】 人工知能に関する従来の人文系の議論だと、人間一人丸ごとに置き換わるような、まさに自律的なエージェントとしての人工知能が出てきたらどうする、みたいな話をしがちなわけですが、われわれのプロジェクトでは、むしろそれよりは、今ある人工知能を、人間の知能とはちょっと違うタイプの知的な道具として活用するという方向性で考えたときに、どういうのがいい形なのかというような話を議論しています。その点で、いまおっしゃったようなことは非常に興味深くて、シンボリックなことをAIにやらせるのがいいのか、あるいはパターン認識をむしろ人間よりもうまくできる――人間でもできるんだけど、それをそれ以上にできるというところを生かすべきなのか。どちらの可能性もありそうですね。
【麻生】 はい、そうなんですよね。
人間はその2つが何となくうまくつながっているんですよ。でも、昔はシンボリックな部分は計算機が優れていて、パターンの部分が弱かったんですけど。今はパターンの部分が強くなったのに、この2つがつながってないから、例えばパターン認識が得意なAIが数式処理も使うということができてないわけです。
人間は、パターン認識が得意なんだけど、プログラムを書いてコンピュータを使うこともできるので、そこをスムーズにつなげることが、今のAIにとって一番大きなチャレンジだと思います。
【ーー】 現状では、人だったらある意味丸投げして、「これ全部やっておいてね」というような感じで頼めるようなことを、さすがにそれはできなくて、パターン認識的な作業だけを切り出して頼むとか、シンボリックなところだけを切り出して頼むことになる。やはりどうしてもそうなってしまいますね。
【麻生】 そういう形になっていると思います。プランニングとかは専用のプランナでやればいいんですけど。
【ーー】 逆に言えば、そこをきちんと切り出して、この作業はこのタイプのAIにやってもらうということを、われわれがうまく判断できるとよいわけですね。
【麻生】 そうですね、はい。現状はそういうふうに切り替えるのが一番いいと思いますし、実際そうやっていると思います。組合せ最適化なんかは、それはそれで解くし、パターン認識はまたパターン認識でやるというように。
【ーー】 それ以上のSF的なことをもしやりたかったら、やはり2つのそのシステムを統合しなければいけないはずだという、そういう話になるということですね。
【麻生】 はい。そういうことです。繰り返しになりますが、そこが一番根源的問題だと思います。
【ーー】 逆に、そこが統合できていない、どちらかしかないAIシステムに、人だったら丸ごと頼めるようなことをやらせようとすると、やはりうまくいかないことがいろいろ出てくることにもなるわけですね。
【麻生】 そうですね。できないことは多いと思います。
もう一つ、根源的な問題と言われるものに、ウィノグラードとフローレスが指摘したような「ブラインドネス」という問題もあります。
もしそういう理想的なAIができたとしても、人間もそうですけど、それは多分、ミスをするでしょう。フレーム問題とも関係ありますけど、全てのことを考えておくことはできないので。そういうミスするような機械を使えるのか、という問題があります。それがウィノグラードとフローレスの議論の中心ではないかもしれないけど、一つの問題提起で、ウィノグラードは、その後、AIではなく、人間同士のコラボレーションを支援するツールのほうが生産的と考えて、AIの研究をしなくなったと言われています。
その問題も依然として残っています。アプリケーション的にもその両方をつなぐことは意味があるのかというご質問とも関係しますが、本当にそういうAIができたとして、それを果たして我々は信頼して使うのか、ということも、既に、自動運転などでは問題になっていますが、別の問題としてあると思います。
【ーー】 それは結局、人間がもう1人できたのと同じようなことになってしまうかもしれないと。
【麻生】 そうですね。まあ、人間よりは賢いと思いますし、24時間疲れを知らずに働くのでいいとは思いますが。でも、そうするとAIの責任能力なども絡んでくると思います。そういう問題は別途、根源的な問題としてあると思いますが、そこに行く前に、まずはその2つつなげないと話になりませんよね、というのが私の感じていることです。
【ーー】 逆に、そこがうまくつなげられるようになったら、そういうことを考えなきゃなるということですね。いよいよ真剣に考えなきゃいけないと。
【麻生】 はい。そういうことだと思います。
その4に続く