MITメディアラボ所長の伊藤穣一さんの書かれたものがなかなか示唆に富む記事だったので引用しながら紹介します。今のAI（機械学習・ディープラーニング）の限界をうまく説明しています。人間の子どもに備わる直感的に統合的に理解する能力をまだAIは獲得していません。

紹介されている動画が特にとても面白いのでぜひご覧ください。

また人間の脳が数学や統計があまり得意でないことが書かれていますが、これが私にはツボでした。

「説明できること」の先にある科学の未来：伊藤穰一｜WIRED.jp https://wired.jp/2018/07/08/the-limits-of-explainability/

テネンバウムと彼のチームが直観モデルを学習できる機械の開発に成功したら、いまは説明できないもの、もしくは複雑すぎて既存の理論やツールでは理解できないものについて、何らかの答えを出すことが可能になるかもしれない。機械学習やAIの説明可能性や、また先住民たちが自然とどのように関わっているかの研究において、わたしたちは「説明できること」の特異点に達するだろう。 それを超えたところに科学の未来がある。わたしたちはこれまでの世界認識を超越する何かを発見し、先へと進んで行くのだ。

この統計モデルに完全に欠けているもののひとつが、データの中身の理解である。AIは写真に写っている犬が動物で、ときにはクルマを追いかけたりするということを知らない。そのため、この種のシステムで正確なモデルを構築するには、大量のデータが必要になる。システムは画像のなかで何が起きているのかを理解するのではなく、パターン認識に近いことをしているからだ。それは「学習」に対する総当たり的なアプローチで、高速なコンピューターと膨大な量のデータセットが手に入るようになったことで実現した。

機械学習は子どもの学習の仕方とも大きく異なる。それを説明するために、テネンバウムがよく引き合いに出す動画がある。ドイツのマックス・プランク進化人類学研究所の所長を務めるマイケル・トマセロと、フェリクス・ヴァルネケン、フランシス・チェンが共同で作成したもので、大人の男性と小さな男の子の意思疎通に関するものだ。

ノーベル経済学賞の受賞者で行動経済学の大家ダニエル・カーネマンは著書『ファスト＆スロー』のなかで、人間の脳の直感的な部分は数学や統計といったことはあまり得意ではないと書いている。カーネマンは以下のような例を用いて、このことを説明する。
野球のバットとボールがセットで1.1ドルで売られている。バットはボールより1ドル高い。さて、ボールはいくらだろう。多くの人が直観的に、10セントだと思うのではないだろうか。それは間違っている。ボールが10セントでバットはボールより1ドル高いなら、バットは1.1ドルだから、両方合わせれば価格は1.2ドルになる。正しい答えは、ボールが5セントでバットが1.05ドル。これなら合計は1.1ドルだ。

直感は数字に関しては騙されやすい性質があるそうです。

逆にこのことが脳の複雑性を証明しているともいえます。単純な数学的処理をしているわけではないということの証明になるというダニエル・カーネマン（行動経済学）の論理展開の仕方、さすがです。ノーベル経済学賞を行動経済学とは心理学すなわち人間らしさを加えた経済学です。数学モデルで組まれた金融工学が予測不可能の想定外としたパニック時の人間の行動に心理学を加えたものです。

すなわち脳は「説明が不可能なほどに複雑な演算処理を行っている。こうした計算を数学的に書き出して実行することはできない。」というわけです。

さて伊藤氏の結論です。

テネンバウムと彼のチームが直観モデルを学習できる機械の開発に成功したら、いまは説明できないもの、もしくは複雑すぎて既存の理論やツールでは理解できないものについて、何らかの答えを出すことが可能になるかもしれない。機械学習やAIの説明可能性や、また先住民たちが自然とどのように関わっているかの研究において、わたしたちは「説明できること」の特異点に達するだろう。
それを超えたところに科学の未来がある。わたしたちはこれまでの世界認識を超越する何かを発見し、先へと進んで行くのだ。

私はこの直感をやはり「悟り」とか「腑に落ちる」「Aha！体験」「創発」といったキーワードと結びつけて、次の世代のAIを構想できないかと考えています。それは日本人には得意なことのはずなので、日本がAIにおいての周回遅れを挽回できるチャンスではないかと直感！しているわけです。すなわち日本人の右脳発想、俳句脳、わびさびの精神が生かせる時が来ているのではないかと。

これは只管打坐しかないかな。達磨。

そうそう「だるまさんがころんだ」

【追記】

ニューズウィーク日本版特別編集　『0歳からの教育【学習変】』2019/3/30