あたしも、ドクターを持っている教員の口から『AIは純粋な数理論である』という言葉をもらって大層驚いた。あたしはそうは思わない。『AIが純粋な数理論である』という言葉が真であれば、AIは数学だということになる。だが、AIを使った社会的な研究はいっぱいある。もし言葉が真であれば、AIを使った社会学的な研究は意味をなさないということになるではないか。だがそうでない事実が多数ある。我々の世の中の社会的なバッファーになってくれている（というか現状バッファーにしかならない）のがAIだからだ。ひとつ事例を挙げよう。
例えば、A社というコンサルがAIを使って、B社という顧客企業の売上高を上げる解析を担ったとする。企業のマーケットコンサルタントA社の社員が、B社の担当者に『AIを使ってこうしたデータが出てきました』というだけでは、仕事にならないのは自明だ。マーケッタとしては、『AIを使ってこうしたデータが出てきました』という数理、その裏にある人間の心の機敏までをも読み取らなければならない。分析が数理止まりである限り、B社の担当者は熱を上げてA社の分析を批判するだろう。数字だけ見て勤まるのがコンサルではない。数字の背後にある本質を説明しなければならないのだ。数理論だけが解釈する一般化論を、AIで提示することは実務レベルではできないのだ。
つまり、この意味で、AIとはブラックボックスである、といえる。数字を投げると、数字で帰ってくる。AIがするのはここまでで、人間の心とか行動の機敏までは担当できない。その内実の理由付けはAIは示すことができない。だからこそ、AIは人的理由付けの分野が苦手なのだ。人間と人間とが関わりあう世界ではAIは代替はできない（もちろんこれからのイノベーションが、このAIブラックボックス問題を革命的に変える可能性は否定できないが、その割合は低いとあたしは思う）。だからこそ、仮設構築と仮説検証は人間の経験的な論の中で行わなければならない。
この論理は、池田が排出量取引の基礎分野で広く世界で知られる経済学者コースの理論を経てこのように言っているのと同じことである。池田はコースの論文を経由して、次のように言う。『基本的に経済学はニュートン流の古典力学モデルによる証明では成り立たない』と。
コースの論文には、数式は1本もない。彼は最近の論文で「経済学者はますます学界のために論文を書くようになった」と嘆いている。それは学問が制度化するとき、ある程度は避けられないことだが、経済学の場合は滑稽だ。きょう届いた日本経済学会の学会誌の理論的な論文は、すべて「定理・証明」という形で書かれている。こう書かないと、レフェリーに読んでさえもらえないのだ。
しかし経験科学で、こんな数学みたいな書き方をしている学問は他にない。工学や生物学の論文で、定理とか証明というのは見たことがない。コースも警告するように、経済学はアダム・スミスの時代から政策科学だったのであり、古典力学をモデルにするのは筋違いなのだ。
池田信夫 blog : ロナルド・コース、1910－2013
統計学がそうである限り、その応用であるAIもまた経験科学が基礎土台である。だからこそ、人間の経験値に基づく研究がAIの応用分野で盛んになっている背景がある。もし仮にAIが純粋な数理論であれば、証明だけで事足りるはずだ。だが、そうではないと我々は経験科学の観点から、ある種の人生訓として自然と理解している。人生の答えに証明はない。人生の中にある数学に答えとなる証明はあるかもしれないが。
人生の答えが42である、という論はこの話に妙に似ている。実際問題、42ということは答えとして、本質的には正しくない。それは表面上は正しく数理的にも正しいだろう。だが、ことの本質を理解してない質問者がこの問に関して知識不足であるが故、本質を逃していると、あるSF小説はギャグ的に主張する。広い意味で言えば、AIはルールに従って答えを出す計算機である。AIにまつわる実務をこなす学徒たちには『AI＝数理論である』という、大層な勘違いだけはしないでもらいたいものだ。
