Richard Sutton : LLM は真の知能を持たない
前置き
Richard Sutton は AI 業界の大物研究者で、先年に Turing 賞を受けている。その彼の長時間インタビュー動画を AI で整理した。
コメント
Richard Sutton は大物だが、彼の「LLM は真の知能を持たない」という主張は、現在の AI 業界の主流には認められていない。
さすがに、露骨に「LLM は知能を持たない」とは主張できないので――とはいえ、LLM の本質は模倣に過ぎないと彼は主張しているので、それに近いのだが――、彼は「真の」という修飾語をつけている。
だが、抽象的概念に「真の」という修飾語が付く場合、その抽象概念は好き勝手かつ無根拠な解釈であることが大半。たとえば…。真の「神」、真の「私」、真の「正義」、真の「意識」、真の「美」、真の「芸術」…どれも実体の無い虚構に向かって突っ走っている。
実際、現在の LLM は全般的に見て、 90% 以上の人間よりも賢い（＝知的）。なのに、その LLM が「真の知能」を持たないのであれば、90% の人間（＝我々）も「真の知能」を持たないことになる。
Richard Sutton は誤解している。模倣できることが既に知能であり、模倣から隔絶した「真の知能」なるものが、どこかに実在するわけではない。
現状の LLM が知能の完全形で はないが、それをいえば人間の知能も完全形ではない。LLM （or その発展型）の場合は今後も更なる抜本的な発展を望みうる。
また、「目標を持つことが知能の本質」と Richard Sutton は主張しているが、「目標を持つこと」ではなく、目標（＝課題）の 達成/解決 能力が知能なのであって、目標をいくら自在に設定できても知能とは言えない。簡単にいえば、「金持ちになりたい」という目標は願望に過ぎず、その具体的な方策を現状に沿って最適化して組み立てる能力が知能となる。そして大半の人間のその能力はかなり貧弱で LLM には敵わない。