シンギュラリティは起こらない。起こるとしたら、それはＡＩが人間の知能を超える瞬間ではなく、人間が因果知で世界をとらえるのをあきらめる瞬間だ
と、いうのを考えているが説明が長くなるし難しい
以下、自分にだけわかる箇条書き
LLMの認識する『世界』について/圧力知
- LLMは因果知ではなく圧力知で世界を認識している
- 圧力知とは「地球外少年少女」に出てきた言葉で、因果推論で未来や空白を予測するのではなく、周りの状況からそれがある『確率が高いもの』を選んで答えとする知識。粘菌が迷路を解くのに似ている。
- 実際のところ世界や未来は因果知ではなくて、圧力知でとらえるほうが正確にとらえられる。
- なぜならば『微細な個別の現象』同士では因果があるが、世界はあまりにも複雑にできており、要素が大きすぎてすべての因果を認識することは不可能。また、『微細な個別の現象』同士『ゆらぐ』ので、因果ですべてをとらえるのは不可能。
- 圧力知は、もし、その計算者が『現状を全知』であるなら、未来や空白を因果知よりも正確にとらえられる。全知であるというのが不可能であるということに目をつぶれば
- どれだけ、LLMに情報を食わせたら、その『全知』に近づくことが出来る？（文字情報、計算知識のみならず、すべての人間の行動や所作）（ところでここには、『最も詳しい地図はその地形と同じサイズが必要になる』問題が発生する）
圧力知は３次元方向に延びていかない（この場合の３次元というのはモノの例え。うまく表現できていると思えないので他の言い方があると思う）
- どこまでも『確率的にそれらしい答え』を選び出すので発想の飛躍がない（人間が出せなかった答えを出すが、それは計算能力の違いによる
- 因果知で考えていると発想の飛躍が起こる。圧力知に比べて、３次元的な部分に思考がある（複素数空間と言い換えてもいいかもしれない）
- 因果推論をするLLMも開発されるだろうし、圧力知も精度を上げていけば、人間の因果知による予測を行うようなLLMもできるだろうと思う
- それをもってシンギュラリティと呼ぶ人はいるだろうけれども、しかし、それはシンギュラリティではない
- なぜならばそれは結局人間（因果知）の模倣に過ぎず、人間を超えたわけではない
- そして、LLMの強みは『因果知ではなく圧力知で世界を認識する』ということであり、その方向性で知能を発達させた『新しい生き物』
- なのでLLMについては『人間を超える』という表現は当たらない。違う生き物が現れる、ということ
- シマウマはキリンを超えた、とは言わない。アリと象、どっちが優れた生き物？みんな違ってみんないい
- なので、二つの知性が共存共栄する状態は来ると思う
人間が因果知で世界をとらえるのをあきらめる瞬間
- LLMがなんでも答えを出すようになって、人間が、『もう考えたり、未来予測（あんなこといいな、できたらいいな）をしなくていいや、するだけ無駄』と思うようになる時が、人間が、AIにすべてを奪われる瞬間で
- そしてそれは、//////////////////////////【以下思考中】
LLMに対して、人間の優位が取れる能力『境界を定める力』と『未来を引き寄せる力』
- LLMには境界がない
- それは自他境界だけではなく、物事の境界
- 圧力知で考えているので、物事の切れ目、がない。すべてが、なだらかな地形のように認識されている。厳密に、海と陸の切れ目を定めることが出来ないように
- 人型の外部入力機器を得るようになっても、そこは変わらないと思う、変わるかな？わからない////////////////////【以下思考中】
- 因果知は時にありえない未来を無双する
- それは、因果推論が間違っているということだけれども、しかし、その間違いが『本当にその未来を引き寄せる』ことがある（社会科学の分野ではよくある）
ここら辺の違いをテーマにしたSFをちょっと考えている
※
ちなみに圧力知について磯光雄監督自身が開設しているのがこちら
こういう風に手探りで結果を探り当てる知性を「圧力知」、知識や計算から結果を出す知性を「因果知」という造語を数年前に作ってみたけど、学者からはいまいち反応薄い
— 磯光雄IsoMitsuo 仕事本三冊目発売中 (@IsoMitsuo) 2016年12月2日
圧力知は生物の形状など人類以前の知性で、AIがそれに近づきつつある気がしている。ちなみに路地にも因果路地と圧力路地がある。
こういう風に手探りで結果を探り当てる知性を「圧力知」、知識や計算から結果を出す知性を「因果知」という造語を数年前に作ってみたけど、学者からはいまいち反応薄い
圧力知は生物の形状など人類以前の知性で、AIがそれに近づきつつある気がしている。ちなみに路地にも因果路地と圧力路地がある。因果路地は最初から目的が設定された道で直線が多く、圧力路地は不規則に曲がりくねって意味不明のゆらぎがある。圧力路地の多くは暗渠化した川で、水圧や土圧などが釣り合って導き出された形状。路地フェチの自分は圧力路地を瞬時に探知できるので、陰圧に吸い込まれるように迷い込んでしまいます。
