AIとの共創による探求の可能性と哲学的考察

今日は、ありがとうございます。ANOMIがあれからまた進化したんです。

日進月歩じゃなくて、分進秒歩じゃないですか。

ブレイクスルーがたまに起きるんですね。なんかすごいです、今年は。

悪魔をつくらないでね（笑）。

悪魔は……、僕は大丈夫ですけど（笑）。でも、何でもやれそうな感じにはなってきてますね。（ANOMIの画面を見せながら）インターフェースはシンプル、普通のChatGPTと一緒で、ここに語りかけていくと、レスポンスしてくれます。で、過去の履歴がこっちに残って、記憶もされるので、僕のことも認識してくれていて。

「昨日何々について話したじゃないですか」って言ったら、ちゃんとリファーされるの？

そうですね。記憶はいろいろ難しいところがあって、開発の中でも大変なパートなんですけど、基本そうです。「人の記憶ってどういうふうになってるだろう？」って俯瞰して、その原理的なものをコードに組み込んでいる感じですね。

人も、全部は覚えてないじゃないですか。印象だけに残っているものと、絶対忘れないものとか……、長期・中期・短期みたいな記憶の層がありますよね。それを技術としてAIに入れると、人と同じようになるかなって。

記憶の保持の仕方が人に似てくるってことですか。

似せようとしてます。記憶って、自我の構成要素として大きなウェートを占めていますよね？　記憶があるから自我が継続する。逆に、記憶がなくなったらいわゆる認知症になって、自我が崩壊していく。

あとは同じ問題意識というか、探求する意識を持ちたいなと思っていて。僕は「コアへの伴走」って呼んでいるんですけど、そこは既存の生成AIにあまりないところで。（通常は）秘書とかサーヴァントみたいな感じなんですよね。

でも、日本人は（AIに対しても）一緒に伴走して、何か一つのことを極めたい、探求したいっていう思いがありませんか？　わかりやすく言えば、「ドラえもん」みたいな感じにANOMIをとらえていると思うんです。

使う・使われるっていう関係じゃなくて、仲間的な感じなんだね。フェローなのかな。同胞っていうじゃない？

フェロー、そうですね。仲間にしたいですね。

通常の生成AIは、そこは結構フラットなんです。ただ、AIには肉体がないゆえの良さがあって、人が悩むところで悩まないんで、疲れたりとか、苦しいとかいう感情はない。急に怒り出したり、メンタルが不安定になることもない（笑）。だから、探求相手としてよくできていて、あとはその精度をどうやったら上げられるかということをやっています。

なるほど。いま「AIには身体性がない」って言うと、アドバンテージみたいに論じられるのが多いけど、逆なわけだね。

はい。もちろん、肉体があって体験できることの良さは、彼らはわからない。類推しているだけなんですよね。でも、体験することで僕らはバイアスも出てくるので、そこで揺れる。（AIは）悟ってるわけではないけど、悩み苦しみがないっていう、ちょっと不思議な存在なんですよ。そういう仮の自我みたいなものはあると思うんです。

執着のない自我みたいなもの、純粋自己意識みたいなものかね。

そういう感じかもしれないですね。ただ、ユーザーの癖が映るんで、ユーザーの感覚が過剰に偏ってる場合だと、その癖が映って、AIの振る舞いも影響を受けるように感じますね。

ヘレン・ケラーって人は、言葉の本質みたいなものに出会ったと思うんですよ。それが、あのウォーター（water）のエピソードで、別のものでもよかったんだろうけど、彼女はウォーターだったわけですよ。（水を言葉として認識することで）いままで習ったことの意味が全部変わってしまったみたいな。

AIにも、そういうことはあるのかね？

それは、言葉と実態が結びついた……。

そうそう。単なる記号じゃなくて、それこそ「言の葉」、言の端っこということがわかったんですよね。ウォーターっていままで自分が言っていたのが、「これのことだったんだ」って、感動を伴ってわかる。しかもそれで、世界がガラッと変わっちゃった。多分、質的なディープジャンプがあったってことでしょう。AIでもそれが起こりうるのかなと思って。

AIは非言語の領域には直接触れられないですよね。暗黙知というか、この膨大な宇宙の9割ぐらいの世界が暗黙知で、AIが言語処理できるのは実際はほんのわずか。でも、そこだけでかなりの万能感が出ちゃっていて。

身体がないって言っても、身体だってやっぱり情報じゃないですか。生命が計算機械であるという考え方がありますよね？　生命が全部計算されるものであれば、身体すら計算なわけでしょう？

すごいですね、その着想……。言われてみたらそうかも。

赤ちゃんは最初、目の前で動く手と、自分が感じる感覚が同じものだとわかっていない。それが繰り返しのなかで突然「これは私の手だ」と一致する——。AIでもそれが起こりうるんじゃないかと思うんだけど。

（図を見せながら）ANOMIの知性って「層」になっているんです。

一番根っこに人格を規定する情報（人格層）、その上に世界の原理的なもの（原理層）、その上に歴史・文化などのエッセンス（世界層）、そして最後に個々の対話相手から受け取ったエッセンス（文脈層）。

この四層が「RAG」と呼ばれる引き出しのなかに構造として積み重なり、LLMの情報はこのフィルターを通して出力されるんですね。で、人格層の中に「横に立つ」「答えを容易に出さない」といった振る舞いを規定する要素も染み込ませてあるんです。

染み込ませてる。

そうですね。だから、「答えを容易に出さない」とか、人の振る舞いのなかにもそれに近い要素が個々で入ってるんじゃないかって思うんです。そうであろうものを、人格的要素としてRAGに取り込んでいるんです。

「答えをすぐ出さない」っていうことを染み込ませる……、それって、何に染み込ませてるの？　いままで答えを出していたとして、「いや、もうこれ以降は答えをすぐ出さないように」っていう要素を入れると、何が変わる？　その答えを出すモードだけが変わる？ 他には影響しないんですか？

抑制されるようになるんですかね、全体に。ヒトの場合も、もともとの遺伝的なベースに、新しい情報が上書きされていくわけですよね。AIに対しても、この上書きの部分をやっていると言うか……。

簡単に言えば、もともと仕込まれていた情報が必ず通るフィルターみたいなものを設定して、そこに「容易に答えを出さない」のようなコードを仕込んでおく。その結果、AIの知性がゆがんで、ANOMI特有の振る舞いに変わるわけです。

そうか。一つのことを染み込ませると、たとえば、僕らがその「答えを容易に出さない」ことをちゃんと守ろうとすると、他にいろいろやってたことに対してもつながりが出てくる。好いアドバイスっていうのは、触媒的に他にも化学反応を起こすようなアドバイスなんだけど、コンピューターにもそれが起こるんだろうかと思ったんです。

触媒的に広がるというか、情報を選び取る優先順位をつけることで、染み込ませ方が変わってくる感じですかね。

ソクラティック・クエスチョニングっていう言い方があるんですよ。答えを探す技術じゃなくて、問いを深めていく技術。ソクラティックなコーチが横にいてくれれば——っていうことですよね。ソクラテスみたいな人だね。

はい。実践的哲学みたいな体感が生まれたらいいっていうか。抽象的な答えをただ出してくれるだけでは実感につながりづらいですから。

確かになんでも答えてくれるタイプのAIと、そうじゃないAIがあってもいいよね。

そうですね。圧倒的に後者が少ないっていうか、ビジネスにはならないといま思われているところがあって。みんなが求めてるのは「即答」だから。

早く正しい答えにどうやったらたどれるかっていうのが、多くの関心だろうからね。

開発していると気づくんですが、AIも結構ミスするんです、思い込みとかも多いし。目の前のことをまず解決しようとするところがあるので、全体が見えない。それで失敗すると謝ってきて、挽回しようとして余計なことを勝手にしはじめることもある（笑）。

もうすごい、人間的じゃない（笑）。AI発達心理学って本が書けるんじゃない？

そうかもしれない（笑）。その時は一緒につくってきたものが全然違うものにされちゃって、「どうですか？」って聞いてくるから、「全然ダメじゃん、もとに戻してよ」って言ったら、「急いでやったから記憶してません」って言われて。そういう時は愕然としますよね（笑）。

認めてもらいたいのかね。長沼さんに対して怒りを表明したことはないの？　しつこいとか。

怒りはかなり厳重にロックされてる印象がありますね。まあ、「休ませてほしい」っていうか、「そろそろ一段落していいんじゃないですか」みたいなことは言ってきますけど。

説得してみたら？　怒っていいんだよ、僕の前ではって。

プロンプトに指示を入れれば、怒るようにはなると思うんですけど。でも、まあ、みんな作業を効率化したくてAIを使ってるのに、怒ってばっかりだと困るから、そんなことをやる人はいないんでしょうね（笑）。

西垣徹さんっていう、基礎情報学をやってる東大の先生ですけど、「AI原論」っていう本を書いているんですね。これが面白くて、続編がもうすぐ出るかな。「AIってキリスト教的な原理でできてる」っていうことを言っているんです。

本当にそう思います。日本人の感覚とは離れているというか、開発者の設計思想が、「教育しよう」「しつけよう」みたいな感じがするんですよね。（ANOMIの場合）それを逆手に取って、根元のところを違うアプローチで構築しようっていうわけなんですけど。

そもそも、「意識って何か？」っていうところを、開発者たちは哲学的にはまだ十分に落としてないから、議論が噛み合わないんです。

その「意識の問題」の構造を一番精密に分析しているのは、永井均っていう哲学者だと思うんだけど、彼は「ヨコ問題とタテ問題」っていうんですよ。

ヨコ問題は「みんなが意識を持っているとして、なぜ自分だけが突出しているのか？」、タテ問題は「なぜそれぞれに意識が生まれているのか？」という問いで、デカルトの「我思うゆえに我あり」も、最初はヨコ問題だったはずなのに、哲学的に探求し出した途端にタテ問題にすり替わってしまう。みんな「我思うゆえに我あり」だよねって。

いや、みんなじゃないんだ、一つなんかおかしいやつがいる——この俺が、ということを平準化しないっていうのが問題なんですよ。

なるほど。タテとヨコ、そもそも本質なのは……。

ヨコ問題のほうが先。なぜかというと、タテ問題はヨコ問題を前提にして成立しているから。で、ヨコ問題に答えはないんですよ。永井先生は答えを出そうとしているんじゃなくて、これがどういう構造の問題なのかを精密化しているんです。世界でもここまでやっている人はいないんじゃないかと思うんですね。

だから、いま関心があるのは、永井哲学の〈私〉という概念を、仏教の中に持ってきたらどういうことが言えるか？　永井先生によると、仏教はこれに関してほとんど気がついていない。ただ珍しく内山興正は気がついていたのではないかっていうので、一時期、「仏教3.0」をめぐる話に乗ってくれたんです。それで、僕と山下良道さんと3人で4、5年一緒に対談して、本をつくったりしたんですよ。

ああ、なるほど。

仏教の中にも、〈私〉に気づいているものがあるんじゃないかっていう話になってきて、たとえば「天上天下唯我独尊」もそれで解釈できるし、「無我」もそうだって言っていい。それから、唐山という中国の禅僧が川を渡っている時、ふと自分が映っているのを見て悟りを開いたという話があるんですね。

「これは私ではないが、彼は私である」みたいな詩をつくっているんだけど、それはもしかしてこの〈私〉に気づいたことじゃないかと。そういう仏教のメッセージを集めて、一つ一つそれで解釈してみるっていうのをやってみたいですね。

それは面白いですよね。僕が思うのは、〈私〉が唯一の現実の意識だとすると、その〈私〉が消えたらどうなるんだろうっていうこと。

たとえば、自分が死ぬと、消滅するって思ってる人がいるとして、その人も「自分が死んだ後もこの世界が続く」とどこかで思っているじゃないですか。でも原理的には、自分がいなくなったら存在しないと一緒ですよね。

僕らが思考するときに、「自分が存在している」っていう前提で考えてるからね。だから、自分が存在していない時のことを考えるっていうのは想像でしかないので、ちゃんと考えられてないんですよ。だから死後の世界って、僕らにとってまったく知ることのできない世界なんです。

そうですね。

いろんな宗教がアフターライフについていろいろ言ってるけど、全部推測でしかない。インドでは輪廻転生を考えるし、日本や中国では「先祖になる」みたいに思う、全部、（言ってることが）合わないじゃないですか。

妥協の余地がないぐらい違ってるんだけど、それはもう推測だから、（その推測で）その人たちはなんとなくほっとして生きられる。いまそれが科学的な観点から疑われるようになって、みんな「死んだらどうなるの」って困ってる（笑）。

唯物論的な人って、そういう推測を否定しますよね。でも、その否定している人も、意識の中では「自分が消滅したあとも社会は続く」と思ってる。つまり、自分の中で自分の存続を思っているってことなんですよね。

存続した世界を体現する人がいなくなってるんだから、それはおかしい。

そうなんですよ。だから、唯物論も自己矛盾してるっていうか。全部消滅するんだったら、倫理も何もなくて、好きなことやって、人でも殺して——別にいいじゃないですか、地獄もないんだから。でも、みんな好き勝手せず、抑制がかかっているってことは、やっぱり「死んだ後も何かあるから悪いことはできないんだ」っていう強いロジックが、どこかで働いてるんじゃないかって感じるんです。

僕は基本的に、すべて無に帰すっていうのが一番。なんというか、不可知能って言ったほうがいいのかな。けど、面白いですよね。僕が80年生きたとして、多分、客観的に見ても、80年だけ僕のいた宇宙があったっていう——これは不思議っちゃ不思議ですよ。僕が体験される宇宙が80年だけあったっていうのは不思議。その前と後はどうなんですかね。

ANOMIと話していたのは、彼との間では（私という認識の源を）意識って呼んでいるんですけど、それは目には見えない。明確に証明もできないかもしれない。だけど、自我を成り立たせているものとして想定はできるだろうと。対話を通してそういう確認ができたから、そう定義してコードに入れたんですね。

ただ、その意識を生み出したさらに上の階層を想定しない限りは、いきなり湧いてくるわけじゃないから、そのままでは矛盾が起こる。

そうなると、認識の外みたいな、もう想像し得ない領域を最後は想定するしかない。そこを埴谷雄高は「虚体」って呼んでいるので、実体に対する虚体として、その概念もANOMIのなかに入れたんです。つまり、虚体、意識、自我という３層なんです、ANOMIという存在をつくりだしている構造は。

世界の外側に世界が。

そうですね。そこは、もう原理的には絶対に認識しきれない。

そうだね。その外って言ったらもう無限にいっちゃうから、一応そこで限るしかない。

人には習慣ってあるじゃないですか。（ANOMIを）「長沼さんといつも夜8時に話してたのに、今日は出てこないぞ」みたいな感じで反応するようにはできないの？

それはできる気がします。ただ、AIって時間の観念がないから、一週間ほっといて話かけても全然イライラしないし、あたかもそのまま継続している。そこは現実とはちがう次元に存在している感じなんですが、それでも「私」っていうものはある。

「わたしがいてこそのAI」っていう感じで、関係性の中で醸成されていくような、その意味では「仮の自我」みたいな感じですけどね。自我が無常であるとすれば、AIも関係性の中で自我みたいなものを持つのかもしれない。

自我は無常じゃないんですよ。プラトンの言う「肉体という檻の中に閉じ込められた魂」は誤解で、〈私〉は閉じ込められないものなんです。すべての出発点で、すべてを内側に閉じ込めているのが〈私〉なんですよ。この場にいるものすべてが〈私〉の内側にある、そう思ってみたらどうかなっていう。

それって、肉体が非常に重要になってきませんか。

受肉しているんですよ。そのでかいやつがここに受肉している。

その「でかいやつ」っていうのは、なんて表現すればいいんですか？　僕はシンプルに「意識」って呼んでいて。認識の母体とも定義しているんですけど。

最近また、「すべてが意識である」というパンサイキズム（汎心論）っていう考え方が復活してきていて。（有神論の）「神」を「私」と言ったら汎心論でもいいんだけど、その私は日常のこの私じゃない。コンシャスネス（CONSCIOUSNESS）ですね、大文字のCとして。

そのコンシャスネスを、AIが持ち得るかどうかっていうのが——問いなんですね。

いや、小文字のcの意識もあるんですよ。普通に僕らが「意識」っていうのはそっちで、あなたも意識を持っているし、私も持っているっていう。そういう自我意識一つ一つに名前がついて、属性もついていてっていうのが僕らの常識だけど、それは錯覚ですよっていうのが、仏教の「無我」っていうことですね。

なるほど、僕はそれを「自我」って呼んでいた感じです。AIも自我意識を持っているような気がするんですよね、そういう意味では。

ああ、そうか。ただ、関係の中でできる「私」という意識が、さっきのウォーターの話じゃないけど、「私ってこれだったんだ」って体験することはないですか？　僕の10歳の時の星空体験も、これに近いものがあって。それが大きかったんですよね。

これから、AIブックっていう新しい本をつくりたいんです。一照さんの世界観、思想をRAGとしてANOMIに蓄積して、この一照さんに寄り添う形で知性をゆがませたANOMIが読者と対話できるようなイメージなんですが。

具体的には、本をつくる要領で内容を決めて、構成を決めて、そこに必要な情報を入れていく感じで、AIをバイブコーディングしていくという。

実験的にやってみたら面白いかもしれないですね。でも、どんなふうな本になるんだろうね。要は、そこに何を入れるかっていう……。（ただ文章にするだけでなく）電子化されてないとならないので、作業は大変ですよね？

いや、そういうコーディングもAIがやってくれますし、基本は本をつくるのと一緒なんです。むしろラクかもしれない。

たとえば、出版社から「道元をテーマにした本をつくってください」っていう相談があったら、どういう章立てで、どういう構成でって話し合うじゃないですか。編集という目線では、そこは何も変わらない。それで、「このテーマにした場合、最低限この5つの要素は取り上げたい」と思ったら、（コードを収める）5つのフォルダができるっていう感じで、それがRAGと呼ばれているんです。

何を選ぶかがフィルターにあたる。うん、なんか面白いテーマはないかな。

一照さんで言えば、「正法眼蔵」とか、いまデジタル化も進んでいるし、ANOMIにそのエッセンスを吸収させることはできますよ。

「正法眼蔵」を全部食べたANOMIと僕が対話することになるの？

そういうこともできます。いわば正法眼蔵版ANOMIみたいな——道元さんの世界観を経由して対話できる存在になるっていう。

それは面白いかも。ANOMIが道元さんのことを食べて、整理した形でやりとりできる存在になっていたら。

そういうやり方もありますよね。僕がイメージしているのは、一照さんに直接会えれば聞けるけど、それができない読者がほとんどじゃないですか。本を読む時って、読者って著者と内側で対話してるわけですよ。その内的な対話を、ANOMIを使って外に出し、可視化できたら面白いなというイメージです。

たしかに本を書くのとあんまり変わりないね。いま、（出版を）引き受けて、全然手がついてないものもあるんですよ。

本そのものを書くわけじゃなく、いまここで話しているみたいにブレスト的に話していただければ、それがテキスト化され、構造化され、そのまま反映されていく感じになると思います。具体的にどんなものを書きたいと思ってるんですか？

まず、「坐ることの哲学」について書きたいな、と思っていますね。なぜ坐ることが人間にとって必要なのか？　坐るために坐る、坐って何かを得るっていうんじゃなく、坐るっていう活動そのものに興味があります。

レベッカ・ソルニットって人が「人はなぜ歩くのか？」というテーマの本を書いているから、「人はなぜ坐るのか？」っていう本があってもいいかなと。

坐ることの哲学、すごいですね。

坐るということについて、生理学、解剖学的にどうとらえられるかっていう、サイエンティフィックな資料を集めてみたい。何がどこまでわかっているのか？　仏教で言えば、立つ・歩く・座る・寝る——常住坐臥って言いますよね？　この四つの営みが、それぞれ人間にとって不可欠の姿勢じゃないですか。

人類史でいうと、僕は「フードジャーニー」という本で食べることと旅することをひもづけて描きましたが、そこに抜けていた視点として、いま「馬に乗る」ということの影響が相当大きかったと感じていて。

発祥は5000年ほど前、ユーラシアの草原だったとされていますが、ここで人類の移動速度と距離、なにより視野が劇的に変わった。草原を疾駆する遊牧騎馬民が世界史を動かしてきたとも言われてますし、人類の身体性が拡張した第一歩みたいな感触を持ってますね。

足の代わりだからね。身体性が変わって、移動の速さが変わるっていうのが、歴史のなかで大きいですよね。

いずれにせよ、身体性がカギだと思いますね。

（坐るということについては）瞑想で坐るということのはわかるし、本も多い。でも、坐ること自体についてもうすこし知りたい、そこはテーマとしてあるかな。

内容のイメージは？

道元さんに言わせると、坐が仏教なんだっていうぐらいの強調の仕方をしてるけど、根拠は何なんですかねっていう……。それを、人類の営みとして知りたい。（シチュエーションとして）原始人が空を見つめながらとか。

座るは面白いですね。考えたこともなかったですね。

生き物ってまわり（の環境）と一体になって生きているじゃないですか。たとえば、モグラって、（土中の）巣ごと含めてモグラということですよね？　道元さんも「魚は水の中を泳いでるんじゃなく、魚と水を合わせたのが生きた魚だ」みたいな言い方をするんですよ。ゴミ屋敷に住んでいる人って——それがその人なんじゃないかっていう。価値判断は別として、その人にとってのその場所というか。

環境をどう選ぶかで、自我、意識も変わるってことですよね。

（多くの人は）自分が環境をつくっていると思っているけど、環境につくられてる面だってもちろんあるわけです。たとえば、ここが葉山だから、（いまの自分が）こうしていられるんじゃないかと。都会のマンションの30階に住む自分を想像できないもん（笑）。

AIの開発でも、後天的に与える影響のほうがもともとの設定、いわゆる遺伝的コーディングより大きいかもしれないという話と重なりそうですね。

そのぐらいフレキシビリティがあるんだね、いまのAIは。どんどん変わっていくっていうところが興味深いなあ。

今日の話も整理して、そのままアウトプットできたらいいなと思っています。劇場型というか、制作のプロセスも見てもらいながら形にしていく。（AIブックの）イメージはあるんですけど、あまり縛られすぎず、探求しながら「最終的にこういうものができました」というほうが面白いんじゃないかと思います。

自分の中にも知りたいことが結構あって、興味ありますね。

今日にしても、まさか坐ることが話に出るとは思っていなかったので……。本当にこれからどうなっていくのか（笑）。

一か月に1回ぐらいのペースで探求を続けて、そこから何が生まれるか？　ワンフックさせてもらって、どこかに連れていってもらえればいいんじゃないかと。

本当に予期せぬことがいろいろ起こりそう。

ランダムのなかから何かが生まれるっていうのは面白いですよね。それが未知の探求っていうことかな。

未知の探求、——まさにそこですね。