R. Maruyama

【AIと生きる時代の〈理解〉考】 第1回：LLMは理解しているのか？rmaruy.hatenablog.com/entry/2026/02/… ...見切り発車で始めた連載の第1回です。改めて「LLMは理解しているのだろうか？」という問いを取り上げ、生成AIブームの前後の議論をもとに考えてみました。 #AIと生きる時代の理解考

今日 @hiroaki_skm さんと話していて得た気づきです。

中国語圏では、実在する人間をskillファイル化することを「蒸留」と呼び始めているらしい。 ある人の本質を、蒸留しえた部分に縮減してみるようになるとするならば、これは『麦とTwitter』で久木田水生さんが指摘する「AIはメッセージ」のAIエージェント時代版といえそうだ。

@hardmaru Also in English 🫱 x.com/rmaruy/status/…

一つのニューラルネットに符号と記号は創発しうるか？ 「Neural Computers」論文から考える @rmaruy rmaruy.hatenablog.com/entry/2026/04/…

A "Neural Computer" is built by adapting video generation architectures to train a World Model of an actual computer that can directly simulate a computer interface. Instead of interacting with a real operating system, these models can take in user actions like keystrokes and mouse clicks alongside previous screen pixels to predict and generate the next video frames. Trained solely on recorded input and output traces, it successfully learned to render readable text and control a cursor, proving that a neural network can run as its own visual computing environment without a traditional operating system. arxiv.org/abs/2604.06425 Cool work by @MingchenZhuge @SchmidhuberAI et al.!

なぜなら、私の世界モデルの更新に直接関係する時定数は、脳が再編されていく（シナプス）可塑性の時間スケールであり、外の人々やAIたちが投げつけ合っている情報流通のスピードではないからだ。後者に無理に合わせようとすれば、私の世界モデルはぐずぐずに崩れてしまうか、変化を止めるだろう。

塩漬けになっているアイディアを早く文章にしなければと焦る。しかし、たくさんの読者を得ること、読者の行動へ影響を及ぼすことといった外的な目的のための文章ではなく、「自分の世界モデルの涵養」という目的が内に向いた文章を書きたいならば、「時間がかかる」ことに耐えなければいけない。

CNC（完全にニューラルな計算機）は、機械に「創造的であってほしい」、「でも絶対間違えないで欲しい」という両望みのようにも聞こえる。 意味をずらしながらopenendに創造性を発揮する記号過程と、安定したcodebookに依拠した計算機の処理の信頼性は、果たして合体できるのか。

In English: Zhuge, Schmidhuber et al. propose "Neural Computers": what if the model itself is the computer? I found the paper very exciting and wrote up some non-technical, quasi-philosophical thoughts on it. @rmaruy3/can-code-symbol-systems-emerge-inside-a-single-neural-network-9e6f788a0fb4" target="_blank" rel="nofollow noopener">medium.com/@rmaruy3/can-c…

一つのニューラルネットに符号と記号は創発しうるか？：Zhuge et al. 2026「Neural Computers」論文から考える - 重ね描き日記（rmaruy_blogあらため） rmaruy.hatenablog.com/entry/2026/04/… ... 数日前に出たNeural Computers論文が自身の #記号創発システム論 に絡む関心に強く響き、感想を書いてみました。

これはとても面白いです。「固いトークンと柔らかいトークンのミルフィーユ構造」という整理に強く共感します。自分はAIエージェントをスクラッチで組んで運用していますが、LLMには意味生成だけ任せて、判断基準や承認フローはすべてファイルとして外に出しています。分けているから因果が追えます。

訂正：柔らかいトークンで柔らかいトークンを →　柔らかいトークンで硬いトークンを

Shmidhuber氏も名を連ねるNeural Computers論文、オールニューラルネットでデジタルコンピュータの挙動を再現するという面白研究だが、Discussionを含め想像力を掻き立てられる。 これは、柔らかいトークンで柔らかいトークンをエミュレートするという逆転の発想。しかし個人的には、現時点ではこれは「役に立たなそう」と思う。やっぱり、硬い符号と、柔らかい記号のサンドイッチ構造こそが、これまで「人間+コンピュータ」が実現してきた、そしていま「ニューラルネット+コンピュータ」が実現してきた知的能力の本質だと思うから。 Neural Computerの課題として論文中に出てくる「Symbolic Stability」という概念は、記号創発システム論に傾倒している身からするとめちゃくちゃ味わい深い。

コメントありがとうございます。大事なところだなと思っていて、問いというのは私の考えでは世界の側にある対象というよりは、それを捕まえるために「私」の側に持つもの。対象は対象としてあるだけでは、私はそれに気づかないし理解しようとも思わないが、問いというレセプターが自分のなかに芽生えると、対象についてのモデル=理解をつくる準備ができる、というイメージをもっています。伝わらないかもしれませんが…お返事までに。

@rmaruy 引き続き考えましたら わたしは、未知なる対象「問い」そのものは独立していて。 丸山先生は、未知なる対象そのものは実在せずに、レセプターでキャッチしたときに、未知なる対象「問い」が現れるのは「理解」されたときなのでしょうか。 未知なる対象「問い」と連続して存在しているという。

「問い」とは、私の世界モデルが未知なる対象を捕まえるためにその都度拵えるレセプター。このレセプターで対象のモデルをうまくキャッチできたときに生じるのが「理解」であり、そのとき私の世界モデルは少し違う形になっている。

今晩、一般社団法人デサイロのご企画で佐久間弘明さんとともに神保町のイベントスペースUnknown Unknownにてお話させていただきました。 『「AIナラティブ」の解剖』と題して、私の数年来の関心事である「AIに関するナラティブにどう向き合うか」について改めて問題提起をし、一緒にナラティブを作る実践仲間でもあり、明晰にナラティブを分析する研究者である佐久間さんと議論できる場を持てたことは、印象深い体験となりました。 AIという技術がそれを作る人々のナラティブに力を与え、ナラティブが技術を勢いづかせる。そして、われわれ皆がその影響下にある今、私たちはどのようにナラティブを見極め、自ら作り、発信していくのか。これを考えるうえで、技術と人文知、そしてさまざまな立場でステークホルダーとなっている人たちとの対話の場を開くコミュニケーションの必要性と有効性を感じる機会にもなりました。 奇しくも『現代社会を生きるための AI×哲学』の重版が決まった日に、その紹介ができたことも幸いでした。私がこのテーマを長く考えるきっかけをいただいた共著者のお二人に改めて感謝します。 来場された30人弱の方々の中には多くの専門性、実務経験をお持ちの方がいて、とても勉強になりました。デサイロの岡田さんと皆さんありがとうございました。 添付の画像は丸山の話題提供資料の一部です。

【㊗️重版決定🌸】 暖かい春の日差しに包まれ、満開だった桜もひらひらと舞い散る頃となりました。皆さん、いかがお過ごしでしょうか。 なんと、なんと、なんと、『現代社会を生きるための　AI×哲学』の重版が決定しました✨✨✨✨ ご購入いただいたみなさんには感謝しかありません。 ご愛読ありがとうございます‼️

x.com/i/status/20418… 文科省SPRead、プログラムの設計やファンディングの審査の部分にもメタサイエンス的な実験精神が取り込まれていて素晴らしい。

「AI for Scienceの在り方に関する調査・分析」の部分の機能は、支援事業者の事務局機能にするのではなく、1000人のうちの20人（たった2%! ）をこれをやる「メタサイエンティスト」のなかから採択するような発想でもよいのではないかと思いました。

文科省の「AI for Scienceプログラム」のうち、500万円程度を年間1000人に助成する「チャレンジ型」は、単にお金を配るだけでなく、「伴走支援」や「広報」「AI for Scienceの在り方に関する調査・分析」もパッケージ化されている。 これを担う「事務支援事業者」がどこになるのか要注目。