Angehefteter Tweet
【AIと生きる時代の〈理解〉考】
第1回：LLMは理解しているのか？rmaruy.hatenablog.com/entry/2026/02/…
...見切り発車で始めた連載の第1回です。改めて「LLMは理解しているのだろうか？」という問いを取り上げ、生成AIブームの前後の議論をもとに考えてみました。
#AIと生きる時代の理解考
日本語
R. Maruyama
13.1K posts
R. Maruyama
@rmaruy
丸山隆一 / "metascience communicator" ＊2026年2月刊行＊『現代社会を生きるための AI×哲学』（谷口忠大・鈴木貴之・丸山隆一） Thinking about conceptual issues around “understanding.”
Beigetreten Ocak 2010
381 Folgt5K Follower
@hardmaru Also in English 🫱
x.com/rmaruy/status/…
R. Maruyama@rmaruy
In English: Zhuge, Schmidhuber et al. propose "Neural Computers": what if the model itself is the computer? I found the paper very exciting and wrote up some non-technical, quasi-philosophical thoughts on it. @rmaruy3/can-code-symbol-systems-emerge-inside-a-single-neural-network-9e6f788a0fb4" target="_blank" rel="nofollow noopener">medium.com/@rmaruy3/can-c…
English
R. Maruyama retweetet
一つのニューラルネットに符号と記号は創発しうるか？
「Neural Computers」論文から考える @rmaruy
rmaruy.hatenablog.com/entry/2026/04/…
日本語
A "Neural Computer" is built by adapting video generation architectures to train a World Model of an actual computer that can directly simulate a computer interface.
Instead of interacting with a real operating system, these models can take in user actions like keystrokes and mouse clicks alongside previous screen pixels to predict and generate the next video frames.
Trained solely on recorded input and output traces, it successfully learned to render readable text and control a cursor, proving that a neural network can run as its own visual computing environment without a traditional operating system.
arxiv.org/abs/2604.06425
Cool work by @MingchenZhuge @SchmidhuberAI et al.!
GIF
Mingchen Zhuge@MingchenZhuge
🫱 Introducing 𝐍𝐞𝐮𝐫𝐚𝐥 𝐂𝐨𝐦𝐩𝐮𝐭𝐞𝐫s: 𝐰𝐡𝐚𝐭 𝐢𝐟 𝐀𝐈 𝐝𝐨𝐞𝐬 𝐧𝐨𝐭 𝐣𝐮𝐬𝐭 𝐮𝐬𝐞 𝐜𝐨𝐦𝐩𝐮𝐭𝐞𝐫𝐬 𝐛𝐞𝐭𝐭𝐞𝐫, 𝐛𝐮𝐭 𝐛𝐞𝐠𝐢𝐧𝐬 𝐭𝐨 𝐛𝐞𝐜𝐨𝐦𝐞 𝐭𝐡𝐞 𝐫𝐮𝐧𝐧𝐢𝐧𝐠 𝐜𝐨𝐦𝐩𝐮𝐭𝐞𝐫 𝐢𝐭𝐬𝐞𝐥𝐟? Beyond today's conventional computers, agents, and world models, Neural Computers (NCs) are new frontiers where computation, memory, and I/O move into a learned runtime state. We ask: whether parts of runtime can move inward into the learning system itself. This is our first step toward the Completely Neural Computer (CNC): a general-purpose neural computer with stable execution, explicit reprogramming, and durable capability reuse. Work done with Mingchen Zhuge (@MingchenZhuge), Changsheng Zhao, Haozhe Liu (@HaoZhe65347 ), Zijian Zhou (@ZijianZhou524 ), Shuming Liu (@shuming96 ), Wenyi Wang (@Wenyi_AI_Wang ), Ernie Chang (@erniecyc ), Gael Le Lan, Junjie Fei, Wenxuan Zhang, Zhipeng Cai (@cai_zhipeng ), Zechun Liu (@zechunliu ), Yunyang Xiong (@YoungXiong1 ), Yining Yang, Yuandong Tian (@tydsh ), Yangyang Shi, Vikas Chandra (@vikasc), Juergen Schmidhuber (@SchmidhuberAI)
English
なぜなら、私の世界モデルの更新に直接関係する時定数は、脳が再編されていく（シナプス）可塑性の時間スケールであり、外の人々やAIたちが投げつけ合っている情報流通のスピードではないからだ。後者に無理に合わせようとすれば、私の世界モデルはぐずぐずに崩れてしまうか、変化を止めるだろう。
日本語
塩漬けになっているアイディアを早く文章にしなければと焦る。しかし、たくさんの読者を得ること、読者の行動へ影響を及ぼすことといった外的な目的のための文章ではなく、「自分の世界モデルの涵養」という目的が内に向いた文章を書きたいならば、「時間がかかる」ことに耐えなければいけない。
日本語
CNC（完全にニューラルな計算機）は、機械に「創造的であってほしい」、「でも絶対間違えないで欲しい」という両望みのようにも聞こえる。
意味をずらしながらopenendに創造性を発揮する記号過程と、安定したcodebookに依拠した計算機の処理の信頼性は、果たして合体できるのか。
日本語
In English:
Zhuge, Schmidhuber et al. propose "Neural Computers": what if the model itself is the computer?
I found the paper very exciting and wrote up some non-technical, quasi-philosophical thoughts on it.
@rmaruy3/can-code-symbol-systems-emerge-inside-a-single-neural-network-9e6f788a0fb4" target="_blank" rel="nofollow noopener">medium.com/@rmaruy3/can-c…
English
一つのニューラルネットに符号と記号は創発しうるか？：Zhuge et al. 2026「Neural Computers」論文から考える - 重ね描き日記（rmaruy_blogあらため） rmaruy.hatenablog.com/entry/2026/04/…
... 数日前に出たNeural Computers論文が自身の #記号創発システム論 に絡む関心に強く響き、感想を書いてみました。
日本語
R. Maruyama retweetet
これはとても面白いです。「固いトークンと柔らかいトークンのミルフィーユ構造」という整理に強く共感します。自分はAIエージェントをスクラッチで組んで運用していますが、LLMには意味生成だけ任せて、判断基準や承認フローはすべてファイルとして外に出しています。分けているから因果が追えます。
R. Maruyama@rmaruy
一つのニューラルネットに符号と記号は創発しうるか？：Zhuge et al. 2026「Neural Computers」論文から考える - 重ね描き日記（rmaruy_blogあらため） rmaruy.hatenablog.com/entry/2026/04/… ... 数日前に出たNeural Computers論文が自身の #記号創発システム論 に絡む関心に強く響き、感想を書いてみました。
日本語
Shmidhuber氏も名を連ねるNeural Computers論文、オールニューラルネットでデジタルコンピュータの挙動を再現するという面白研究だが、Discussionを含め想像力を掻き立てられる。
これは、柔らかいトークンで柔らかいトークンをエミュレートするという逆転の発想。しかし個人的には、現時点ではこれは「役に立たなそう」と思う。やっぱり、硬い符号と、柔らかい記号のサンドイッチ構造こそが、これまで「人間+コンピュータ」が実現してきた、そしていま「ニューラルネット+コンピュータ」が実現してきた知的能力の本質だと思うから。
Neural Computerの課題として論文中に出てくる「Symbolic Stability」という概念は、記号創発システム論に傾倒している身からするとめちゃくちゃ味わい深い。
今井翔太 / Shota Imai@えるエル@ImAI_Eruel
"Neural Computers"なる主張が強い論文が流れてきたので見てみると意外とMeta AIでまともそう...と思ったら最後に我らがシュミットフーバー！ コンピュータの振る舞いをニューラルネットで再現して完全ニューラルコンピュータ（CNC）を目指し、新しいコンピュータパラダイムの確立を狙うという... World Model論文以来のなんともシュミットフーバーらしい野心的なアイディア。そして、論文の図にもシュミットフーバーみが出ている気がする。
日本語
コメントありがとうございます。大事なところだなと思っていて、問いというのは私の考えでは世界の側にある対象というよりは、それを捕まえるために「私」の側に持つもの。対象は対象としてあるだけでは、私はそれに気づかないし理解しようとも思わないが、問いというレセプターが自分のなかに芽生えると、対象についてのモデル=理解をつくる準備ができる、というイメージをもっています。伝わらないかもしれませんが…お返事までに。
日本語
「問い」とは、私の世界モデルが未知なる対象を捕まえるためにその都度拵えるレセプター。このレセプターで対象のモデルをうまくキャッチできたときに生じるのが「理解」であり、そのとき私の世界モデルは少し違う形になっている。
日本語
今晩、一般社団法人デサイロのご企画で佐久間弘明さんとともに神保町のイベントスペースUnknown Unknownにてお話させていただきました。
『「AIナラティブ」の解剖』と題して、私の数年来の関心事である「AIに関するナラティブにどう向き合うか」について改めて問題提起をし、一緒にナラティブを作る実践仲間でもあり、明晰にナラティブを分析する研究者である佐久間さんと議論できる場を持てたことは、印象深い体験となりました。
AIという技術がそれを作る人々のナラティブに力を与え、ナラティブが技術を勢いづかせる。そして、われわれ皆がその影響下にある今、私たちはどのようにナラティブを見極め、自ら作り、発信していくのか。これを考えるうえで、技術と人文知、そしてさまざまな立場でステークホルダーとなっている人たちとの対話の場を開くコミュニケーションの必要性と有効性を感じる機会にもなりました。
奇しくも『現代社会を生きるための AI×哲学』の重版が決まった日に、その紹介ができたことも幸いでした。私がこのテーマを長く考えるきっかけをいただいた共著者のお二人に改めて感謝します。
来場された30人弱の方々の中には多くの専門性、実務経験をお持ちの方がいて、とても勉強になりました。デサイロの岡田さんと皆さんありがとうございました。
添付の画像は丸山の話題提供資料の一部です。
日本語
R. Maruyama retweetet
【㊗️重版決定🌸】
暖かい春の日差しに包まれ、満開だった桜もひらひらと舞い散る頃となりました。皆さん、いかがお過ごしでしょうか。
なんと、なんと、なんと、『現代社会を生きるための AI×哲学』の重版が決定しました✨✨✨✨
ご購入いただいたみなさんには感謝しかありません。
ご愛読ありがとうございます‼️
講談社サイエンティフィク🖋️📔@kspub_kodansha
【🦸発売日迫る📣いよいよ来週】 ＼ 2026年2月10日(火）発売 📝／ 編集部に見本が到着しました‼️ 谷口忠大・鈴木貴之・丸山隆一 『現代社会を生きるための AI×哲学』 文系・理系といった枠を超え、現代社会を生きるすべての人に向けた羅針盤となる一冊です✨どうぞ、よろしくお願いいたします📣
日本語
x.com/i/status/20418…
文科省SPRead、プログラムの設計やファンディングの審査の部分にもメタサイエンス的な実験精神が取り込まれていて素晴らしい。
Y. Kawahara@mahimahi
最大500万円×計1,000件！ 文部科学省AI for Science 萌芽的挑戦研究創出事業（SPReAD 1000）。第1回公募は4/17（金）〜5/18（月）正午。1課題あたり最大500万円。人文、社会科学OK、学生OK。審査方法も挑戦的。
日本語
「AI for Scienceの在り方に関する調査・分析」の部分の機能は、支援事業者の事務局機能にするのではなく、1000人のうちの20人（たった2%! ）をこれをやる「メタサイエンティスト」のなかから採択するような発想でもよいのではないかと思いました。
日本語
文科省の「AI for Scienceプログラム」のうち、500万円程度を年間1000人に助成する「チャレンジ型」は、単にお金を配るだけでなく、「伴走支援」や「広報」「AI for Scienceの在り方に関する調査・分析」もパッケージ化されている。
これを担う「事務支援事業者」がどこになるのか要注目。
日本語
私のメタサイエンスのヒーローMichael NielsenがDwarkesh Podcastに。科学史を縦横に辿りつつ科学の進歩について大胆に語る。数学の哲学の難渋な問題が「計算機科学」を産んだように、まだ見ぬ「分野」がたくさんあるはずだと。
最後に話題になった、Dwarkesh氏のpodcasterとしての姿勢には敬服した。
Dwarkesh Patel@dwarkesh_sp
Really enjoyed chatting with @michael_nielsen about how we recognize scientific progress. It's especially relevant for closing the RL verification loop for scientific discovery. But it's also a surprisingly mysterious and elusive question when you look at the history of human science. We approach this question stories like Einstein (who claimed that he hadn't even heard of the famous Michelson-Morley experiment, which is supposed to have motivated special relativity, until after he had come up with the theory), Darwin (why did it take till 1859 to lay out an idea whose essence every farmer since antiquity must have observed?), Prout (how do you recognize that isotopes exist if you cannot chemically separate them?), and many others. The verification loop on scientific ideas is often extremely long and weirdly hostile. Ancient Athenians dismissed Aristarchus's heliocentrism in the 3rd century BC because it would imply that the stars should shift in the sky as the Earth orbits the sun. The first successful measurement of stellar parallax was in 1838. That's a 2,000-year verification loop. But clearly human science is able to make progress faster than raw experimental falsification/verification would imply, and in cases where experiments are very ambiguous. How? Michael has some very deep and provocative hypotheses about the nature of progress. One I found especially thought-provoking is that aliens will likely have a VERY different science + tech stack than us. Which contradicts the common sense picture of a linear tech tree that I was assuming. And has some interesting implications about how future civilizations might trade and cooperate with each other. So many other interesting ideas. Hope you enjoy this as much as I did. 0:00:00 – How scientific progress outpaces its verification loops 0:17:51 – Newton was the last of the magicians 0:23:26 – Why wasn’t natural selection obvious much earlier? 0:29:52 – Could gradient descent have discovered general relativity? 0:50:54 – Why aliens will have a different tech stack than us 1:15:26 – Are there infinitely many deep scientific principles left to discover? 1:26:25 – What drew Michael to quantum computing so early? 1:35:29 – Does science need a new way to assign credit? 1:43:57 – Prolificness versus depth 1:49:17 – What it takes to actually internalize what you learn Look up Dwarkesh Podcast on YouTube, Apple Podcasts, or Spotify.
日本語
@hayashiyus “Non-epistemic overhead”という言葉を思いついた。知識や理解に資する対話に入るまでに必要となる、社交、儀礼的なトランザクション・コストのこと。研究合宿というのは、寝食をともにすることでNon-epistemic overheadをゼロに近づけていく仕掛けなのだろう。
日本語
個人としての感想は個人ブログの方に記しました。
rmaruy.hatenablog.com/entry/2026/04/…
改めて、この合宿を続けて下さった谷口忠大さん、数か月前からロジスティクスを統括された林祐輔さん @hayashiyus をはじめとするコアスタッフ、Campに参加された皆様に感謝申し上げます。
日本語
昨年に引き続き開催された研究合宿CPC Campに参加し、記録係を担当しました。
@tanichu さんらによるアンカンファレンス形式の学際的な対話の場の設計は、他分野でも参考になるのではと思います。
CPC/記号創発システム論や、学際対話の場づくりに関心のある方に、ぜひご一読いただければ幸いです。
CPC（集合的予測符号化） | 記号創発システム論@sym_eme_outrea
📣CPC Spring Camp 2026のレポート公開📣 3/21～26日、滋賀県高浜市にて59名の研究者による学際的な研究合宿 #CPCCamp2026 が開催されました。 その模様を、詳しめにレポートしました。 sites.google.com/view/cpc-sprin…
日本語