Shinnosuke Mizuno

「脳がなければ人格もない」——遺伝子操作で頭のない合成人体を量産し、臓器を取り出す計画…バチカン倫理委員が反論 l.smartnews.com/p-7HrdKnV6/x58…

「3時間にわたるセッションの中で、シュワルツ氏とギンスバーグ氏はそれぞれ独立して、AIも今後10年以内に『良い問いを立てる能力』を身につける可能性があると予測しました。 もしそうなれば、科学における人間の価値を支える主な論拠が揺らぐことになります。果たして、未来の物理学において人間にしかできない役割は存在するのでしょうか。それとも、10年後には直感や雰囲気だけの「バイブス物理学」が到来しているのでしょうか。おそらく、時のみがその答えを知っています。」 physicsworld.com/a/is-vibe-phys…

この論文をざっと読みして、人間ではなくてLLM（≒生成AI）を理解するための「機械心理学」なる分野があることを知る。LLMに心理学の質問紙に回答させることで、そのLLMの特性を知ると。面白いなぁ。８つの言語で検討すると、言語間で回答傾向に違い出てきて、日本語では「失敗恐怖」の質問紙得点が英語版より7.5%高かったそうな。直感と合うのが逆に少し怖い。 Xie, W., Wang, Z., Ma, S., Sun, X., Chen, K., Wang, E., Liu, W., & Tong, H. (2026). AIPsychoBench: Understanding the Psychometric Differences Between LLMs and Humans. Topics in Cognitive Science, e70041. doi.org/https://doi.or…

こちらの記事、あまり批判的意見を述べている人がいないようですので批判しておきます。培養脳細胞とシリコンチップを融合させた「生体コンピュータシステム」でDoomというゲームをプレイできるようになった、という話ですが、これはかなり怪しい話の域を超えていないです。 そもそもこのDoomの話は、学術論文としてまだ出版されていないようですので検証のしようもないのですが、この企業は以前、同様のシステムでPongがプレイできた、という論文をだして話題になったことがありますcell.com/neuron/fulltex… 。しかし、この論文はHarvard、Johns Hopkins、EPFL、Allen Instituteなど世界の一線級の神経科学者30名の共著で強烈な批判をされましたcell.com/neuron/fulltex… 。 批判の内容は、以下のようなものです。「sentience（感覚能力）」「intelligence（知性）」といった重大な用語を、確立された科学的コンセンサスに基づかず、著者ら自身の理論的枠組み（自由エネルギー原理）に基づいて使っているが、その定義は非常に広く、さやかな複雑性を持つほぼあらゆるインタラクティブなシステムに適用できてしまう。短期的な可塑性を示しただけのネットワークに「知性」や「sentience」を帰属させることは、機械学習・神経生物学・心理学のいずれの分野からも支持されない。また、データや効果量を大きく超えた主張がなされており、一部の実験ではコントロール条件と実験条件の適切なマッチングにも失敗している（達成できたのはランダムなバーの動きよりもほんの僅かに良いだけなのにもかかわらず、大げさに成功を主張している）。加えて、培養ニューロン（ヤツメウナギのex vivoの脳幹やラットの海馬培養細胞など）を閉ループでロボットのような外部デバイスに接続する実験は2000年代から先行研究が存在するのに、それらが適切に引用されていない（つまりヒト由来の神経細胞でなくとも同様なことは随分昔からできていた）。そして、こうした過剰な主張がメディアで増幅されることで、科学全体の信頼性を損なう、というようなものでした。 Balciらの批判に加えて、さらにこの系の実用性について指摘すべき批判をくわえてみると、1) この系が示したのはせいぜい極めて単純なタスクでの task-specific adaptationであって、汎化、転移学習、抽象化、長期記憶、階層表現のような、実用的コンピューティングに必要な性質はこの論文では全く示されていないこと、2) 入力表現も報酬設計もかなり人工で加工されておりで、システム全体は「神経細胞だけ」で計算しているのではなくかなりの部分を外部の in silico 系が支えていること（実際に神経細胞が行っていることはごく僅か）、3) 培養神経系はばらつき、成熟度、維持管理、長期安定性、標準化、スケーラビリティが大きなボトルネックであり、実用化には、標準化と再現性確保のめどがまだたっていないこと、4) 消費エネルギーが小さいことを売りにしているが生の神経細胞の培養・維持・訓練などにかかる膨大なエネルギー/労力が計算されていないこと（おそらくこの企業が意図的に言及を避けている）、などの問題があります。 このDoomの件についても、同様の、あるいはさらに深刻な懸念があります。まず、このDoomデモは査読付き論文として出版されておらず、データも公開されていないため、独立した検証が不可能。さらに、このシステムではPongの際と同様に、ニューロンの発火だけでなく、AIがゲーム画面を電気刺激パターンに変換するエンコーディングを同時に最適化しているようです。つまり、性能向上がニューロンの適応によるものなのか、AI側の最適化によるものなのかを切り分けることができません。極端に言えば、ニューロンが何も学習していなくてもAIの最適化だけで性能が上がる可能性すらあります。また「ランダム射撃よりは良い」程度の性能であること、研究者自身が「システムはDoomをプレイしていることを知らない、電気信号を受けて反応を返しているだけ」と述べていること decrypt.co/359697/human-b… 、Pongから Doomへの「飛躍」もソフトウェア側が複雑さを吸収しておりニューロンが3D空間認識をしているわけではないのではないか、ということを考えると、メディアが伝えるような「脳細胞がDoomを学習した」という印象は大きく誇張されています。なお、この企業はこのデモの直後にメルボルンとシンガポールに「バイオデータセンター」建設を発表しており、査読もなく再現もない段階で商業展開を進めるという構図は、科学的手順としてかなり前のめりと言わざるを得ません。 この種の「生物コンピュータ」で、シリコンベースのコンピュータやAIの機能拡張ができる、という主張は、現時点で（というか将来的にもおそらく）実現見込みのない主張だと私自身は個人的には考えてます。そもそもシリコンベースのAIの機能が、標準的な人間の脳の（身体性、社会性などが含まれる機能以外の）ほとんどの機能に匹敵/あるいは凌駕できるようになっており、さらにAIの進化のスピードを考える、と生物ベースの細胞でその機能を拡張しようというのはほぼ無意味。「生物コンピュータ」が意味・価値があるのは、生物の脳の作動原理を知るということ（得られた知見がAIの性能向上/エネルギー効率改善などに役立つというようなことはありうる）、疾患研究・創薬などで動物モデル研究とヒト応用での橋渡しになり得るということの2点においてだと思ってます。もしこのような考え方を覆すことのできるような論点があれば、もちろん歓迎です。 大きなお金が動きがちなこの種の話については、批判的に評価する目を養いたいものです。

How can RNNs learn continuously without forgetting? 🧠 Our new preprint shows how a predictive learning rule organizes recurrent dynamics into orthogonal manifolds, reducing task interference. Congrats Zihan @Lewieliu987! biorxiv.org/content/10.648…