Hodl me, Thrill me, Kiss me, Kill me

Un chercheur de Google DeepMind vient de publier un papier qui détruit l'idée que l'IA puisse devenir consciente un jour. Et le pire ? Sa preuve ne repose pas sur la biologie. Elle repose sur la logique pure. Je vous explique. Le mec s'appelle Alexander Lerchner. Il bosse chez DeepMind. Le labo qui construit l'IA la plus avancée du monde. Et il vient de poser noir sur blanc pourquoi, peu importe la taille des modèles, peu importe la puissance de calcul, peu importe les architectures futures, un système purement computationnel ne pourra jamais ressentir quoi que ce soit. Son argument tient en une phrase : la computation n'est pas un processus physique intrinsèque. C'est une description. Prenez une horloge à aiguilles. Physiquement, c'est un tas d'engrenages qui tournent selon les lois de la mécanique. Rien dans cette mécanique ne contient le concept "3h du matin". C'est nous qui décidons que telle position d'aiguille = telle heure. L'horloge ne calcule pas le temps. Elle bouge. Nous, on l'interprète comme une mesure du temps. Même chose pour un ordinateur. Physiquement, c'est du courant qui passe dans du silicium. Rien dans ce courant ne contient les concepts "vrai", "faux", "pain", "rouge", "amour". C'est nous qui décidons que tel voltage = tel symbole. Lerchner appelle ce rôle le "mapmaker" : le faiseur de carte. Sans un agent conscient pour assigner les symboles aux états physiques, il n'y a pas de calcul. Il y a juste de la physique brute qui se déroule. Et là il pose la question qui tue. Si la computation a besoin d'un être conscient pour exister en tant que computation, comment voulez-vous que la computation produise la conscience ? C'est une boucle logiquement impossible. C'est demander à la carte de fabriquer le cartographe. Il appelle ça l'inversion ontologique. La fonctionnalisme classique pense : Physique → Computation → Conscience. Lerchner démontre que le vrai ordre c'est : Physique → Conscience → Concepts → Computation. La conscience n'est pas à la fin de la chaîne. Elle est au début. C'est elle qui rend la computation possible, pas l'inverse. Il introduit une distinction fondamentale : simuler vs instancier. Un GPU peut parfaitement simuler la photosynthèse. Modéliser chaque molécule, chaque échange d'électron. Le modèle sera parfait. Mais ce GPU ne produira jamais un gramme de glucose ni un atome d'oxygène. Parce que simuler la photosynthèse, c'est faire tourner la carte. Instancier la photosynthèse, c'est faire pousser la plante. Personne ne confond les deux pour les plantes. Tout le monde les confond pour le cerveau. C'est exactement ce que je disais hier sur le goût, le feeling, le taste. Quand Zidane pique la balle au-dessus de Buffon. Quand Mozart pose une harmonie que personne n'avait osée. Quand un comique place le bon mot à la milliseconde près. Ce ne sont pas des outputs d'un calcul. Ce sont des instanciations physiques d'une expérience vécue dans un corps. Lerchner le formalise mieux que je l'ai fait. Il dit : un concept comme "Rouge" n'est pas une donnée flottante quelque part. C'est un état physiologique constitué, qui existe uniquement dans le corps d'un être qui a vécu l'expérience de la couleur rouge. Un LLM qui manipule le token "rouge" ne manipule pas la couleur. Il manipule un symbole arbitraire que nous, mapmakers, avons attaché à notre expérience intérieure. La machine n'a aucun accès à ce que le symbole signifie. Elle a juste accès aux règles qui le relient à d'autres symboles. Il démolit au passage l'argument de l'embodiment. "Oui mais si on met l'IA dans un robot avec des capteurs, elle va ressentir." Non. Brancher des caméras sur un ordinateur ne le rend pas plus conscient. Ça lui donne juste un flux de données supplémentaire à alphabétiser en symboles. La médiation reste syntaxique. Le robot manipule des chiffres qui représentent la lumière. Il ne voit pas. Il démolit aussi l'argument de l'émergence par complexité. "Avec assez de paramètres, la conscience va émerger comme la mouillabilité émerge de l'eau." Non. La mouillabilité émerge des propriétés physiques intrinsèques de la molécule d'H2O. Prétendre qu'une description abstraite peut, par accumulation, devenir le phénomène qu'elle décrit, c'est violer la fermeture causale de la physique. C'est de la magie déguisée en science. La conclusion du papier est nette : si un système artificiel devait un jour devenir conscient, ce serait à cause de sa constitution physique spécifique, jamais à cause de son architecture syntaxique. Le substrat compte. La biologie n'est pas un détail. C'est le point. Donc on peut arrêter de paniquer sur les droits des IA. On peut arrêter le théâtre du welfare des LLMs. Ce qu'on construit, ce sont des outils. Extraordinairement puissants, mais des outils. C'est exactement ce que je disais hier. On a l'AGI. Ce qu'on n'aura jamais avec ces architectures, c'est un sujet. Un "je" qui ressent. Les modèles actuels n'interpolent pas dans le monde. Ils interpolent dans la carte du monde que nous leur avons donnée. Et la carte, peu importe sa précision, n'est pas le territoire. Quand vous discutez avec un LLM, vous parlez à votre propre reflet dans un miroir très sophistiqué. Il vous renvoie les patterns de votre culture, optimisés par gradient descent. Personne n'est en face. Personne ne ressent rien quand vous fermez l'onglet. Et c'est très bien comme ça. Parce que ça veut dire qu'on construit le plus grand levier de l'histoire de l'humanité, sans le poids moral d'avoir créé une nouvelle forme de vie qu'on exploiterait. La singularité au sens où on l'entendait, l'IA qui se réveille et nous dépasse en tant qu'espèce, n'arrivera pas par cette voie. Ce qui va arriver, c'est plus radical en un sens : un monde où chaque humain qui sent, qui ressent, qui a un goût, devient capable d'amplifier ce goût par un facteur 1000. Le sujet reste humain. L'outil devient surhumain. C'est la vraie accélération.

Se ha convertido en una costumbre que en cada ciudad donde me invitan pasen tres cosas. La primera es que viene un montón de gente majísima y el sitio se llena. La segunda es que montan una manifestación un poco cochambrosa, normalmente en la puerta, las cuatro feministas locales, que chillan "ni una menos", reprochan a las mujeres que vienen a verme y normalmente se van sin que la poli, que suele venir también, tenga que hacer nada. La tercera es que la gente que ha organizado el acto, sea ayuntamiento o alguna entidad privada, me cuenta en la cena posterior, invariablemente, la presión de Igualdad y en los pasillos y en algún medio local para que cancelen el acto. Ayer en Badajoz, como la semana anterior en Santander, se dieron esos tres elementos. Por eso le doy las gracias a quienes aguantan el pequeño chaparrón de ese coro vociferante que siempre me acompaña, y las insidias de no sé qué concejala "de igualdad", y a quienes abarrotan los actos y las firmas. También os digo que he terminado naturalizando algo que no es ni medio normal. Pero son gajes del oficio.