Mehdi (e/λ)@BetterCallMedhi
Enfin un véritable papier qui fait écho à de nombreuses réflexions sur le sujet de la manipulation cognitive que j’avais déjà évoqué ici.
Je pense qu’il a existe 2 gros risques :
Le 1er concerne le désapprentissage de la pensée critique car quand l’IA générative fournit rapidement une réponse cohérente, l’utilisateur a moins d’incitation à interroger, nuancer, ou contredire.
In fine, l’absence de friction cognitive devient un obstacle au développement du doute méthodique et on commence à en apercevoir les effets ici lorsque Grok est utilisé pour tout et n’importe quoi au point où on a l’impression que chacun délégue son propre jugement à Grok.
D’ailleurs à titre perso je trouve cela super dangereux car on est plus simplement dans une forme de dépendance néfaste mais limite dans une forme de tutelle algorithmique avec des dégâts sur le long terme puisque cela va contribuer à l’effacement progressif de la subjectivité et avec l’ouverture d’une standardisation de la pensée, en gros c’est l’être humain qui deviendrait un robot pendant que l’on apprend en parallèle aux robots humanoïdes à se comporter comme des humains. (Oui c’est le monde à l’envers mdr)
Le 2nd risque c’est la mort de la créativité humaine et ça c’est EXTRÊMEMENT dangereux pour la survie de l’humanité.
Sachez déjà que la créativité humaine est liée à la difficulté, à la résistance du langage, au vide initial (la feuille blanche quoi).
Et moi qui passe plusieurs de mes nuits à matérialiser mes pensées à travers l’écriture afin d’entraîner constamment mes capacités créatives je ne connais que trop bien l’importance d’être confronté à cette fameuse feuille blanche.
Cependant, si l’IA générative préremplit la page avec du contenu cohérent, elle court circuite ce même processus de lutte créative qui est essentiel à l’élaboration d’une pensée originale.
On se retrouve avec un tas de gens qui sont confrontés à unr réduction significative de leur flexibilité mentale nécessaire pour itérer ou imaginer autre chose.
Sachez que le contenu généré par IA peut sembler créatif mais il s’agit souvent de recombinations superficielles et même souvent fausses.
Voilà l’essentiel de ce que je peux vous dire même si je pourrais encore développer davantage certains aspects.
