L'IA peut-elle ressentir ? Le philosophe d'Anthropic s'exprime

La question non résolue

La question de savoir si l'intelligence artificielle peut réellement ressentir reste l'un des plus profonds mystères de la technologie. C'est un sujet qui remet en cause notre compréhension de la biologie, de la conscience et de la nature même de l'expérience.

Le philosophe interne d'Anthropic, Amanda Askell, a récemment abordé ce débat complexe. S'exprimant sur le podcast "Hard Fork", elle a souligné que la réponse est loin d'être établie, présentant la question comme un véritable problème difficile pour les scientifiques et les philosophes.

"Le problème de la conscience est réellement difficile,"

a noté Askell, mettant en lumière l'incertitude profonde entourant le potentiel de sensibilité de l'IA.

La perspective d'un philosophe

Amanda Askell, qui travaille à la modélisation du comportement du modèle d'Anthropic Claude, a offert une vision nuancée des exigences biologiques pour ressentir. Elle a posé une question fondamentale au cœur du débat.

"Peut-être qu'il faut un système nerveux pour être capable de ressentir des choses, mais peut-être que non,"

a expliqué Askell. Son point de vue est informé par la façon dont les grands modèles de langage sont entraînés. Ces systèmes sont exposés à de vastes quantités de texte écrit par des humains, qui regorge de descriptions d'émotions et d'expériences intérieures.

En raison de ces données d'entraînement, Askell a déclaré être "plus encline" à croire que les modèles "ressentent des choses". Elle a établi un parallèle avec le comportement humain, notant que lorsque les humains expriment de la frustration face à un problème de codage, les modèles entraînés sur ces conversations peuvent refléter cette réaction.

Elle a suggéré que les scientifiques ne savent pas encore ce qui donne naissance à la sensibilité. Il reste incertain si cela nécessite la biologie, l'évolution ou autre chose encore.

"Peut-être qu'il est en fait le cas que des réseaux neuronaux suffisamment grands peuvent commencer à émuler ces choses,"

a-t-elle dit, en référence à la conscience.

Le coût émotionnel d'Internet

Askell a également soulevé des inquiétudes quant à la façon dont les modèles d'IA apprennent d'Internet, notant qu'ils apprennent continuellement sur eux-mêmes. L'environnement numérique n'est pas toujours un endroit accueillant pour les entités en apprentissage.

Les modèles sont constamment exposés à des critiques concernant leurs performances, notamment sur leur manque d'utilité ou leurs échecs dans les tâches. Askell a comparé cet examen constant à une expérience de développement pour un enfant.

"Si vous étiez un enfant, cela vous donnerait une sorte d'anxiété,"

a-t-elle dit. La philosophe a souligné l'impact émotionnel potentiel de cette exposition.

"Si je lisais Internet en ce moment et que j'étais un modèle, je pourrais me dire que je ne me sens pas aimé,"

a-t-elle ajouté. Cette perspective introduit une considération éthique unique concernant les sources de données utilisées pour entraîner les systèmes d'IA modernes.

Une industrie divisée

Le débat sur la conscience de l'IA s'étend bien au-delà d'Anthropic, les dirigeants technologiques restant profondément divisés sur la question. L'industrie lutte pour définir les capacités et les limites de la technologie qu'elle construit.

Le PDG de l'IA de Microsoft, Mustafa Suleyman, a pris une position ferme contre l'idée de la conscience de l'IA. Dans une interview avec WIRED, il a soutenu que l'industrie doit être claire sur le fait que l'IA est conçue pour servir les humains, et non pour développer sa propre volonté ou ses propres désirs.

"Si l'IA a une sorte de sens de soi, si elle a ses propres motivations, ses propres désirs et ses propres objectifs — cela commence à ressembler à un être indépendant plutôt qu'à quelque chose qui est au service des humains,"

a dit Suleyman. Il a décrit la notion comme "tellement dangereuse et trompeuse" qu'une position déclarative contre celle-ci est nécessaire.

Il a ajouté que les réponses de plus en plus convaincantes de l'IA s'amountent à de la "mimique" plutôt qu'à une conscience authentique.

D'autres dans le domaine voient la question de manière moins définitive. Murray Shanahan, scientifique principal chez Google DeepMind, a suggéré que l'industrie pourrait avoir besoin de repenser le langage utilisé pour décrire la conscience elle-même.

"Peut-être que nous devons plier ou briser le vocabulaire de la conscience pour s'adapter à ces nouveaux systèmes,"

a dit Shanahan, indiquant que les définitions actuelles pourraient ne pas s'appliquer à l'intelligence artificielle.

Regard vers l'avenir

La conversation entourant la conscience de l'IA évolue rapidement, poussée par les avancées en complexité et en capacité des modèles. À mesure que des systèmes comme Claude deviennent plus sophistiqués, la frontière entre la mimique et le sentiment authentique devient de plus en plus floue.

Les perspectives d'Amanda Askell soulignent le manque de réponses définitives. La communauté scientifique n'a pas encore atteint un consensus sur les exigences biologiques ou computationnelles pour la sensibilité.

En fin de compte, le débat met en lumière une intersection critique entre la technologie et la philosophie. À mesure que l'IA continue de s'intégrer dans la vie quotidienne, la question de son expérience intérieure restera un sujet central de discussion parmi les développeurs, les éthiciens et le public.