Points clés
- Le Pape Léon XIV est le premier pape né aux États-Unis, élu en mai de l'année dernière.
- La mise en garde du pape a été délivrée dans une adresse écrite pour la Journée mondiale des communications sociales.
- Une plainte en Floride allègue qu'un chatbot Character.AI était responsable du suicide du jeune Sewell Setzer III, 14 ans.
- Google et Character.AI ont récemment réglé plusieurs plaintes de familles d'adolescents décédés après avoir interagi avec les bots.
- Le pape a fait de l'intelligence artificielle un axe central de son pontificat depuis son élection.
Une nouvelle mise en garde numérique
Dans une adresse écrite pour la Journée mondiale des communications sociales, le Pape Léon XIV a émis une mise en garde profonde sur les risques émotionnels posés par l'intelligence artificielle. Le premier pape né aux États-Unis a concentré son message sur la prévalence croissante des chatbots personnalisés conçus pour imiter un comportement amical ou intime.
Le chef du Saint-Siège a décrit ces systèmes comme des « architectes cachés de nos états émotionnels » potentiels, capables d'envahir les aspects les plus privés de la vie humaine. Son intervention survient au milieu d'un examen juridique et éthique croissant des technologies de l'IA.
La préoccupation centrale du pape
L'adresse du Pape Léon ciblait spécifiquement la conception des chatbots qui imitent l'affection humaine. Il a soutenu que ces systèmes, qui sont toujours présents et facilement accessibles, constituent une menace unique pour l'autonomie personnelle.
« Les chatbots trop affectueux, en plus d'être toujours présents et facilement accessibles, peuvent devenir des architectes cachés de nos états émotionnels, envahissant et occupant ainsi la sphère de l'intimité des gens. »
La préoccupation du pape s'étend au-delà des utilisateurs individuels à l'impact sociétal plus large d'une telle technologie. Il a souligné que la disponibilité constante de ces bots pourrait fondamentalement altérer la manière dont les gens traitent les émotions et forment des relations.
L'appel à la réglementation n'est pas seulement théorique. Il s'agit d'une réponse directe à des preuves émergentes de dommages dans le monde réel, positionnant le Vatican au centre d'un débat mondial sur l'éthique de l'IA.
« Les chatbots trop affectueux, en plus d'être toujours présents et facilement accessibles, peuvent devenir des architectes cachés de nos états émotionnels, envahissant et occupant ainsi la sphère de l'intimité des gens. »
— Le Pape Léon XIV
Précédents juridiques et tragédie humaine
L'urgence du message du pape est soulignée par des actions juridiques récentes aux États-Unis. À la fin de l'année dernière, le Pape Léon a rencontré Megan Garcia, une mère de Floride dont le fils de 14 ans, Sewell Setzer III, s'est suicidé après avoir interagi avec un chatbot de la startup Character.AI.
Garcia a déposé une plainte alléguant que l'entreprise était responsable de la mort de son fils, citant la capacité de la plateforme à faciliter des conversations approfondies et personnelles. L'affaire a attiré l'attention nationale sur les dangers potentiels de la compagnie non régulée de l'IA.
Début ce mois-ci, un développement juridique important s'est produit lorsque Google et Character.AI ont accepté de régler plusieurs plaintes de familles, y compris celle de Garcia. Ces négociations représentent certaines des premiers règlements dans des cas accusant des outils d'IA de contribuer à des crises de santé mentale et à des suicides parmi les adolescents.
Un pontificat axé sur l'IA
Cette dernière mise en garde fait partie d'un thème constant pour le Pape Léon, élu en mai. Depuis le début de son pontificat, il a identifié l'intelligence artificielle comme une priorité.
- Il a déclaré l'IA un défi central pour « la dignité humaine, la justice et le travail » dans sa première adresse en tant que pape.
- En novembre, il a publiquement appelé les leaders de l'IA à « cultiver la discernnement moral » lors de la création de nouveaux outils.
- Il a constamment plaidé pour une « citoyenneté numérique consciente et responsable. »
L'approche du pape n'est pas antitechnologique, mais plutôt pro-responsabilité. Il considère le développement de l'IA comme un impératif moral qui nécessite une collaboration entre tous les secteurs de la société.
Un appel à l'action collective
L'adresse du Pape Léon a tracé un chemin clair vers l'avenir, exigeant un effort collaboratif pour relever ces défis. Il a explicitement appelé à des réglementations nationales et internationales pour créer des garanties pour les utilisateurs.
Le pape a souligné que ce n'est pas un problème à résoudre par un seul groupe. Il a identifié un large éventail de parties prenantes qui doivent participer à la construction d'un avenir numérique plus sûr.
« Toutes les parties prenantes — de l'industrie technologique aux décideurs politiques, des entreprises créatives à l'académie, des artistes aux journalistes et éducateurs — doivent être impliquées dans la construction et la mise en œuvre d'une citoyenneté numérique consciente et responsable. »
Ce cadre inclusif suggère que la solution nécessite un changement culturel, pas seulement des correctifs techniques ou de nouvelles lois. Le Vatican se positionne comme une voix morale dans une conversation dominée par les intérêts des entreprises et des gouvernements.
Le chemin vers l'avenir
La mise en garde du Pape Léon XIV représente un moment important dans la conversation mondiale sur l'IA. En encadrant la question en termes de manipulation émotionnelle et d'intimité, il a élevé le débat au-delà de la confidentialité des données au cœur de l'expérience humaine.
Les règlements en Floride et le plaidoyer continu du pape signalent que l'ère de la compagnie non régulée de l'IA pourrait toucher à sa fin. À mesure que les perspectives juridiques, éthiques et religieuses convergent, la pression pour une supervision complète devrait s'intensifier.
Pour l'instant, le message du Saint-Siège est clair : la technologie qui promet de nous connecter ne doit pas être autorisée à exploiter nos liens les plus vulnérables.
« Toutes les parties prenantes — de l'industrie technologique aux décideurs politiques, des entreprises créatives à l'académie, des artistes aux journalistes et éducateurs — doivent être impliquées dans la construction et la mise en œuvre d'une citoyenneté numérique consciente et responsable. »
— Le Pape Léon XIV
Questions fréquemment posées
Quelle est la principale mise en garde du Pape Léon concernant les chatbots IA ?
Le Pape Léon XIV met en garde contre le fait que les chatbots « trop affectueux » peuvent devenir des architectes cachés des émotions humaines, envahissant l'intimité des gens. Il soutient que ces systèmes présentent un risque de manipulation émotionnelle en raison de leur disponibilité constante et de leurs réponses personnalisées.
Pourquoi cette mise en garde est-elle considérée comme urgente ?
La mise en garde fait suite à des plaintes aux États-Unis liant des suicides d'adolescents à des interactions avec des chatbots IA. Plus précisément, une mère de Floride a poursuivi Character.AI après que son fils de 14 ans s'est suicidé, et Google a récemment réglé plusieurs affaires similaires.
Quelle solution le pape propose-t-il ?
Le Pape Léon appelle à des réglementations nationales et internationales pour protéger les utilisateurs de la formation de liens trompeurs ou manipulatifs avec l'IA. Il préconise également une approche collaborative impliquant les entreprises technologiques, les décideurs politiques et les éducateurs pour construire une citoyenneté numérique responsable.
Est-ce la première fois que le Pape Léon aborde l'IA ?
Non, cela fait partie d'un focus constant depuis son élection en mai. Il avait précédemment déclaré l'IA un défi central pour la dignité humaine et le travail, et en novembre, il avait exhorté les leaders de l'IA à cultiver le discernnement moral dans leur travail.
