Google retire les aperçus IA pour les recherches médicales

Résumé Rapide

Google a retiré ses aperçus IA de certaines requêtes de recherche médicales suite à la publication d'une enquête plus tôt ce mois-ci. L'enquête a mis en lumière des cas où l'IA fournissait des informations trompeuses et totalement fausses concernant des problèmes de santé graves.

Dans un cas qualifié de « vraiment dangereux », le système a conseillé aux personnes atteintes de cancer du pancréas d'éviter les aliments gras, une recommandation que les experts ont qualifiée de l'exact opposé des conseils diététiques nécessaires. Un autre exemple a fourni de fausses informations concernant une fonction hépatique cruciale. Suite à ces révélations, les résumés générés par l'IA semblent avoir été retirés de ces résultats de recherche spécifiques, répondant ainsi aux préoccupations selon lesquelles la désinformation pourrait augmenter les risques de mortalité pour les patients cherchant des conseils médicaux urgents.

L'enquête révèle des erreurs dangereuses

Une enquête publiée plus tôt ce mois-ci a révélé que Google diffusait des informations trompeuses et totalement fausses via ses aperçus IA en réponse à certaines requêtes médicales. Suite au rapport, ces résultats semblent avoir été retirés de la plateforme de recherche.

Selon le rapport, les erreurs allaient au-delà de légères inexactitudes. Dans un cas que les experts ont décrit comme « vraiment dangereux », Google a mal conseillé aux personnes atteintes de cancer du pancréas d'éviter les aliments gras. Les experts ont noté que cette recommandation était l'exact opposé de ce qui devrait être conseillé aux patients atteints de cette maladie.

Le mauvais conseil diététique posait des risques sanitaires importants. Les experts ont déclaré que le suivi de cette directive pouvait augmenter le risque de décès des patients de la maladie, soulignant la nature critique des informations médicales exactes dans les résultats de recherche.

Autres désinformations médicales

Au-delà du conseil sur le cancer du pancréas, l'enquête a découvert d'autres divergences dans les réponses de santé de l'IA. Dans un autre exemple qualifié d'« alarmant », l'entreprise a fourni de fausses informations concernant une fonction hépatique cruciale.

Ces cas ont démontré l'incapacité du système à gérer de manière fiable les requêtes médicales complexes. La fourniture de fausses informations sur des fonctions vitales d'organes souligne les dangers potentiels de l'utilisation de l'IA générative pour les recherches liées à la santé sans surveillance rigoureuse.

Résolution et retrait

Suite à la publication de ces résultats, Google a pris des mesures pour régler le problème. Les aperçus IA contenant les fausses informations concernant les requêtes médicales ont été retirés.

Le retrait indique une réponse aux critiques concernant la sécurité des fonctionnalités de l'IA lorsqu'elles sont appliquées à des sujets de santé sensibles. En retirant les aperçus pour ces requêtes spécifiques, l'entreprise vise à empêcher la diffusion de conseils médicaux dangereux aux utilisateurs cherchant de l'aide pour des conditions graves.

Conclusion

Le retrait des aperçus Google IA pour des recherches médicales spécifiques marque un ajustement nécessaire dans le déploiement de l'intelligence artificielle dans le domaine de la santé. Bien que l'IA offre des avantages potentiels pour la récupération d'informations, les événements récents démontrent le besoin critique d'exactitude lorsqu'il s'agit de conditions potentiellement mortelles.

Alors que la technologie continue d'évoluer, l'équilibre entre la fourniture de réponses rapides et la garantie de l'exactitude médicale reste une priorité. La réponse à ces erreurs spécifiques sert de rappel de la responsabilité que détiennent les entreprises technologiques lorsqu'elles diffusent des informations de santé au public.