Google retira resumos de saúde com IA após falhas serem expostas

Resumo Rápido

Google removeu resumos de saúde específicos do AI Overviews após uma investigação revelar que o recurso fornecia informações perigosas e enganosas aos usuários. As remoções ocorreram após especialistas sinalizarem resultados de consultas sobre exames de sangue do fígado como potencialmente prejudiciais, observando que a IA fornecia dados brutos sem contexto essencial ou ajustes demográficos.

Um erro crítico relativo a orientações sobre câncer de pâncreas também foi identificado, onde a IA sugeria evitar alimentos gordurosos, contradizendo a orientação médica padrão de manter o peso. Apesar dessas descobertas, Google apenas desativou resumos para consultas específicas de testes hepáticos, deixando outras respostas potencialmente prejudiciais acessíveis. A investigação destacou que a definição de "normal" da IA frequentemente diferia dos padrões médicos reais, potencialmente fazendo pacientes com condições sérias acreditarem erroneamente que estavam saudáveis e ignorarem cuidados de acompanhamento necessários.

Google Remove Resumos de Saúde com IA Após Investigação

Google removeu alguns de seus resumos de saúde do AI Overviews após uma investigação descobrir que pessoas estavam sendo colocadas em risco por informações falsas e enganosas. As remoções vieram após uma investigação de jornal descobrir que o recurso de IA generativa do Google fornecia informações de saúde imprecisas no topo dos resultados de pesquisa.

A investigação revelou que a IA poderia potencialmente levar pacientes gravemente doentes a concluir erroneamente que estão em boa saúde. Google desativou consultas específicas, como "qual é a faixa normal para exames de sangue do fígado", após especialistas sinalizarem os resultados como perigosos.

Apesar dessas descobertas, Google apenas desativou os resumos para as consultas de testes hepáticos. Outras respostas potencialmente prejudiciais permaneceram acessíveis para usuários buscando informações de saúde.

Erros Críticos nas Informações de Teste do Fígado

A investigação revelou que buscar por normas de testes hepáticos gerava tabelas de dados brutos listando enzimas específicas como ALT, AST e fosfatase alcalina. Essas tabelas careciam de contexto essencial que pacientes precisam para interpretar resultados corretamente.

O recurso de IA também falhou em ajustar esses números para demografia do paciente como idade, sexo e etnia. Especialistas alertaram que porque a definição de "normal" do modelo de IA frequentemente diferia dos padrões médicos reais, pacientes com condições hepáticas sérias poderiam erroneamente acreditar que estão saudáveis e ignorar cuidados de acompanhamento necessários.

Orientação sobre Câncer de Pâncreas Contradizia Orientação Médica

O relatório destacou um erro crítico relativo a informações sobre câncer de pâncreas. A IA sugeriu que pacientes evitem alimentos gordurosos, uma recomendação que contradiz a orientação médica padrão.

Essa orientação contraditória poderia comprometer a saúde do paciente, já que manter o peso é frequentemente crucial para pacientes com câncer. A investigação encontrou esse erro específico entre várias instâncias onde a IA forneceu informações de saúde que conflitavam com protocolos médicos estabelecidos.

Preocupações Contínuas sobre Informações de Saúde com IA

A investigação expôs lacunas significativas em como recursos de IA generativa lidam com informações de saúde sensíveis. Embora Google tenha respondido a reclamações específicas sobre consultas de testes hepáticos, a questão mais ampla de orientações de saúde potencialmente perigosas continua sendo uma preocupação.

Especialistas continuam a alertar que sem contexto adequado e ajustes demográficos, resumos de saúde gerados por IA podem levar a interpretações sérias erradas. O incidente levanta questões sobre a confiabilidade de sistemas de IA ao fornecer informações médicas a usuários que podem carecer de expertise para identificar erros.