Google удалила сводки о здоровье на базе ИИ после обнаружения ошибок

Краткая сводка

Google удалила конкретные сводки о здоровье на базе ИИ после того, как расследование выявило, что функция предоставляла пользователям опасную и вводящую в заблуждение информацию. Удаление произошло после того, как эксперты пометили результаты запросов, связанных с печеночными пробами, как потенциально опасные, указав, что ИИ предоставлял «сырые» данные без необходимого контекста или учета демографических особенностей.

Также была выявлена критическая ошибка в рекомендациях, касающихся рака поджелудочной железы: ИИ предлагала избегать жирной пищи, что противоречит стандартным медицинским советам поддерживать вес. Несмотря на эти выводы, Google деактивировала только сводки по конкретным запросам о печеночных пробах, оставив другие потенциально вредные ответы доступными. Расследование подчеркнуло, что определение «нормы» ИИ часто отличалось от реальных медицинских стандартов, что потенциально могло привести к тому, что пациенты с серьезными заболеваниями ошибочно считали себя здоровыми и пропускали необходимое наблюдение.

Google удаляет сводки о здоровье на базе ИИ после расследования

Google удалила некоторые свои сводки о здоровье на базе ИИ после того, как расследование выявило, что люди подвергались риску из-за ложной и вводящей в заблуждение информации. Удаление произошло после того, как журналистское расследование обнаружило, что функция генеративного ИИ Google предоставляла неточную информацию о здоровье в верхней части результатов поиска.

Расследование показало, что ИИ потенциально может привести к тому, что серьезно больные пациенты ошибочно придут к выводу, что находятся в хорошем состоянии здоровья. Google отключила конкретные запросы, такие как «какова норма печеночных проб», после того, как эксперты пометили результаты как опасные.

Несмотря на эти выводы, Google деактивировала только сводки по запросам о печеночных пробах. Другие потенциально вредные ответы оставались доступными для пользователей, ищущих информацию о здоровье.

Критические ошибки в информации о печеночных пробах

Расследование выявило, что поиск норм печеночных проб генерировал таблицы с «сырыми» данными, перечисляющие конкретные ферменты, такие как АЛТ, АСТ и щелочная фосфатаза. Этим таблицам не хватало важного контекста, необходимого пациентам для правильной интерпретации результатов.

Функция ИИ также не учитывала эти показатели с учетом демографических данных пациента, таких как возраст, пол и этническая принадлежность. Эксперты предупредили, что поскольку определение «нормы» моделью ИИ часто отличалось от реальных медицинских стандартов, пациенты с серьезными заболеваниями печени могли ошибочно считать себя здоровыми и пропускать необходимое наблюдение.

Рекомендации при раке поджелудочной железы противоречили медицинским указаниям

В отчете была выделена критическая ошибка, касающаяся информации о раке поджелудочной железы. ИИ предлагал пациентам избегать жирной пищи — рекомендация, которая противоречит стандартным медицинским советам.

Это противоречивое совет может поставить под угрозу здоровье пациентов, так как поддержание веса часто имеет решающее значение для онкологических больных. Расследование обнаружило эту конкретную ошибку среди нескольких случаев, когда ИИ предоставлял информацию о здоровье, которая противоречила установленным медицинским протоколам.

Непрекращающиеся опасения по поводу информации о здоровье от ИИ

Расследование выявило существенные пробелы в том, как функции генеративного ИИ обрабатывают конфиденциальную информацию о здоровье. Хотя Google отреагировала на конкретные жалобы на запросы, связанные с печеночными пробами, более широкая проблема потенциально опасных советов о здоровье остается поводом для беспокойства.

Эксперты продолжают предупреждать, что без надлежащего контекста и учета демографических особенностей сводки о здоровье, сгенерированные ИИ, могут привести к серьезным ошибкам в толковании. Этот инцидент вызывает вопросы о надежности систем ИИ при предоставлении медицинской информации пользователям, которые могут не иметь достаточной квалификации для выявления ошибок.