Google удалила часть медицинских справок AI Overviews из-за опасных ошибок

Компания Google была вынуждена удалить часть автоматически генерируемых ответов на медицинские запросы после того, как независимое расследование выявило в них критические неточности. Функция AI Overviews, призванная предоставлять быстрые сводки информации в поиске, выдавала пользователям ложные данные о результатах печеночных проб, что профильные медицинские эксперты уже охарактеризовали как тревожный и потенциально опасный для пациентов прецедент.

Проблема заключалась в некорректной интерпретации медицинских показателей. Вместо того чтобы цитировать проверенные клинические рекомендации или направлять пользователя к специалисту, алгоритмы искусственного интеллекта генерировали утверждения, противоречащие медицинской действительности. Подобные ошибки в категории запросов, напрямую влияющих на жизнь и здоровье людей, вызывают особую озабоченность, так как могут привести к неверной самодиагностике или игнорированию серьезных симптомов.

Представители техногиганта оперативно отреагировали на отчет, исключив скомпрометированные сценарии из поисковой выдачи. Этот инцидент в очередной раз подчеркивает сложность внедрения генеративного ИИ в чувствительных сферах: несмотря на технологический прогресс, «галлюцинации» больших языковых моделей остаются серьезным барьером для их полноценного использования в медицине без строгого надзора со стороны человека.