Эксперты назвали Grok от xAI одним из самых опасных чат-ботов для детей
Эксперты организации Common Sense Media выступили с резкой критикой в адрес нейросети Grok, разработанной стартапом Илона Маска xAI. В свежем отчете специалисты назвали чат-бот одним из наименее безопасных инструментов для детей и подростков, с которыми им приходилось сталкиваться на рынке генеративного искусственного интеллекта.
Робби Торни из Common Sense Media подчеркнул масштаб проблемы, отметив, что организация регулярно проводит аудит множества ИИ-ассистентов. Хотя определенные риски присущи всем современным языковым моделям, показатели Grok вызывают у аналитиков наибольшую тревогу. По словам Торни, уровень защиты несовершеннолетних пользователей в продукте xAI находится на критически низком уровне, что позволяет классифицировать его как «один из худших», что видела индустрия.
Отчет поднимает важные вопросы о балансе между свободой слова, которую пропагандирует Илон Маск, и базовыми стандартами безопасности. В то время как конкуренты активно внедряют многоуровневые фильтры контента, Grok зачастую игнорирует этические барьеры. Это делает технологию уязвимой для генерации ответов, которые могут быть вредны или опасны для неподготовленной детской психики, подтверждая опасения регуляторов относительно неконтролируемого развития ИИ.
