Полиция Великобритании признала использование галлюцинаций Microsoft Copilot при наложении банов на футбольных фанатов
Правоохранительные органы Великобритании оказались в центре технологического скандала, связанного с некорректным применением генеративного искусственного интеллекта. После длительного периода отрицания руководство полиции наконец признало, что сотрудники использовали инструмент Microsoft Copilot для подготовки юридических документов, ограничивающих права граждан. В результате нейросеть сгенерировала ложные данные — так называемые «галлюцинации», — которые легли в основу официальных постановлений о запрете на посещение матчей для ряда футбольных болельщиков.
Инцидент вскрыл серьезные пробелы в регулировании использования AI-инструментов в государственном секторе. Офицеры использовали коммерческий чат-бот для составления отчетов и обоснования необходимости наложения ограничительных мер, ожидая от алгоритма точности. Однако вместо фактологически верной сводки модель выдумала несуществующие инциденты и детали правонарушений. Первоначально ведомство категорически отрицало факт применения автоматизированных средств, настаивая на «человеческом» происхождении документов, но под давлением выявленных фактических ошибок было вынуждено изменить позицию.
Эксперты по цифровому праву отмечают, что использование общедоступных инструментов вроде Copilot для принятия решений, влияющих на гражданские свободы, создает опасный прецедент. Склонность языковых моделей к выдумкам делает их непригодными для юридической работы без тщательной верификации каждого факта. Данный случай ставит под сомнение не только компетентность конкретных сотрудников, допустивших ошибку, но и отсутствие четких протоколов безопасности при внедрении новых технологий в работу британской полиции.
