AI
OpenAI автоматизирует защиту агента Atlas от промпт-инъекций
OpenAI активно усиливает защиту своего браузерного агента ChatGPT Atlas от атак типа «промпт-инъекция», внедряя передовые методы автоматизации. Компания использует систему автоматизированного «красного тиминга» (red teaming), которая обучается с помощью подкрепления. Этот подход позволяет моделировать атаки злоумышленников и выявлять потенциальные бреши в защите еще до того, как они могут быть эксплуатированы