Браузер для GPT: OpenAI пытается обезопасить кликающих AI-агентов
OpenAI внедряет изолированную среду и прокси для защиты от утечек данных и промпт-инъекций, когда AI-агенты, такие как ChatGPT, открывают внешние ссылки. Анализ нового подхода к безопасности.
Пока все обсуждают размеры контекстных окон, OpenAI тихо занялась фундаментальной проблемой, которая может похоронить идею автономных AI-агентов — безопасностью. Компания рассказала о встроенных механизмах защиты, которые срабатывают, когда модель в ChatGPT или через API решает перейти по внешней ссылке. Это не столько новая фича, сколько попытка построить фундамент доверия, без которого корпоративные клиенты никогда не позволят ИИ-помощникам свободно «гулять» по сети с доступом к их данным.
Технически, решение состоит из нескольких уровней защиты. Во-первых, весь браузинг происходит не на устройстве пользователя, а в изолированной «песочнице» (sandbox) на серверах OpenAI. Это исключает прямую атаку на компьютер пользователя. Во-вторых, для предотвращения утечки данных через URL (когда конфиденциальная информация вставляется прямо в адресную строку) используется система фильтрации и прокси-серверы, скрывающие IP-адрес пользователя. Наконец, для борьбы с промпт-инъекциями, когда вредоносный сайт пытается «перепрограммировать» агента скрытыми командами, контент страницы предварительно очищается от потенциально опасных скриптов и HTML-элементов.
Этот шаг — прямой ответ на растущую паранойю в индустрии. Пока Google интегрирует своих агентов в экосистему Chrome и Android, а Anthropic строит весь маркетинг вокруг безопасности, OpenAI необходимо доказать, что ее универсальные модели могут быть не только умными, но и надежными. Гонка за создание первого по-настоящему полезного автономного агента — это не спринт по бенчмаркам, а марафон по выстраиванию отказоустойчивых систем. И сейчас мы видим, как компания закладывает первые, самые скучные, но и самые важные кирпичи в это здание.
