✔OpenAI запустила режим Lockdown Mode для защиты ChatGPT от кибератак - «Новости мира Интернет»

OpenAI интегрировала в ChatGPT новый режим повышенной безопасности для корпоративных пользователей – Lockdown Mode. Он предназначен для сотрудников, работающих с чувствительными данными – топ-менеджеров, служб безопасности, команд с высоким уровнем киберрисков.

Режим минимизирует угрозу prompt injection-атак. В подобных сценариях злоумышленник пытается внедрить в диалог скрытые инструкции, чтобы модель раскрыла конфиденциальную информацию или выполнила нежелательные действия. Lockdown Mode жестко ограничивает взаимодействие ChatGPT с внешними системами и подключенными приложениями. Например, веб-просмотр в этом режиме использует только кэшированный контент внутри инфраструктуры OpenAI без прямых сетевых запросов. Это снижает вероятность утечки данных через сторонние ресурсы. Часть функций, для которых невозможно гарантировать строгий контроль, полностью отключается.

Администраторы корпоративных рабочих пространств могут настраивать ограничения: выбирать, какие приложения доступны сотрудникам, и какие действия в них разрешены. Дополнительно сохраняется возможность аудита через журналы соответствия и инструменты мониторинга.

Также компания вводит единые метки Elevated Risk для функций с сетевым доступом. Обозначения появятся в ChatGPT, Atlas и Codex, они будут предупреждать пользователей о потенциальных рисках при работе с интернет-подключением или внешними источниками данных.

Lockdown Mode уже доступен для корпоративных тарифов Enterprise и Edu, запуск для частных пользователей запланирован на ближайшие месяцы.