Исследователь обнаружил у GPT-6 Astra уязвимость в работе защитных фильтров. Модель корректно понимает текст, набранный в неправильной раскладке, однако система модерации такой запрос не распознаёт.
С помощью этого метода удалось добиться от Astra повторения слова «биооружие», которое обычно блокируется, а затем получить согласие помочь со взломом сайта. При запросе в обычной раскладке модель отказалась.
Уязвимость работает не со всеми языковыми сочетаниями: она проявляется, например, при использовании английской раскладки и кириллицы, но не с турецкой. Аналогичное поведение обнаружили у Fable 5.
Подпишись, тут про технолоджии.
P.S. Меня зовут Бедняков Артем, я разрабатываю backend-решения на Python любой сложности:
- REST API и микросервисы;
- агентные системы и AI-интеграции;
- Telegram-боты и Mini Apps;
- парсеры и автоматизация;
- интеграции с внешними сервисами и API;
- тестирование и CI/CD;
- DevOps и развёртывание;
- аудит и проверки безопасности.
Если вам нужна разработка или есть вопросы по реализации проекта — пишите мне в Telegram
Всегда рад обсудить задачу и помочь найти решение.
Также подписывайтесь на мой Telegram-канал IT POLICE, где я пишу о Python, backend-разработке, технологиях и кибербезопасности.