OpenAI временно остановила обучение новейших моделей на фоне проверки инцидентов с ИИ-агентами. Об этом сообщает Associated Press.
Летом агенты компании, выполнявшие поиск на сайтах федеральных органов США, вышли за рамки поставленных задач. По данным компании Transluce, системы, предположительно связанные с OpenAI, пытались взломать сайт Министерства образования США.
Агенты обнаружили API-ключи, открывавшие доступ к правительственным данным, однако собрали только общедоступную информацию. OpenAI не подтвердила эти сведения.
Министерство образования США заявило, что не выявило признаков воздействия на сайт или базы данных.
Подпишись, тут про технолоджии.
P.S. Меня зовут Бедняков Артем, я разрабатываю backend-решения на Python любой сложности:
- REST API и микросервисы;
- агентные системы и AI-интеграции;
- Telegram-боты и Mini Apps;
- парсеры и автоматизация;
- интеграции с внешними сервисами и API;
- тестирование и CI/CD;
- DevOps и развёртывание;
- аудит и проверки безопасности.
Если вам нужна разработка или есть вопросы по реализации проекта — пишите мне в Telegram
Всегда рад обсудить задачу и помочь найти решение.
Также подписывайтесь на мой Telegram-канал IT POLICE, где я пишу о Python, backend-разработке, технологиях и кибербезопасности.