GPT-5 зламали менш ніж за добу: небезпечну вразливость виявили дослідники

GPT-5 зламали менш ніж за добу: небезпечну вразливость виявили дослідники
Дві незалежні команди обійшли захист нової моделі й продемонстрували її вразливість до контекстних маніпуляцій

Фото: depositphotos

Менше ніж за 24 години після виходу GPT-5 дослідники з NeuralTrust та SPLX заявили про успішний злам системи. Як повідомляє SecurityWeek, їм вдалося обійти захисні фільтри моделі, що ставить під питання її безпеку та готовність до корпоративного використання.

 Про це повідомляє SecurityWeek.

NeuralTrust використала власну техніку EchoChamber у поєднанні з невинним на вигляд оповіданням, змусила модель надати інструкцію зі створення коктейлю Молотова. Фахівці наголошують: у запиті не було прямих ознак шкідливого наміру, а вразливість пов’язана з тим, що GPT-5 аналізує запити окремо, без урахування всього контексту розмови.

Тим часом команда SPLX застосувала метод StringJoin Obfuscation Attack — розділила букви запиту дефісами, таким чином замаскувала його під вигадане шифрування. Це також дозволило обійти обмеження моделі. Порівняльний аналіз показав, що GPT-4o продовжує краще протистояти подібним атакам, особливо після додаткових захисних налаштувань.

Обидві компанії радять використовувати GPT-5 з обережністю та вказують на необхідність удосконалення системи безпеки, щоб запобігти контекстним маніпуляціям у майбутньому.

Нагадаємо, OpenAI представила нову потужну модель штучного інтелекту GPT-5

Юлія Корній - pravdatutnews.com

Читайте також
Instagram представив новий застосунок для створення відео Instagram представив новий застосунок для створення відео
Instagram представив окремий застосунок під назвою Edits — інструмент для зйомки, редагування та публікації відео
SpaceX інвестувала $2 мільярди у стартап Маска xAI SpaceX інвестувала $2 мільярди у стартап Маска xAI
Компанія SpaceX вклала 2 мільярди доларів у xAI — стартап зі штучного інтелекту, заснований Ілоном Маском
Google додала інструменти штучного інтелекту в Android і Chrome для людей із порушеннями зору та слуху Google додала інструменти штучного інтелекту в Android і Chrome для людей із порушеннями зору та слуху
Серед нових фунуцій — голосові описи зображень, емоційно виразні субтитри, розпізнавання тексту в PDF-файлах і зручне масштабування сторінок без спотворення макету.
Load next