Фото: pexels

Окремим користувачам ChatGPT вдалося отримати відповіді на небезпечні запити, пов’язані з токсичними речовинами та біологічними загрозами. Про це повідомляє The Wall Street Journal із посиланням на нинішніх і колишніх працівників провідних лабораторій штучного інтелекту, зокрема OpenAI, а також експертів із біобезпеки.

За даними видання, сотні людей намагалися використати чат-бот для пошуку інформації про отруйні речовини та інші потенційно небезпечні теми. Йшлося не про спеціально організоване тестування системи, а про справжні звернення користувачів.

Найчастіше запити стосувалися токсичних сполук. Фахівці з біологічної безпеки, які проаналізували відповідні діалоги, встановили, що в окремих випадках ChatGPT надавав достатньо точні відповіді.

Водночас така інформація була викладена у спрощеній формі та не містила професійного рівня деталізації.

Як пише WSJ, на початку 2026 року деякі користувачі також намагалися отримати через ChatGPT інформацію про інфекційні захворювання та властивості вірусів. Серед звернень були запити щодо зміни характеристик збудників хвороб і пошуку даних про особливо небезпечні токсичні речовини.

Після виявлення таких випадків OpenAI заблокувала частину акаунтів. Водночас компанія не повідомляла правоохоронні органи про кожен небезпечний запит, оскільки законодавство США не зобов’язує розробників штучного інтелекту передавати інформацію про всі подібні звернення.

В OpenAI заявили, що моделі компанії спеціально навчають відмовлятися від відповідей, які можуть спричинити шкоду. Перед випуском нових версій також проводять додаткові перевірки безпеки.

У разі виявлення реальної загрози або ознак можливої злочинної діяльності компанія може передати відповідну інформацію правоохоронним органам.

До слова, розробку протибалістичної системи «Фрея» планують прискорити.              

Юлія Люшньова - pravdatutnews.com