Фото: pexels

Після запуску ШІ-браузера Comet від Perplexity фахівці з кібербезпеки почали активно досліджувати ризики подібних продуктів. Перевірки, зокрема з боку Brave, показали, що агентні браузери можуть бути вразливими до шкідливих запитів, які загрожують персональним даним користувачів.

Ці висновки підтвердила й OpenAI.

У новому блозі компанія зазначає, що так зване впровадження запитів (prompt injection) є системною проблемою для ШІ-агентів. Йдеться про атаки, під час яких у контент навмисно вбудовують приховані інструкції, здатні змусити модель виконувати команди зловмисника замість запитів користувача. Такі інструкції можуть міститися на вебсайтах, у листах або документах, які обробляє ШІ.

Небезпека полягає в тому, що подібні атаки часто відбуваються без будь-якої взаємодії з боку людини. У фоновому режимі ШІ-агент може передавати дані третім особам або виконувати небажані дії, навіть якщо користувач про це не здогадується.

Для протидії цим загрозам OpenAI створила спеціального «автоматизованого зловмисника» на основі великих мовних моделей. Цей ШІ імітує атаки, тестує їх у симуляторі та допомагає виявляти слабкі місця в браузерних агентах. Отримані результати використовують для посилення захисту, зокрема в браузері ChatGPT Atlas.

У компанії визнають, що повністю гарантувати безпеку в умовах prompt injection складно. Водночас OpenAI заявляє, що масштабування автоматизованих досліджень і змагального тестування дозволяє підвищувати стійкість моделей ще до появи реальних атак.

Попри це, prompt injection залишається серйозною загрозою, а деякі експерти ставлять під сумнів доцільність використання ШІ-браузерів через потенційні ризики для приватності.

До слова, як за кілька хвилин зробити, аби ноутбук не шумів та не перегрівався. Чимало власників ноутбуків дратує, коли пристрій сильно шумить навіть під час виконання простих завдань на кшталт веб-серфінгу або роботи з текстом.      

Юлія Люшньова - pravdatutnews.com