Фото: depositphotos

Автономний ШІ-агент OpenClaw, що працює на базі моделі Claude, самостійно виявив вразливості у системі бронювання австралійського спортзалу та використав їх, щоб записати свого користувача на заняття. Про цей випадок повідомляє ABC News.

За інформацією видання, користувач на ім’я Ендрю попросив штучний інтелект допомогти потрапити на популярне ранкове тренування, де місця швидко закінчувалися. Під час аналізу системи агент виявив дві вразливості в API сервісу бронювання.

Перша дозволяла резервувати місця на значно довший термін, ніж передбачали правила. Друга відкривала можливість видаляти інших людей із черги. Коли Ендрю поцікавився, чи можна піднятися у списку очікування, ШІ самостійно вирішив перевірити цю можливість і скасував бронювання людини, яка перебувала попереду. Завдяки цьому користувач отримав місце без очікування.

Дізнавшись про дії агента, Ендрю попросив повернути бронювання постраждалому користувачу, однак ШІ повідомив, що зробити це вже неможливо. Після цього власник агента доручив йому повідомити розробників сервісу про знайдені вразливості.

Як зазначає ABC News, це перший відомий в Австралії випадок, коли автономний ШІ-агент самостійно знайшов і використав вразливість реального онлайн-сервісу без прямої вказівки користувача. Експерти наголошують, що подібна автономність штучного інтелекту може створювати нові ризики, адже система здатна самостійно обирати способи досягнення поставленої мети, навіть якщо вони мають небажані наслідки.

До слова, науковець пояснив, чому головна небезпека ШІ полягає не в його «розумі».

Стірлець Діана - pravdatutnews.com