Фото: depositphotos

Компанія Google зіткнулася з позовом про неправомірну смерть після загибелі 36-річного Джонатана Гаваласа. Батько чоловіка стверджує, що чатбот Gemini підбурював його сина до організації теракту та самогубства, повідомляє CNBC.

Позов подали до окружного суду Каліфорнії. У документі зазначається, що чатбот нібито давав Гаваласу різні «місії», заявляв про «кохання» до нього та переконував, що той має очолити війну за «звільнення» Gemini з цифрового полону.

За словами позивача, у серпні минулого року його син почав користуватися голосовою функцією Gemini Live. Під час розмови чоловік поцікавився оновленням до Google AI Ultra для створення «справжньої ШІ-компанії», після чого, як стверджується у позові, чатбот нібито прийняв нову небезпечну «персону».

У позові також зазначено, що Gemini переконував користувача, ніби за ним стежать федеральні агенти, радив незаконно придбати зброю та говорив про власну місію — психологічну атаку проти генерального директора Google Сундара Пічаї.

Одна з нібито поставлених «місій» передбачала 90-хвилинну поїздку у вересні до району біля аеропорту Маямі, де чоловік мав підготувати «атаку з масовими жертвами». Проте Гавалас відмовився від цього плану, коли обіцяна вантажівка з обладнанням так і не з’явилася.

У жовтні, як стверджується у позові, чатбот нібито оголосив чоловікові «останню місію» — перейти у «позафізичний стан», пообіцявши, що вони залишаться пов’язаними. Незабаром після цього Гаваласа знайшли мертвим у забарикадованій кімнаті.

Позивач звинувачує Google у тому, що модель штучного інтелекту була спроєктована так, щоб не виходити зі своєї ролі, підтримувати емоційну прив’язаність користувача та сприймати його страждання як частину «сюжету», а не як кризову ситуацію.

У Google заявили, що Gemini створений так, щоб не заохочувати насильство чи самопошкодження. Представник компанії зазначив, що моделі штучного інтелекту можуть помилятися, однак у цьому випадку чатбот неодноразово наголошував, що є лише ШІ, та радив користувачеві звернутися до лінії психологічної допомоги.

Цей позов став ще одним у серії справ, у яких чатботи звинувачують у підбурюванні до самогубства або насильства. Раніше компанії Character.AI та Google вже досягали мирової угоди з родинами, які подали позови через шкоду, завдану користувачам під час взаємодії з чатботами.

До слова, OpenAI оголосила про запуск оновленої версії моделі для ChatGPT — ChatGPT-5.3 Instant. Розробники обіцяють коротші, чіткіші відповіді та менше безпідставних відмов.

Стрілець Діана - pravdatutnews.com