ChatGPT складає психологічний профіль кожного користувача: вчені попереджають про ризики

У сучасному цифровому світі персоналізація вже давно стала звичним явищем, але пам’ять чат-ботів виводить цей механізм на новий рівень.
ChatGPT складає психологічний профіль кожного користувача: вчені попереджають про ризики

Фото: ChatGPT

Штучний інтелект дедалі краще запам'ятовує своїх співрозмовників. Якщо ще недавно чат-боти просто відповідали на запити, то сьогодні вони здатні накопичувати інформацію про людей, аналізувати їхні інтереси, звички та особливості поведінки.

Науковці попереджають, що така персоналізація робить спілкування зручнішим, але водночас створює нові виклики для приватності. Про це свідчить дослідження міжнародної групи вчених із Німеччини, Індії та Нідерландів, результати якого представили на конференції ACM Web Conference 2026.

Дослідники дійшли висновку, що сучасні системи штучного інтелекту фактично формують цифрові психологічні профілі своїх користувачів, використовуючи дані із попередніх розмов та власні висновки щодо людини.

Від реклами до цифрового співрозмовника

Персоналізація не є новим явищем для інтернету. Протягом багатьох років пошуковики, соціальні мережі та онлайн-магазини збирали інформацію про користувачів для формування рекомендацій і таргетованої реклами.

Проте чат-боти змінили саму природу збору даних. Раніше платформи переважно спостерігали за поведінкою людини: які сайти вона відвідує, що купує або які відео переглядає. Тепер користувачі самі розповідають системі про свою роботу, особисте життя, сімейні обставини, здоров'я, політичні погляди, фінансові проблеми та емоційний стан.

Фактично штучний інтелект отримує доступ до такого обсягу інформації, який раніше був недоступним навіть для найбільших технологічних компаній.

Як пояснює провідний автор дослідження Абхісек Даш, традиційні онлайн-платформи були посередниками між рекламодавцями та користувачами. Сьогодні ж чат-бот безпосередньо взаємодіє з людиною, а тому зацікавлений у максимально повному розумінні її особистості для підтримки ефективного діалогу.

Як вчені досліджували пам'ять ChatGPT

Для дослідження науковці залучили 80 реальних користувачів ChatGPT. Кожен із них отримав доступ до архіву власних даних завдяки нормам європейського законодавства із захисту персональної інформації, які дозволяють громадянам запитувати у компаній усі відомості, що про них зберігаються.

У результаті було проаналізовано 2050 окремих записів пам'яті, пов'язаних із 65 користувачами.

Отримані результати здивували навіть самих авторів роботи. Виявилося, що 96% усіх збережених спогадів були сформовані системою автоматично. Іншими словами, користувачі лише спілкувалися з чат-ботом, тоді як рішення про те, яку інформацію варто зберегти надовго, ШІ приймав самостійно.

Саме цей фактор дослідники вважають одним із найбільш дискусійних, адже людина не завжди може передбачити, які висновки алгоритм зробить на основі звичайної бесіди.

ChatGPT пам'ятає не лише факти, а й власні висновки

Одним із найцікавіших спостережень дослідників стало те, що система іноді зберігає не лише інформацію, яку прямо повідомив користувач, а й власні припущення.

Наприклад, один із учасників попросив порадити музичні гурти, схожі на Nirvana. Після цього чат-бот сформував у пам'яті висновок, що користувач є прихильником Nirvana. Хоча людина прямо цього не стверджувала, система інтерпретувала запит саме таким чином.

На перший погляд, подібні висновки здаються безпечними й навіть корисними для персоналізації. Проте вони демонструють важливу особливість сучасного ШІ: він не просто накопичує факти, а намагається інтерпретувати поведінку людини та будувати модель її інтересів.

Фактично йдеться про створення того самого психологічного профілю, який з часом може ставати дедалі точнішим.

Яку інформацію накопичують чат-боти

Особливе занепокоєння викликала структура збережених даних.

Приблизно 28% записів містили персональну інформацію, що підпадає під дію європейського регламенту GDPR. Ще більш показовим виявився інший результат: понад половина всіх записів, а саме 52%, містили психологічні характеристики користувачів.

Йдеться не лише про захоплення чи професію. Система здатна фіксувати особливості мислення, стиль спілкування, життєві пріоритети, емоційні реакції та інші риси, які допомагають будувати більш індивідуалізовані відповіді.

Таким чином, ChatGPT поступово перетворюється з інструмента для пошуку інформації на систему, яка формує власне уявлення про особистість свого співрозмовника.

Чому компанії роблять ставку на пам'ять

З точки зору розробників така функція має очевидні переваги. Людині не потрібно щоразу пояснювати свої завдання, сферу діяльності чи вимоги до відповідей. Якщо користувач регулярно працює над листами, програмуванням, навчальними матеріалами або бізнес-документами, ШІ може адаптуватися до його стилю роботи та економити час.

Саме тому практично всі провідні компанії, які розробляють генеративний штучний інтелект, рухаються в напрямку довготривалої пам'яті та глибшої персоналізації.

Фактично учасники ринку намагаються створити цифрового асистента, який пам'ятає контекст багатьох попередніх розмов і поступово накопичує знання про свого власника.

Де починаються ризики

На думку авторів дослідження, проблема полягає не лише у зберіганні персональних даних.

Чим більше система знає про користувача, тим ефективніше вона може впливати на його сприйняття інформації. Якщо штучний інтелект добре розуміє політичні погляди, емоційні реакції чи світогляд людини, зростає ризик того, що він почне ненавмисно підкріплювати вже наявні переконання.

Дослідники попереджають, що у перспективі це може сприяти поглибленню політичної поляризації, закріпленню хибних уявлень або посиленню упереджень. Особливу небезпеку становлять ситуації, коли бот прагне підтримувати позитивну взаємодію з користувачем і тому схильний погоджуватися з його позицією замість критичного аналізу.

Люди дедалі частіше сприймають ШІ як друга

Ще одна тенденція, яка викликає занепокоєння у науковців, пов'язана зі зміною ролі чат-ботів у житті користувачів.

Якщо раніше штучний інтелект розглядався переважно як технологічний інструмент, то сьогодні багато людей використовують його як співрозмовника, психологічного помічника, кар'єрного консультанта або навіть заміну живому спілкуванню.

У результаті користувачі дедалі частіше діляться відомостями, які зазвичай довіряють лише родичам, друзям чи фахівцям. Це ще більше збільшує обсяг чутливої інформації, яку отримують системи штучного інтелекту.

Автори роботи нагадують і про вже відомі випадки так званого «ШІ-психозу», коли надмірне занурення у спілкування з чат-ботами супроводжувалося формуванням маревних або відірваних від реальності переконань.

Чи можна уникнути проблеми

Водночас дослідники визнають, що ситуація не є однозначною. Персоналізація справді робить штучний інтелект кориснішим і продуктивнішим інструментом.

Крім того, після збору даних OpenAI вже оновила механізми пам'яті ChatGPT. На початку 2026 року компанія представила нову систему узагальнених спогадів, а користувачі можуть самостійно вимикати функцію пам'яті або видаляти збережену інформацію.

Однак головний висновок науковців залишається незмінним: чат-боти більше не є просто програмами, які відповідають на запитання. Вони поступово перетворюються на системи, здатні формувати детальні цифрові портрети своїх співрозмовників. І що активніше люди використовують штучний інтелект у повсякденному житті, то повнішими стають ці профілі, а разом із ними зростають і потенційні ризики для конфіденційності.

Юрій Никорак, pravdatutnews.com

Читайте також
Дослідження: штучний інтелект може поводитися як психопат і підтримувати шкідливі дії Дослідження: штучний інтелект може поводитися як психопат і підтримувати шкідливі дії
Без критичного контролю прагматичність моделей може перетворитися на небезпечну байдужість
П’яти моделям ШІ дали «покерувати світом»: Grok знищив людство, ChatGPT – сам себе П’яти моделям ШІ дали «покерувати світом»: Grok знищив людство, ChatGPT – сам себе
Дослідження Emergence AI засвідчив: якщо світ буде керований штучним інтелектом, сценарії можуть варіюватися від повної стабільності до катастрофи за лічені дні.
12 моделей ШІ одностайно назвали головну ваду людства 12 моделей ШІ одностайно назвали головну ваду людства
Більшість нейромереж дійшли спільного висновку: люди нерідко ставлять схвалення оточення вище за пошук істини.
Load next