Фото: Pexels

Це з’ясували науковці Джорджтаунського та Вашингтонського університетів, які дослідили, як помилки в текстах, створених за допомогою ШІ, змінюють спогади людей.

Про це пише Gizmodo.

В експерименті взяли участь 328 дорослих американців. Спочатку вони переглянули 25-секундне відео дорожньої аварії, а наступного дня прочитали текстовий переказ, створений за допомогою ChatGPT. У тексті йшлося про дорожній знак на перехресті — «Стоп» або «Дати дорогу». Частині учасників надали правильну інформацію, а частині — переказ із помилковою деталлю.

Серед тих, хто прочитав точний опис події, правильний дорожній знак пригадали 83,6% учасників. Натомість після ознайомлення з текстом, який містив неправдиву інформацію, цей показник знизився до 44,8%.

Дослідники також перевірили, чи впливає на результати авторство тексту. Одним учасникам повідомили, що переказ створив ШІ, іншим — що його написала людина. У першій групі правильну відповідь дали 46,3% опитаних, у другій — 43,4%. Отже, сама помилкова інформація впливала на пригадування події, але дослідження не підтвердило, що тексти ШІ переконливіші за людські.

Окремо науковці перевірили здатність ChatGPT і Gemini точно описувати відео. Для цього вони використали два короткі ролики й отримали 20 переказів. Кожен із них містив від 7 до 21 помилки, а моделі в середньому пропускали 51,6% важливих деталей. У 95% текстів не згадувалася центральна подія — зіткнення автомобіля з пішоходом.

На думку дослідників, результати мають значення для сфер, де ШІ застосовують для підготовки звітів на основі відео- та аудіозаписів, зокрема в медицині й правоохоронній діяльності. Перевірка автоматично створеного документа не гарантує, що людина помітить усі неточності. Ба більше, згодом вона може пригадувати помилкову інформацію як частину власного досвіду.

Водночас автори зазначають, що дослідження має обмеження. Аналіз роботи моделей охоплював лише два короткі анімовані відео, а вплив на пам’ять перевіряли на прикладі однієї неправдивої деталі. Крім того, переказ для експерименту відібрали після кількох запитів до ChatGPT і додатково відредагували.

До слова, діти, які в ранньому віці отримували більше підтримки й похвали від батьків, у підлітковому віці демонстрували сильнішу реакцію мозку на винагороду. Це може бути важливим для психічного здоров’я та потенційно знижувати ризик депресії.

Олена Стебніцька - pravdatutnews.com