Мовні моделі після штучного «інсульту» почали помилятися подібно до людей з афазією

Дослідники виявили, що після навмисного спотворення параметрів штучного інтелекту мовна модель почала припускатися помилок, схожих на порушення мовлення в людей після інсульту. Подібний ефект вдалося відтворити у дев’яти з десяти додатково перевірених конфігурацій
Мовні моделі після штучного «інсульту» почали помилятися подібно до людей з афазією

Фото: depositphotos

Результати дослідження опублікували в журналі Patterns.

Афазія — це порушення мовлення, яке виникає через ураження мозку. Вона може впливати на здатність людини добирати слова, розуміти їх і будувати речення. Наприклад, замість потрібного слова людина може назвати інше, близьке за значенням або звучанням.

Науковці аналізують такі помилки та зіставляють їх із мапами уражень мозку після інсульту. Це допомагає визначити, які ділянки мозку відповідають за різні мовні функції.

У новому дослідженні використали дані 213 людей, які виконували завдання з називання зображень, та 188 учасників, які мали завершувати речення. На основі цих результатів дослідники навчили алгоритм прогнозувати розташування уражень мозку за співвідношенням різних типів мовних помилок.

Після цього науковці перевірили, чи можна отримати подібні порушення в роботі штучного інтелекту. Для цього вони навмисно спотворювали випадковим шумом числові параметри мовної моделі LLaVA-1.6-Vicuna-13B.

Потім моделі давали ті самі завдання, що й людям. Типи помилок у її відповідях аналізував навчений алгоритм, який на їхній основі прогнозував мапи уражень мозку.

З’ясувалося, що у 67,1% перевірених умов втручання під час завдання з називання зображень прогнозовані мапи краще відповідали ушкодженням мозку пацієнтів із подібними помилками, ніж ураженням випадково обраних учасників дослідження. У завданні із завершення речень цей показник становив 68,3%.

Водночас мовна модель значно рідше за людей припускалася помилок, пов’язаних зі звуковою будовою слів.

Дослідники виявили як подібності, так і відмінності між мовними збоями людей і штучного інтелекту. Однак поки що невідомо, чи виникають ці помилки через спільні внутрішні механізми.

Стрілець Діана - pravdatutnews.com

Читайте також
Магнітні бурі 24–25 жовтня: якою буде геомагнітна активність Магнітні бурі 24–25 жовтня: якою буде геомагнітна активність
Вихідними очікується помірна сонячна активність
До Києва приїхав оскароносний режисер Хазанавічус (фото) До Києва приїхав оскароносний режисер Хазанавічус (фото)
Він зібрав 250 тисяч євро на допомогу Україні.
Прибирання: системи, які дійсно працюють Прибирання: системи, які дійсно працюють
Чому великі “генеральні” прибирання більше не працюють, як обрати систему організації дому під свій стиль життя та навіщо скорочувати кількість побутової хімії
Load next