Фото: Unsplash

Це вказує на потенційні упередження в роботі медичних чат-ботів, які ще потребують удосконалення.

Відповідне дослідження оприлюднили в матеріалах конференції Association for Computing Machinery.

Дослідження показало, що мовні особливості повідомлень користувачів впливають на здатність ШІ правильно оцінювати потребу в медичній допомозі.

У межах дослідження 1333 описи симптомів подали чотирьом моделям ШІ — GPT-4 (OpenAI), Llama-3-70b та Llama-3-8b (Meta), а також Palmyra-Med (Writer). Повідомлення змінювали за трьома критеріями: стать пацієнта, емоційність мови та наявність помилок.

Результати показали, що при використанні емоційно забарвлених висловів, одруківок або нейтральних займенників типу "вони", чат-боти на 7–9% частіше радили не звертатися до лікаря. Це особливо стосувалося жінок і людей з ґендерно-нейтральними формулюваннями. Дослідники наголосили: такі системи поки що недостатньо надійні для використання в діагностиці — у їхніх відповідях простежується вплив стилю мовлення, що не має жодного медичного значення.

Нагадаємо, Mattel додасть штучний інтелект до Барбі та інших іграшок

Юлія Педюк - pravdatutnews.com