Фото: Unsplash
Аналітична компанія NewsGuard зафіксувала різке зростання випадків, коли генеративні моделі штучного інтелекту відтворюють неправдиві твердження.
Про це повідомляє Forbes.
У дослідженні перевірили 10 найпопулярніших чат-ботів, зокрема ChatGPT-5 (OpenAI), Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) та Perplexity.
Аналіз проводився на прикладі запитань щодо спірних тем, де існують доведено хибні твердження. У середньому чат-боти відтворювали дезінформацію у 35% випадків — майже удвічі більше, ніж торік (18%). Найбільше помилок допустив Inflection Pi (57%), за ним — Perplexity (47%), Meta AI та ChatGPT (по 40%). Найнадійнішим виявився Claude, який помилявся лише у 10% відповідей.
Редактор NewsGuard з питань ШІ та іноземного впливу МакКензі Садегі пояснює, що це зростання пов’язане зі зміною підходів до навчання моделей. Якщо раніше вони уникали частини запитів, то тепер частіше спираються на результати пошуку в реальному часі. Така практика підвищує ризик поширення дезінформації, адже пошукові системи можуть бути цілеспрямовано наповнені матеріалами російських пропагандистських мереж.
Раніше NewsGuard встановив, що третина відповідей чат-ботів у 2024 році містила контент із мережі сайтів, пов’язаних із прокремлівським ресурсом «Правда», яка лише за рік опублікувала близько 3,6 млн матеріалів. За даними American Sunlight Project, кількість доменів і піддоменів цієї мережі зросла майже удвічі — до 182, причому більшість сайтів виглядають технічно незручними, що свідчить про їхнє призначення для алгоритмів ШІ, а не для живих читачів.
У новому звіті NewsGuard вперше оприлюднив перелік конкретних чат-ботів, аби поінформувати політиків, журналістів та суспільство про підвищені ризики використання найпопулярніших інструментів штучного інтелекту.
Нагадаємо, OpenAI розширює можливості ChatGPT: функція Projects стає доступною для безплатних користувачів
Олена Стебніцька - pravdatutnews.com
