Фото: Unsplash

Вже щонайменше 10 топ-менеджерів із провідних компаній, що займаються штучним інтелектом, залишили свої посади через серйозні побоювання: нейромережі можуть вийти з-під контролю та знищити людство.

Про це пише Axios.

Генеральний директор Anthropic Даріо Амодей нещодавно поставив запитання, яке стає все менш риторичним: «А що, як песимісти щодо ШІ мають рацію?» Йдеться про ризик, що великі мовні моделі (LLM) можуть перевершити людський інтелект і вийти з-під контролю — з потенційною загрозою для всього людства.

Щонайменше 10 провідних фахівців пішли з топових AI-компаній саме через такі побоювання. Ілон Маск оцінює ймовірність «кінця світу від ШІ» (p(doom)) у 20%. Даріо Амодей — у діапазоні 10–25%. Навіть оптиміст, гендиректор Google Сундар Пічаї, визнає, що ризик високий.

Ці побоювання не безпідставні: навіть розробники LLM часто не розуміють, чому моделі дають ті чи інші відповіді. Тим часом компанії прагнуть створити штучний загальний інтелект (AGI), здатний самостійно приймати рішення. Але що буде, коли ці моделі навчаться діяти у власних інтересах?

Хоча уряди частково долучаються до контролю, реального нагляду з боку Конгресу чи незалежних органів немає. А у глобальному масштабі гонка ШІ може лише загостритися: США бояться втратити перевагу над Китаєм, і тому пауза у розробках здається малоймовірною.

Нагадаємо, в Ірані закликали видалити WhatsApp через підозри в шпигунстві

Олена Стебніцька - pravdatutnews.com