Компанія OpenAI виявила масштабну операцію китайського уряду, в якій штучний інтелект використовується для моніторингу антикитайського контенту на західних соціальних платформах у режимі реального часу.

Про це повідомляє The New York Times.

Дослідники виявили систему на базі ШІ, яку назвали Peer Review, після того як помітили використання інструментів OpenAI для налагодження коду, що лежить в основі цієї програми.

Це перший випадок, коли ми виявили таку потужну систему спостереження на базі ШІ, – зазначив головний дослідник OpenAI Бен Німмо.

За даними OpenAI, система стеження базується на моделі Llama, розробленій Meta. Оскільки ця модель є open-source, її адаптували для створення програми стеження.

Інші виявлені операції

Окрім цього, OpenAI викрила ще одну китайську кампанію під назвою Sponsored Discontent, яка використовувала інструменти компанії для створення англомовного контенту, спрямованого проти китайських дисидентів. Також ця група займалася перекладом і поширенням матеріалів, що критикують США, іспанською мовою в Латинській Америці.

У своєму звіті OpenAI згадала й про інші загрози. Наприклад, було виявлено діяльність камбоджійської групи, яка використовувала ШІ для участі у шахрайській схемі "pig butchering". Це вид афери, в якій зловмисники знайомляться з жертвами в інтернеті, налагоджують довірчі стосунки, а потім заманюють їх у фальшиві інвестиційні проєкти. Штучний інтелект допомагав шахраям створювати переконливі коментарі для соцмереж.

Попри ризики, OpenAI підкреслює, що штучний інтелект може стати потужним інструментом для виявлення та запобігання подібним загрозам.

Нагадаємо, Наймасштабніше криптовалютне пограбування: з біржі Bybit викрали майже $1,5 мільярда

Юлія Педюк - pravdatutnews.com