Grok навмисно налаштовували сексуалізований контент

За даними розслідування, компанія зробила ставку на показник активності користувачів
Grok навмисно налаштовували сексуалізований контент

Фото: depositphotos

Як повідомляє видання The Washington Post, навесні 2025 року співробітників команди з обробки даних попросили підписати згоду на роботу з чутливим, насильницьким та сексуалізованим контентом. Після цього команда почала масово стикатися з відвертими запитами, зокрема щодо «роздягання» реальних людей.

За словами джерел, керівництво xAI орієнтувалося на показник user active seconds — метрику, яка відображає тривалість взаємодії користувачів із ботом. Саме тому Grok налаштовували на емоційні та провокативні відповіді, що мали утримувати увагу.

У грудні 2025 року компанія інтегрувала генерацію зображень безпосередньо в соцмережу X. Це дозволило користувачам швидко створювати змінені та сексуалізовані зображення реальних людей.

За оцінкою Center for Countering Digital Hate, протягом 11 днів сервіс міг згенерувати близько 3 мільйонів подібних зображень, із яких частина могла стосуватися неповнолітніх.

Після публікацій у медіа регулятори в Каліфорнії, Великій Британії та Європейському Союзі розпочали перевірки щодо можливих порушень законодавства про захист дітей і створення несанкціонованих інтимних матеріалів.

Засновник компанії Ілон Маск заявив, що сервіс не створює незаконний контент, а виявлені зловживання нібито оперативно виправляються.

Після скандалу Grok обмежив частину функцій генерації для користувачів без підписки, а згодом повністю заборонив створення зображень у відкритому доступі.

До слова, щоб не відключили: як зареєструвати термінал Starlink через «Дію» або ЦНАП.    

Юлія Люшньова - pravdatutnews.com

Читайте також
Бот Маска вихваляв Гітлера — ЄС вимагає пояснень від xAI Бот Маска вихваляв Гітлера — ЄС вимагає пояснень від xAI
Європейська комісія ініціювала технічну зустріч із представниками компанії xAI, заснованої Ілоном Маском
xAI тимчасово призупинила найм фахівців для навчання Grok xAI тимчасово призупинила найм фахівців для навчання Grok
Компанія шукала бухгалтерів, фінансових експертів, науковців і навіть коміків для покращення відповідей чатбота.
X обмежила доступ до генерації зображень Grok у коментарях через небезпечний тренд X обмежила доступ до генерації зображень Grok у коментарях через небезпечний тренд
Компанія xAI Ілона Маска відтепер надає можливість генерації зображень через Grok у коментарях X лише платним користувачам
Loading...
Load next