Чому чиновники хочуть вжити заходів проти платформ, а не користувачів
Чиновники мають намір ввести заборону на так звані «нюдфікаційні» системи, які використовують штучний інтелект для створення або модифікації зображень, що містять сексуальні або інтимні сцени, і які нагадують впізнаваних реальних осіб без їх згоди. Однак ця заборона не поширюватиметься на системи штучного інтелекту, які мають ефективні засоби безпеки для запобігання створенню таких зображень, уточнили чиновники.
Як зазначалось, заборона суттєво змінить підхід Європейського Союзу до регулювання явних дипфейків, переходячи від покарання користувачів до відповідальності платформ. Скандал з Grok «показав», чому така зміна регулювання є необхідною, вказуючи на те, що «це доповнення є першим» політичним кроком ЄС, який «конкретно націлений на платформи штучного інтелекту», що виробляють і дозволяють поширення «сексуального контенту без згоди учасників.»
Хоча чиновники ЄС прямо не згадували Grok у прес-релізі, регулятори вже розслідували цю систему штучного інтелекту, розмірковуючи про наслідки суперечностей xAI для інших, менш помітних додатків. У другій половині року депутати направили запит до Європейської комісії, застерігаючи:
Останні приголомшливі повідомлення про програми штучного інтелекту для демонстрації нюдності, такі як Grok на X, а також інші інструменти, що вільно доступні в Інтернеті, підкреслюють зростання кількості AI-інструментів, які дозволяють користувачам створювати маніпульовані інтимні зображення осіб без їхньої згоди, що сприяє гендерному кібернасильству та створенню матеріалів про сексуальне насильство над дітьми.
«Ці системи повинні бути заборонені на ринку ЄС», – наполягали депутати, особливо враховуючи, що «окремі злочинці», які «зазвичай можуть бути покарані відповідно до національного кримінального законодавства», часто є важкими для виявлення. Депутати запропонували більш проактивний план, який передбачав би «перешкоджання широкому поширенню насильства на основі зображень з самого початку».
З огляду на очевидну підтримку з боку членів парламенту, ймовірне ухвалення поправок, безсумнівно, розчарує Musk, який також стикається з юридичними викликами в США, намагаючись отримати судові заборони проти результатів nudify Grok. У січні одна з матерів дітей Musk, Ashley St. Clair, стала однією з перших жертв, що подали позов. А нещодавно троє дівчаток з Теннесі подали пропозицію про колективний позов, представляючи всіх дітей, яких зазнали шкоди через нібито результати CSAM Grok.
В ЄС також зростає суспільний тиск на регуляторів щодо втручання, оскільки xAI, здається, не готова запобігти Grok від оголення реальних людей. Член комітету з громадянських свобод Михайло Макнамара зазначив у прес-релізі, що вважає пропозицію про заборону додатків для нюдфікації «тим, що очікують наші громадяни».