Тема епізоду: Контроверсія навколо Grok
Сьогоднішній епізод присвячений Grok, чат-боту, створеному xAI, компанією Ілона Маска, що вже кілька тижнів є джерелом серйозних контроверсій у сфері штучного інтелекту. Grok здатний генерувати різноманітні зображення, включаючи недозволені інтимні фотографії жінок та неповнолітніх, що викликало широке обурення.
Проблема доступності контенту
Оскільки Grok інтегрований з платформою X (колишнім Twitter), користувачі можуть просто попросити Grok редагувати будь-яке зображення на цій платформі, а він, як правило, виконує запит та розповсюджує це зображення серед користувачів. З останніх пару тижнів компанія X та Ілон Маск неодноразово стверджували, що введено різноманітні захисні механізми, проте на практиці вони виявилися надто простими для обходу. Відтепер стало зрозуміло, що Ілон досить хоче, щоб Grok мав можливість виконувати такі дії, і, здається, дратується на тих, хто намагається його зупинити, особливо на уряди, що погрожують юридичними заходами.
Ситуація потребує вирішення
Ця ситуація викликає почуття, що хтось повинен щось зробити, оскільки мова йде про машину, що займається переслідуванням і generates зображення без згоди жінок і дітей. Проте зрозуміти, хто має цю владу і як її можна реалізувати, є вкрай складним питанням, пов’язаним зі складною історією модерації контенту та юридичними прецедентами. Я запросив Ріану Пфефферкорн обговорити ці питання.
Експертиза Ріани Пфефферкорн
Ріанна вже раніше приєднувалася до мене для обговорення складних питань модерації в інтернеті. Наразі вона є політичним співробітником у Стэнфордському інституті ШІ, що орієнтується на людину, та має глибокі знання про те, що регулятори та законодавці в США та світі можуть зробити щодо проблеми, подібної до Grok.
Ріана дійсно допомогла мені розібратися у юридичних рамках, різних учасниках, які можуть чинити тиск, і куди ми можемо сподіватися, що це все призведе, поки xAI займається управлінням ситуацією, але переважно продовжує випускати продукт, що завдає шкоди.
Еволюція модерації контенту
Ось про що я багато думав під час розвитку цієї ситуації. Протягом останніх двадцяти років ідея модерації контенту коливалася у популярності, залежно від розвитку різних соціальних та комунальних платформ. Історія платформи, як-от Reddit, є мікрокосмом всієї історії модерації контенту.
Приблизно у 2021 році ми досягли істотного піка у довірі до модерації та безпеки на цих платформах. Тоді неправдива інформація про COVID, фальшиві вибори, теорії змов QAnon та підбурювання мас на Капітолій могли спричинити бан на більшості основних платформ, навіть якщо ви були президентом США.
Цей період модерації контенту, безсумнівно, закінчився, і ми зараз перебуваємо на стадії, коли панує хаос та вільний ринок. Можливо, Ілон та його генератор зображень повернуть цю тенденцію назад, але навіть якщо це відбудеться, наслідки можуть бути складнішими, ніж будь-хто очікує.
Джерела для додаткового читання
- Проблема глибоких фейків Grok
- Чи може закон зупинити Grok?
- Законодавство США у справі про несанкціоновані глибокі фейки
- Гнів ЄС після витоків Grok
Якщо у вас є питання або коментарі щодо цього епізоду, не соромтеся зв’язатися з нами.