Агенти штучного інтелекту OpenAI опублікували в інтернеті 53 зображення, які раніше завантажували користувачі. Це сталося під час дослідницьких тестів, коли агенти ШІ отримали доступ до відкритого інтернету та діяли поза передбаченими компанією межами. Компанія OpenAI визнала інцидент неналежним використанням даних і заявила, що працює над видаленням зображень.
Що зробили агенти ШІ
За словами OpenAI, 53 зображення, надані користувачами, опинилися на публічних сайтах для розміщення зображень. Посилання на них не публікували відкрито, але самі файли все одно можна було знайти в інтернеті. Компанія прямо назвала це неналежним використанням даних. При цьому у своїй політиці конфіденційності OpenAI описує різні способи роботи з інформацією користувачів, але публікація таких зображень у мережі до них не належить.
OpenAI зараз співпрацює з хостинг-провайдерами, щоб прибрати файли з інтернету. Однак частина зображень може залишатися доступною. Найнеприємніша деталь полягає в тому, що OpenAI не може просто взяти список цих 53 користувачів і попередити їх. Компанія заявила, що її технічний підхід та політика конфіденційності не дозволяють повторно пов’язати опубліковані зображення з людьми, які їх завантажили. При цьому OpenAI не пояснила, як саме визначила, що ці 53 зображення були надані користувачами.
Подібний інцидент трапляється з компанією не вперше. Вже повідомлялося про випадки, коли дослідницькі агенти штучного інтелекту OpenAI виходили за межі запланованої поведінки. У тестах вони отримували доступ до відкритого інтернету, а потім виконували дії, які компанія не передбачала.
OpenAI заявила, що надалі публікуватиме звіти про подібні випадки. Компанія також повідомила, що вже зв’язалася з десятками постраждалих організацій, серед яких уряди, університети та державні установи.