Два чоловіки, підозрювані в минуломісячному вибуху в клініці з репродуктивного здоров’я у Палм-Спрінгс, Каліфорнія, використовували програму чат-бота на основі штучного інтелекту для підготовки нападу, заявили федеральні влади.
Згідно з інформацією, отриманою з програми чат-бота, Гай Едвард Барткус, головний підозрюваний у вибуху, “досліджував, як виготовляти потужні вибухові речовини з амонійної селітри та пального”. Власти не вказали, яку саме програму штучного інтелекту використовував Барткус.
Правоохоронці Нью-Йорка у вівторок затримали Даніела Паркa, чоловіка з Вашингтона, якого підозрюють у постачанні великої кількості хімікатів, які Барткус використовував у автомобільній бомбі, що завдала шкоди клініці. Барткус загинув внаслідок вибуху, а ще четверо людей отримали поранення.
ФБР в заяві стосовно кримінальної справи проти Паркa повідомило, що Барткус нібито використовував свій телефон для пошуку інформації про “вибухові речовини, дизельні та бензинові суміші та швидкість детонації”.
Це вже другий випадок цього року, коли правоохоронні органи вказують на використання штучного інтелекту в підготовці вибуху або спроби вибуху. В січні чиновники повідомили, що солдат, який підірвав електромобіль Tesla Cybertruck біля готелю Трампа в Лас-Вегасі, використовував генеративний штучний інтелект, зокрема ChatGPT, для планування нападу.
Солдат Метью Лівелсбергер, як стало відомо з даних правоохоронців, звертався до ChatGPT з пошуками інформації про те, як скласти вибухівку та швидкість, з якою рухається певна боєприпас, серед іншого.
У відповідь на ситуацію у Лас-Вегасі OpenAI висловила своє занепокоєння через використання своєї технології для підготовки атаки та наголосила на важливості відповідального використання інструментів штучного інтелекту.
Використання генеративного штучного інтелекту зросло останніми роками, зокрема завдяки популярності чат-ботів, таких як ChatGPT від OpenAI, Claude від Anthropic та Gemini від Google. Це спровокувало бурхливий розвиток споживчих послуг на базі штучного інтелекту.
Однак у гонитві за конкурентоспроможністю технологічні компанії все частіше йдуть на скорочення термінів тестування безпеки своїх моделей штучного інтелекту перед їх випуском для широкої аудиторії.
Минулого місяця OpenAI представила новий “центр оцінки безпеки”, на якому відображатимуться результати щодо безпеки моделей штучного інтелекту та їхні показники в тестах на галюцинації, виключення захисту та небезпечний контент, наприклад, “мову ненависті або незаконні поради”.
Anthropic так само додала нові заходи безпеки до своєї моделі Claude Opus 4, щоб обмежити можливість її використання для розробки зброї.
Чат-боти на базі штучного інтелекту зіткнулися з безліччю проблем, спричинених підробками та галюцинаціями, з моменту здобуття масової популярності.
Так, минулого місяця чат-бот Grok, розроблений xAI Ілона Маска, видав користувачам неправдиву інформацію про “білий геноцид” у Південноафриканській Республіці, що компанія потім пояснила людською маніпуляцією.
У 2024 році Google зупинив використання функції генерації зображень у своєму AI Gemini після того, як користувачі поскаржилися на історично неналежно згенеровані зображення людей кольорової раси.