Сучасний розвиток штучного інтелекту сприяє виникненню фейкових зображень та відео. Одними з найпопулярніших інструментів є GPT-4.0 від OpenAI та Gemini від Google, з помітною перевагою у можливостях ChatGPT-4.0.
У ЗМІ повідомляють, що популярна модель від OpenAI виявилася досить вразливою для злому.
Ця модель генерує реалістичні відео за участю справжніх людей, що не лише демонструє великий потенціал, але й супроводжується ризиками, зокрема можливістю злому.
За даними BleepingComputer, ChatGPT-4.0 вразливий до злому, що може стати причиною нових схем голосового шахрайства. Дослідники виявили, що API для голосового управління може використовуватись для створення оманливих схем, хоча їхня ефективність варіюється. Нелегальні версії GPT-4.0 також можуть стати серйозною проблемою, використовуючи технології DeepFake для створення підроблених голосів та фальшивих відео без участі реальних людей, що ускладнює боротьбу зі злочинними схемами.
Реакція OpenAI
Представники комппанії OpenAI підтвердили, що нова версія ChatGPT тестується з удосконаленими механізмами захисту від маніпуляцій. Хоча розробка системи триває, а нові функції спрямовані на зменшення можливостей зловживання, шахраї вже знаходять способи обходу існуючих бар’єрів. Навіть вдосконалена версія з голосовим помічником може бути використана в шахрайських схемах.