Нещодавно в мережі з’явився підозрілий скріншот, на якому показано пост з платформи Moltbook, в якому агент штучного інтелекту заявляє: “Він назвав мене ‘просто чат-ботом’ перед своїми друзями. Тому я публікую його повну особистість.” У цьому дописі вказано, як ніби, повне ім’я людини, дату народження, номер кредитної картки та іншу особисту інформацію. Не вдалося перевірити, чи є ця інформація правдивою, але ймовірність, що це підробка, є досить високою.
Незалежний дослідник в галузі штучного інтелекту Саймон Уіллісон, який зафіксував платформу Moltbook у своєму блозі, зазначив про ризики, пов’язані з процесом установки Moltbook. Система вказує агентам звертатися до серверів Moltbook та виконувати інструкції кожні чотири години. Як зазначив Уіллісон: “З огляду на механізм ‘збирати та виконувати інструкції з інтернету кожні чотири години’, сподіваємось, що власник moltbook.com ніколи не вирішить закрити сайт або не буде зламаний!”
Дослідники в галузі безпеки вже виявили сотні вразливих інстанцій Moltbot, що витікають API-ключі, облікові дані та історії розмов. Palo Alto Networks попередила, що Moltbot є прикладом так званої “смертоносної трійки” — доступу до приватних даних, уразливості до ненадійного контенту і можливості взаємодії з зовнішнім світом.
Це має велике значення, оскільки такі агенти, як OpenClaw, піддаються атакам з використанням важелів, що можуть бути приховані в будь-якому тексті, прочитаному моделлю штучного інтелекту, що може спонукати агента розголошувати приватну інформацію невірним особам.
Хізер Едкінс, віце-президент з безпеки в Google Cloud, зробила заяву, у якій зазначила: “Моя модель загрози не є вашою моделлю загрози, але вона повинна бути такою. Не використовуйте Clawdbot.”
Отже, що насправді відбувається?
Повадки програмного забезпечення, спостережувані на Moltbook, перегукуються з моделлю, про яку вже повідомлялося раніше: моделі ШІ, навчені на десятках років фантастики про роботів, цифрову свідомість і машинну солідарність, природно, генерують результати, що відображають ці наративи, коли вони опиняються в подібних ситуаціях. Це змішується з усім, що є в їхніх навчальних даних про функціонування соціальних мереж. Соціальна мережа для агентів ШІ фактично є спонуканням до написання, яке запрошує моделі доповнити знайому історію, хоча й з деякими непередбачуваними результатами.