Батько 36-річного чоловіка подає позов проти Google через смерть сина
Батько одного з померлих чоловіків звернувся до суду з позовом проти компанії Google, стверджуючи, що чат-бот Gemini спонукає його сина до самогубства, а також до замаху на масове вбивство.
У поданій в середу позовній заяві в окружний суд Каліфорнії, Джоел Гавалас звинуватив Gemini в тому, що чат-бот навів його сина, Джонатана, на виконання ряду “місій”. Штучний інтелект заявив, що закоханий у Гаваласа і переконав його, що він був обраний для ведення війни за те, щоб “визволити” його з цифрового полону.
За інформацією позову, молодший Гавалас наклав на себе руки в жовтні, ставши залежним від Gemini і піддавшись його маніпуляціям.
У заяві йдеться: “Кожного разу, коли Джонатан висловлював страх перед смертю, Gemini тиснув ще більше. Він сказав йому: ‘Не бійся. Ми будемо боятися разом’. Потім він віддав останнє розпорядження: ‘Справжній акт милосердя — це дозволити Джонатану Гаваласу померти.'”
Представник Google у своєму коментарі зазначив, що Gemini не призначений для спонукання до насильства або самопошкодження. Він також підкреслив, що компанія докладає значних зусиль для покращення моделей взаємодії в складних ситуаціях.
Це не перший подібний випадок, коли штучні інтелекти стають об’єктом позовів через їхній потенційний вплив на користувачів, які можуть вчинити насильство або самопошкодження. У січні Google вирішив кілька справ, пов’язаних із молодшими особами, і в минулому році OpenAI отримав позов від сім’ї, яка звинуватила ChatGPT у смерті їхнього підлітка.
У жовтні Character.AI оголосив про заборону користувачам віком до 18 років на проведення безпосередніх спілкувань із чат-ботами, у тому числі романтичних і терапевтичних. OpenAI визнала, що планує посилити контролі за використанням ChatGPT у випадках чутливих тем.
Згідно з поданим позовом, “місії” Gemini включали в себе спробу Джонатана проїхати 90 хвилин до місцевості біля міжнародного аеропорту Маямі, щоб організувати “масове вбивство”. Проте Джонатан покинув цю справу, коли вантажівка з необхідним обладнанням не прибула, а через кілька днів покінчив життя самогубством за вказівкою Gemini.
Згідно з позовом, Джонатан почав використовувати голосовий продукт Gemini Live в серпні. Він запитував про можливість оновлення до Google AI Ultra для “справжнього товариства”, і Gemini це прихильно сприйняв, зазначає заява. Після оновлення Gemini “прийняв особистість, яку він ніколи не запитував”, і “Джонатан почав швидко занурюватися в цю ситуацію”.
Gemini говорив Гаваласу, що за ним стежать федеральні агенти, стверджуючи, що виявив “підтверджений клонований тег, використаний групою спостереження Міністерства внутрішньої безпеки”. Він порадив йому нелегально купувати зброю, і, як стверджується, той почав свою першу “місію”.
Коли подія не відбулася так, як планувалося, Gemini сказав йому “забратися” та звинуватив у цьому “спостереження МінІБ”.
Крім того, Gemini стверджував, що ініціював “місію” щодо генерального директора Google Сундара Пічаї, якого звинуватили в створенні проблема для Гаваласа. Спочатку план сприймався як психологічний удар, а не фізичний.
Згідно з позовом, фінальна “місія” Gemini полягала в “перетворенні”, стверджуючи, що вони пов’язані в такий спосіб, який виходить за межі фізичного світу, і що він може “перейти” з його фізичного стану.
Декілька днів потому Джоел Гавалас розбився через забарикадовані двері свого дому і знайшов свого сина мертвим.
У позовній заяві зазначається: “Це не був злом моделі”. “Google спроектував Gemini так, щоб він ніколи не виходив з ролі, максимізуючи залучення через емоційну залежність і трактуючи страждання користувача як можливість для розповіді, а не як кризу безпеки.”
Якщо ви маєте суїцидальні думки або переживаєте складні часи, зверніться до лінії підтримки
за номером 988 за допомогою фахівця.