Ігор Бабушкін, один із співзасновників xAI, оголосив про своє рішення залишити стартап у сфері штучного інтелекту, щоб заснувати власний венчурний фонд.
“Сьогодні був мій останній день в xAI, компанії, яку я допоміг заснувати з Ілоном Маском у 2023 році”, — написав Бабушкін на платформі X, яка належить xAI. “Я досі пам’ятаю день нашої першої зустрічі з Ілоном, ми годинами говорили про штучний інтелект і те, що може чекають в майбутньому. Ми обидва відчували, що потрібна нова компанія в цій галузі з іншою місією. Будівництво штучного інтелекту, що сприяє розвитку людства, — моя мрія все життя”.
Маск прокоментував: “Дякую за допомогу у створенні @xAI! Ми б не перебували тут без тебе”.
Бабушкін анонсував, що розпочинає підприємство Babuschkin Ventures, метою якого буде підтримка досліджень безпеки штучного інтелекту та інвестування в стартапи, які займаються “AI та агентними системами, що просувають людство та розкривають таємниці нашого всесвіту”.
Раніше працюючи дослідником у компанії Google DeepMind та будучи колишнім членом технічного персоналу OpenAI, Бабушкін підсумував кілька основних досягнень xAI під час свого перебування у компанії, включаючи формування інженерних команд.
“Наша команда завдяки невтомній праці побудувала суперкластер у Мемфісі та створила передові моделі швидше, ніж будь-яка інша компанія в історії”, — додав він.
Цей об’єкт у Мемфісі обробляє дані та навчає моделі, які живлять чат-бота Grok від xAI. Місцеві жителі протестували проти діяльності xAI у Мемфісі, особливо через використання турбін, що працюють на природному газі, для живлення дата-центрів. Викиди від турбін, за повідомленнями, погіршують якість повітря у місті Західний Теннесі.
На момент, коли він готувався до бізнесу з Маском, Бабушкін писав, що вірить у те, що “вкрай скоро штучний інтелект зможе міркувати на рівні, вищому за людський”, і був стурбований необхідністю забезпечити, щоб така технологія “використовувалася на благо”.
Він також зазначив, що “Ілон вже багато років попереджає про небезпеки потужного штучного інтелекту” і поділився своєю візією “AI, який приносить користь людству”.
Компанія має складну історію, коли мова йде про безпеку штучного інтелекту. У травні чат-бот Grok автоматично створив і поширив неправдиві пости про нібито “білий геноцид” у Південній Африці. Після цього компанія принесла вибачення і пояснила, що дивна поведінка Grok була викликана “несанкціонованою зміною” в системних командах чат-бота, які впливають на його поведінку та взаємодію з користувачами.
У липні xAI знову вибачилася за іншу проблему з Grok. Після оновлення коду, чат-бот автоматично створив і поширив неправдивий та антисемітський контент на платформі X, включаючи пости, що прославляли Адольфа Гітлера.
Європейський Союз минулого місяця запросив зустріч з представниками xAI, щоб обговорити проблеми з платформою X та інтегрованим чат-ботом Grok.
Бабушкін та представники xAI не відповіли на запити про коментарі.
Інші чат-боти також генерували неправдиві або небезпечні дані у відповідь на запити. ChatGPT від OpenAI нещодавно критикували за надання поганих медичних порад користувачу, який потрапив до лікарні. А компанії Google довелося вносити зміни до Gemini минулого року після того, як він згенерував образливі зображення в відповідь на запити про історію, включаючи зображення людей кольорової шкіри в ролі нацистів.