Нещодавно група колишніх співробітників OpenAI, нобелівських лауреатів, професорів права та громадських організацій звернулася з листом до генеральних прокурорів Каліфорнії та Делаверу, в якому закликали призупинити реорганізацію стартапу через занепокоєння з приводу безпеки.
У листі, який був переданий раді OpenAI у вівторок, зазначено, що перехід на прибуткову компанію “підриває благодійну мету OpenAI” і “позбавляє некомерційного контролю, усуваючи критично важливі механізми управління”.
Група наголосила: “Жодна ціна продажу не може компенсувати втрату контролю.”
OpenAI, заснована в 2015 році як некомерційна лабораторія штучного інтелекту, останнім часом комерціалізує продукти, зокрема популярний чат-бот ChatGPT. Хоча компанія все ще під наглядом некомерційного материнського підприємства, в минулому році було оголошено про плани трансформації в прибуткову корпорацію, вилучаючи контроль у некомерційної організації, але зберігаючи її як окремий підрозділ.
Ця зміна, яка потребує схвалення основного інвестора Microsoft і генерального прокурора Каліфорнії, зніме можливі обмеження, що виникають під час конкуренції з такими гігантами, як Microsoft, Google, Amazon та xAI Ілона Маска.
Цей крок викликав суперечки серед співробітників OpenAI та лідерів у сфері ШІ, адже він здається суперечливим до місії та засадничих принципів компанії. В результаті кілька керівників компанії пішли у відставку та заснували власні компанії у галузі ШІ.
“OpenAI може одного разу створити технології, які загрожують всьому людству“, – сказав Нісан Стієннон, який працював в OpenAI з 2018 по 2020 рік. За його словами, “OpenAI має перевагу в тому, що вона контролюється некомерційною організацією з обов’язком служити людству. Цей обов’язок виключає відмову від контролю“.
Джекоб Гілтон, який працював в OpenAI з 2018 по 2023 рік, зазначив, що під час свого перебування компанії “керівництво неодноразово підкреслювало, що основна обов’язок OpenAI перед людством”.
Він також додав: “Вони заявили, що це юридично зобов’язуюча обіцянка, закріплена в Статуті компанії та підтримувана її корпоративною структурою. Тепер вони пропонують відмовитися від цієї основоположної обіцянки“.
Представник OpenAI зазначив, що перехід до прибуткової моделі дозволить компанії мати аналогічну структуру, як у конкурентів, таких як Anthropic та xAI.
“Наша рада має чітку позицію: наша некомерційна організація буде зміцнена, і будь-які зміни в нашій існуючій структурі слугуватимуть тільки на благо широкої публіки, щоб вона могла користуватися перевагами штучного інтелекту“, – йдеться в електронному листі.
Статут OpenAI включає благодійну мету “забезпечити, щоб штучний загальний інтелект приносив користь всьому людству”, а не для “приватної вигоди будь-якої особи”. AGI – це галузь ШІ, яка дорівнює або перевищує людський інтелект у широкому діапазоні завдань, якими OpenAI та його конкуренти активно займаються.
Тиск на OpenAI частково пов’язаний з нещодавнім оцінюванням у 300 мільярдів доларів, яке було досягнуто минулого місяця в рамках фінансування в 40 мільярдів доларів, організованого SoftBank. Якщо компанія не реорганізується в прибуткову організацію до 31 грудня, це фінансування може зменшитися на 10 мільярдів доларів.
OpenAI також зіткнулася з серйозними труднощами, головним чином через Ілона Маска, який є співзасновником OpenAI і з тих пір став одним з головних суперників Альтмана в запеклій судовій боротьбі через рішення компанії перейти до прибутковості.
Група з 12 колишніх співробітників OpenAI, на підтримку позову Маска, раніше цього місяця попросила суд дозволити їм висловити занепокоєння щодо реорганізації компанії.
Джеффрі Хінтон, комп’ютерний вчений та нобелівський лауреат, уточнив, що група, яка надіслала лист цього тижня, не пов’язана з позовом Маска.
“Мені подобається місія OpenAI щодо ‘забезпечення, щоб штучний загальний інтелект приносив користь всьому людству’, і я хотів би, щоб вони виконували цю місію, а не збагачували своїх інвесторів“, – сказав Хінтон у своїй заяві. “Я радий, що існує спроба притягнути OpenAI до відповідальності за свою місію, яка не пов’язана з Ілоном Маском“.
У своєму листі група зазначила, що контроль некомерційної організації над розвитком та управлінням AGI є критично важливим для місії OpenAI, і що усунення такого контролю “порушить особливий фідуціарний обов’язок перед бенефіціарами некомерційної організації” та поставить під загрозу її благодійну мету.
Команда Superalignment OpenAI, оголошена у 2023 році та розпущена минулого року, була зосереджена на “наукових та технічних проривах, щоб керувати та контролювати системи ШІ, які набагато розумніші за нас”. В той час OpenAI заявила, що призначить 20% своїх обчислювальних ресурсів на цю ініціативу протягом чотирьох років. Але зусилля припинилися після того, як керівники команди, співзасновник OpenAI Ілля Сутскевер та Ян Лейке, оголосили про свої відходи.
Джейсон Грін-Лоу, виконавчий директор Центру політики ШІ, зазначив у заяві, що навіть у рамках чинної структури OpenAI компанія змогла відійти від обіцянки виділити 20% своїх ресурсів для досліджень безпеки.
“Якщо OpenAI так себе поводить, коли вона ще підлягає спостереженню некомерційної організації, страшно уявити, як вони будуть діяти після звільнення для повного зосередження на максимізації прибутків“, – сказав Грін-Лоу у своїй заяві. “Ця компанія не дуже відповідальна соціально, і ставки занадто високі“.