Після нещодавнього скандалу навколо генерального директора OpenAI Сема Альтмана компанія всерйоз задумалася не лише про реформування структури управління бізнесом, а й про підвищення відповідальності розробників за випуск великих мовних моделей. Про це пише Bloomberg.
Зазначається, що рада директорів може затримати випуск нових моделей, якщо вважатиме їх недостатньо безпечними. Ключову роль у цьому механізмі контролю та погодження буде відведено спеціальній групи під керівництвом Олександра Мадрі. До завдань групи експертів входитиме аналіз підготовленої до релізу кожної нової великої мовної моделі щодо виявлення “катастрофічних ризиків”. Ітиметься про ймовірні наслідки застосування цієї мовної моделі, які спричинятимуть сотні миллиардів доларів матеріальних збитків або навіть людські жертви.
Група Мадрі на щомісячній основі надаватиме звіти про діяльність розробників OpenAI спеціальній раді з безпеки. Вона вже ділитиметься своїми висновками з генеральним директором компанії та радою директорів. Сем Альтман зможе приймати рішення про випуск нової мовної моделі на ринок або її затримку для доопрацювання, причому рада директорів отримує право накласти вето на позитивне рішення глави OpenAI щодо випуску моделі на загальний доступ.
Група аналізу готовності мовних моделей була сформована всередині OpenAI ще в жовтні, до добре відомих подій із перестановками у посібнику. Нині всередині компанії діють ще дві групи, які займаються аналізом розробок. Насамперед, це група безпеки як такої, а також група надрегулювання, яка враховуватиме гіпотетичні загрози від впровадження надпотужних систем штучного інтелекту в майбутньому.
Група Мадрі оцінюватиме за шкалою, що передбачає чотири градації ризиків: низька, середня, висока або критична. За задумом, компанія зможе випускати в обіг лише ті системи штучного інтелекту, які в результаті всіх процедур аналізу та доопрацювання отримали оцінку ризику не вище за низький або середній.