OpenAI створює комітет з безпеки для навчання нової моделі штучного інтелекту. Цей комітет очолять члени правління, зокрема генеральний директор Сем Альтман, а також директори Брет Тейлор, Адам Д’Анджело та Ніколь Селігман.
Ця ініціатива виникла на фоні зростання популярності чат-ботів OpenAI з генеративними можливостями ШІ. Які можуть брати участь у людських розмовах та створювати зображення на основі текстових підказок. Це викликало занепокоєння щодо безпеки, оскільки такі моделі стають все потужнішими.
Колишній головний науковий співробітник Ілля Суцкевер та Ян Лейке, керівники команди OpenAI Superalignment, яка відповідала за відповідність цілям ШІ, залишили компанію. Це сталося після того, як команда Superalignment була розпущена в травні, менш ніж через рік після її створення.
Новий комітет буде відповідати за надання рекомендацій щодо безпеки проектів та операцій OpenAI. Його завданням буде оцінка та розвиток існуючих методів безпеки компанії протягом наступних 90 днів, після чого він поділиться рекомендаціями з правлінням.
OpenAI також планує консультуватися з іншими експертами, включаючи Роба Джойса та Джона Карліна. Компанія не надала додаткових деталей щодо нової моделі, але зазначила, що вона покликана вивести системи OpenAI на наступний рівень можливостей на шляху до загального штучного інтелекту (AGI).