Генеральний директор Meta Марк Цукерберг уже заявляв, що компанія прагне створити загальний штучний інтелект (AGI). Це ШІ, який здатний виконувати будь-яке завдання на рівні людини. Проте новий політичний документ компанії, Frontier AI Framework, дає зрозуміти: існують сценарії, за яких Meta може не випусти свою найбільш передову систему ШІ.
Коли Meta не випускатиме нову модель штучного інтелекту
У документі Meta виділяє два типи ризикованих ШІ-систем: високого ризику та критичного ризику. Перші можуть полегшити кіберзлочини, біологічні атаки та інші загрози, але не є критичними. Другі ж можуть спричинити катастрофічні наслідки, які неможливо пом’якшити в рамках будь-яких запропонованих заходів безпеки.
Серед прикладів небезпечного використання компанія наводить автоматизований злом корпоративних мереж, навіть якщо вони захищені передовими засобами безпеки, та розробку потужної біологічної зброї за допомогою ШІ.
На відміну від інших компаній, Meta не використовує єдиний емпіричний тест для оцінки ризику своїх ШІ-систем. Натомість рішення ґрунтується на аналітиці внутрішніх і зовнішніх експертів. Вони надаватимуть звіти, які перевірятимуть керівники вищого рівня.
Meta також визнала, що наразі не існує науково обґрунтованої методики, яка б дозволяла дати точну кількісну оцінку ризику для суспільства. Якщо система буде високого ризику, компанія обмежить внутрішній доступ до неї та не випускатиме модель, поки ризик не знизиться до помірного рівня. Якщо ж штучний інтелект виявиться критично ризикованим, Meta припинить розробку та впровадить засоби захисту, щоб уникнути витоку технології.