OpenAI активізує заходи безпеки для своїх новітніх моделей штучного інтелекту o3 та o4-mini. Компанія впроваджує інноваційну систему моніторингу, яка покликана запобігти використанню технологій у створенні біологічної або хімічної зброї.
Заходи безпеки для моделей ШІ
Моделі o3 та o4-mini, за даними компанії, демонструють суттєво вищу здатність до міркування та опрацювання складних запитів. Проте саме ці посилені можливості несуть у собі потенційні ризики. Зокрема, у контексті створення біологічної зброї. Внутрішні тести показали, що o3 краще відповідає на питання, пов’язані з біозагрозами, ніж попередні моделі, включно з GPT-4.
Щоб знизити небезпеку, компанія OpenAI розгорнула систему моніторингу, яка діє поверх нових моделей і навмисне навчена розпізнавати запити, що стосуються біологічних та хімічних ризиків. Цей так званий монітор міркування має одне завдання – зупинити моделі від надання порад, які можуть допомогти зловмисникам.
Система, навчена на основі політик OpenAI, може блокувати небезпечні інструкції ще до того, як користувач отримає відповідь.
Щоб удосконалити систему, компанія залучила “червоні команди“, які протягом 1000 годин моделювали шкідливі сценарії та небезпечні підказки. Випробування показали, що монітор блокував потенційно небезпечні запити у 98,7% випадків, демонструючи високу ефективність.