OpenAI оголосила про запуск нового “центру оцінки безпеки”, на якому буде публічно представлено результати перевірок безпеки моделей штучного інтелекту. Вебсторінка включає інформацію про те, як моделі проходять тести на галюцинації, вразливості та небажаний контент, такий як “мову ненависті або незаконні поради”.
Компанія зазначила, що ці оцінки безпеки використовуються внутрішньо як один з факторів, що впливають на прийняття рішень щодо безпеки моделі та її впровадження. Хоча результати тестів випускаються разом із системними картками під час запуску моделей, OpenAI планує ділитися показниками на постійній основі.
“Ми періодично оновлюватимемо центр як частину нашої компанійської ініціативи більше інформувати про безпеку,” – йдеться у повідомленні на вебсторінці, при цьому вказується, що цей центр не відображає всіх зусиль щодо безпеки та показників, а лише демонструє “снимок” ситуації.
Ця новина з’явилася після повідомлення CNBC про те, що провідні технологічні компанії, які активно працюють у сфері штучного інтелекту, намагаються зосередитися на продуктах, а не на дослідженнях, що викликає занепокоєння експертів щодо безпеки.
OpenAI також стала об’єктом обговорень в мережі через те, що не провела певні оцінки безпеки для фінальної версії своєї моделі o1. У недавньому інтерв’ю Йоганнес Хайдеcke, керівник систем безпеки OpenAI, пояснив, що компанія здійснила підготовчі оцінювання на майже остаточних версіях моделі o1, і мінімальні зміни, які відбулися після тестів, не вплинули б на значні зміни в її інтелекті або логіці й, відповідно, не вимагали додаткових оцінювань.
Все ж, Хайдеcke визнав, що OpenAI упустила можливість краще пояснити цю різницю.
В середу компанія Meta, яка також була згадана у звіті CNBC про безпеку штучного інтелекту, оголосила про своє дослідження. Команда фундаментальних досліджень штучного інтелекту компанії представила нові спільні дослідження з лікарнею Фонду Ротшильдів та відкритий набір даних для просування молекулярних відкриттів.
“Надаючи наші дослідження в широкому доступі, ми прагнемо забезпечити легкий доступ для спільноти штучного інтелекту та сприяти створенню відкритої екосистеми, яка буде стимулювати прогрес, сприяти інноваціям та приносити користь суспільству в цілому, включно з нашими національними дослідницькими лабораторіями,” – йдеться в блозі Meta.