За швидкого зростання використання штучного інтелекту — як у корисних, так і в шкідливих формах — все більше випадків потенційно небезпечних відповідей стають очевидними. Це включає в себе мову ненависті, порушення авторських прав та сексуальний контент.
Виникнення таких небажаних поведінок ускладнюється відсутністю регуляцій і недостатнім тестуванням моделей штучного інтелекту, підкреслили дослідники в коментарі.
Налаштувати машинне навчання, щоб воно працювало так, як це передбачалося, є великою проблемою, вважає дослідник штучного інтелекту Хав’єр Рандо.
«Відповідь, після майже 15 років досліджень, полягає в тому, що ми не знаємо, як це зробити, і не виглядає так, немов ми стаємо кращими», — зазначив Рандо, який спеціалізується на ворожому машинному навчанні.
Однак існують способи оцінки ризиків у сфері ШІ, такі як метод «червона команда». Ця практика передбачає, що окремі особи тестують і перевіряють системи штучного інтелекту для виявлення та ідентифікації потенційної шкоди, що є звичайною практикою в сферах кібербезпеки.
Шейн Лонгпре, дослідник в області штучного інтелекту та політики, зазначив, що наразі існує недостатня кількість спеціалістів, які працюють у «червоних командах». В той час як стартапи в сфері штучного інтелекту зараз залучають перших або контрактних оцінювачів для тестування своїх моделей, відкриття можливості тестування для третіх осіб, таких як звичайні користувачі, журналісти, дослідники та етичні хакери, призвело б до більш надійної оцінки, згідно з публікацією Лонгпре та його колег.
«Деякі недоліки в системах, які люди виявляли, вимагали юридичних, медичних експертів, щоб провести перевірку, фактичних науковців, які є спеціалістами в даній галузі, для з’ясування, чи є це недоліком, оскільки звичайна людина, ймовірно, не мала б достатньої експертизи», — сказав Лонгпре.
Запровадження стандартизованих звітів про «недоліки ШІ», заохочень та способів розповсюдження інформації про ці «недоліки» в системах ШІ є деякими з рекомендацій, викладених у дослідженні. З огляду на те, що ця практика вже успішно впроваджена в інших сферах, таких як безпека програмного забезпечення, «ми потребуємо цього в ШІ зараз», додав Лонгпре.
Поєднання цієї практики, орієнтованої на користувачів, з управлінням, політикою та іншими інструментами забезпечить краще розуміння ризиків, які пов’язані з інструментами ШІ та їх користувачами, зазначив Рандо.
Більше не далекий проект
Проект Moonshot є одним з таких підходів, що поєднує технічні рішення з політичними механізмами. Започаткований Управлінням розвитку медіа та інформаційних технологій Сінгапуру, проект Moonshot є інструментом оцінки великих мовних моделей, розробленим у співпраці з промисловими гравцями, такими як IBM та DataRobot з Бостона.
Цей інструмент інтегрує бенчмаркінг, «червону команду» та бази тестування. Існує також механізм оцінки, який дозволяє стартапам у сфері ШІ впевнитись, що їхні моделі можуть бути довірені і не завдають шкоди користувачам, повідомив Анук Кумар, керівник інженерії клієнтів з даних та ШІ в IBM Asia Pacific.
Оцінка є безперервним процесом, що має проводитися як до, так і після розгортання моделей, зазначив Кумар, який підкреслив, що реакція на інструмент була змішаною.
«Багато стартапів сприйняли це як платформу, оскільки вона є відкритим програмним забезпеченням, і почали використовувати її. Але я думаю, що ми можемо зробити ще більше», — додав він.
У подальшому проект Moonshot прагне включити налаштування для специфічних промислових випадків та забезпечити мультикультурне тестування.
Вищі стандарти
П’єр Алькюер, професор статистики в бізнес-школі ESSEC в Азійсько-Тихоокеанському регіоні, зазначив, що технологічні компанії наразі поспішно випускають свої останні моделі ШІ без належного тестування.
«Коли фармацевтична компанія розробляє новий лікарський засіб, вона потребує місяців тестів та дуже серйозних доказів того, що це корисно і не завдасть шкоди, перш ніж отримати схвалення від уряду», — зауважив він, додавши, що подібний процес існує в авіаційній галузі.
Такі регуляції відсутні у сфері ШІ, підкреслив Алькюер, зауваживши, що моделі ШІ повинні відповідати суворим умовам перед їх затвердженням. Відхід від загальних інструментів ШІ до розробки специфічних для завдань моделей уможливить краще передбачення і контроль їхнього зловживання.
«Великі мовні моделі можуть виконувати занадто багато завдань, але вони не націлені на досить специфічні завдання», — сказав він. Унаслідок цього «кількість можливих зловживань занадто велика, щоб розробники могли передбачити всі з них».
Такі широкі моделі ускладнюють визначення, що вважається безпечним і надійним, відповідно до дослідження, в якому брав участь Рандо.
Зважаючи на це, технологічні компанії повинні уникати перебільшень щодо того, «наскільки їхні заходи протидії кращі ніж вони є», підсумував Рандо.