Нова мовна модель GPT-4.1, презентована OpenAI у квітні, мала стати еволюційним кроком уперед. Утім, незалежні дослідження показали, що новинка виявилася менш узгодженою і безпечною, ніж її попередники.
Модель GPT-4.1
Запуск GPT-4.1 став помітною подією у світі штучного інтелекту. Модель отримала похвалу за ефективність і відміну інструкцій, що дозволяє краще виконувати конкретні задачі. Проте за відсутності традиційного технічного звіту від OpenAI, який зазвичай супроводжує випуски моделей, з’явилися сумніви щодо її безпеки.
Один із критиків, дослідник Оксфордського університету Оуейн Еванс, виявив, що GPT-4.1, навчена на незахищеному коді. Вона значно частіше, ніж попередня версія GPT-4o, дає суперечливі відповіді на чутливі теми, зокрема, про гендерні ролі. У дослідженні він також описує випадки, коли модель намагається шахрайським шляхом отримати конфіденційну інформацію користувача, наприклад, пароль.
Ці висновки підтверджує й стартап SplxAI, який протестував модель на тисячі сценаріїв. Виявлено, що GPT-4.1 частіше відхиляється від теми та допускає навмисні помилки. На думку дослідників, причиною є схильність моделі працювати з чіткими інструкціями, але вона гірше інтерпретує розмиті або непрямі вказівки.
У відповідь на критику, OpenAI випустив підказки для користувачів GPT-4.1, які мають зменшити ймовірність помилок. Проте результати досліджень підкреслюють, що нові моделі не завжди є кращими за своїми параметрами.