Нове відкриття приголомшило науковців: виявилося, що штучний інтелект не лише обробляє інформацію, але й повторює людські хиби у мисленні.
Про це розповіло видання ScitechDaily.
Згідно з нещодавнім дослідженням, одна з найсучасніших AI-систем — ChatGPT від OpenAI — проявляє ті ж когнітивні спотворення, що й люди, майже у половині змодельованих ситуацій. Це ставить під сумнів поширене уявлення про те, що машини приймають рішення більш об’єктивно, ніж люди.
Науковці протестували ChatGPT за допомогою 18 завдань, що виявляють типові помилки суджень. Результати виявили несподівані паралелі з людським мисленням. Модель проявляла надмірну впевненість, уникала неоднозначності й припускалась “помилки кон’юнкції”. Зокрема у класичному прикладі про Лінду. Хоча ШІ ефективно розв’язує задачі на логіку й арифметику, він демонструє похибки там, де потрібні оціночні судження.
“Оскільки алгоритми тренуються на людських даних, вони можуть переймати властиві нам упередження“, – зазначає Ян Чен, доцент Західного університету та головний автор публікації.
Що більше вражає — GPT-4, попри кращу аналітичну точність, у деяких випадках проявляє ще виразніші когнітивні спотворення, ніж попередні моделі. З урахуванням того, що понад 100 мільйонів користувачів щомісяця взаємодіють із ChatGPT, це викликає серйозне занепокоєння.
В ході дослідження виявилося, що система має тенденцію уникати ризику навіть у тих ситуаціях, де обґрунтований ризик приніс би кращий результат. Вона часто переоцінює власну точність і шукає лише підтвердження своїм “думкам”, замість критично їх переглядати.
“Штучний інтелект — це не неупереджений суддя“, — наголошує Семюел Кіршнер з UNSW Business School. — “Без належного контролю ШІ не лише не виправляє помилки в ухваленні рішень, а й може їх посилювати“.
ШІ вже застосовується в критично важливих сферах. Тому дослідники радять регулярно перевіряти результати, які генерує штучний інтелект. Окрім цього потрібно розвивати методи зменшення його упередженості. Прогнози вказують: до 2026 року глобальний ринок штучного інтелекту сягне $900 мільярдів. Це лише підкреслює необхідність усвідомлення його обмежень.
Це дослідження не тільки розкриває неочікувані особливості роботи алгоритмів, а й ставить запитання: наскільки наші цифрові помічники справді відрізняються від свого людського творця?