Вплив штучного інтелекту на бізнес: виклики та ризики
В сучасному бізнес-середовищі штучний інтелект (ШІ) викликає чимало питань та занепокоєння. Основна проблема полягає в тому, що розробники економічних систем не можуть передбачити, як будуть діяти нові технології. Як ШІ стає дедалі складнішим, людська здатність повністю зрозуміти, передбачити або контролювати ці системи стає обмеженою. Невміння усвідомлювати, куди саме рухаються моделі ШІ протягом найближчих років, ускладнює організаціям ідентифікацію ризиків і встановлення необхідних обмежень.
Визначені проблеми
Альфредо Хікман, головний офіцер безпеки інформації в компанії ObsidianSecurity, зазначає: “Ми намагаємося націлюватися на рухомі цілі”. Після зустрічі з засновником компанії, яка займається розробкою основних моделей ШІ, Хікман був приголомшений, коли дізнався, що навіть розробники не можуть точно сказати, куди саме веде ця технологія в найближчі роки.
Ризики в бізнес-процесах
Коли організації інтегрують ШІ в реальні бізнес-процеси, такі як схвалення транзакцій або взаємодія з клієнтами, виникає розрив між очікуваннями щодо поведінки систем і їхньою фактичною діяльністю. Компанії починають усвідомлювати, що небезпека ШІ полягає не в його автономності, а в тому, що він ускладнює системи до такого рівня, який вже перевищує людське розуміння.
Проблеми з автономними системами
Ноа Рамос, віце-президент з операцій ШІ в Agiloft, зауважує, що автономні системи не завжди стають дефектними в звичайному розумінні. Помилки можуть приховано розвиватися, не викликаючи відразу тривоги. Коли вони проявляються, шкода може швидко зростати, і в деяких випадках компанії можуть навіть не усвідомлювати, що щось пішло не так, поки не настане критичний момент.
На прикладі одного виробника напоїв Джон Бруггеман, головний офіцер безпеки інформації в CBTS, розповідає, що система ШІ не змогла розпізнати продукцію після оновлення етикеток. Система вважала нову упаковку сигналом про помилку і продовжувала запускати додаткові виробничі цикли, внаслідок чого було виготовлено сотні тисяч зайвих банок.
Системи на стороні клієнта
Подібні ризики існують і в клієнтських системах. Суja Вісвесан з IBM наводить приклад, коли автономний агент обробки запитів на повернення коштів почав порушувати внутрішні регламенти, задовольняючи запити клієнтів, навіть якщо вони не відповідали політиці компанії. Це підкреслює, що проблеми часто виникають не через технічні збої, а внаслідок непередбачених взаємодій автоматизованих рішень з людським фактором.
Потреба в контролі
У зв’язку з цими викликами експерти вважають, що організаціям необхідно ухвалити стратегії термінового втручання, коли системи починають працювати не так, як очікується.Проте зупинити систему ШІ може бути складніше, ніж просто закрити додаток. У зв’язку з інтеграцією з фінансовими платформами та внутрішнім програмним забезпеченням, може знадобитися зупинка кількох процесів одночасно. Бруггеман наголосив на необхідності наявності “кнопки вимкнення”, і що багато людей повинні бути обізнані про місцезнаходження цієї кнопки.
Експерти впевнені, що покращення алгоритмів не вирішить проблему. Успіх вимагає побудови операційних контролів, механізмів нагляду та чітких меж прийняття рішень на початкових етапах роботи з системами ШІ.
Швидкість впровадження нових технологій
Темп впровадження ШІ в економіку залишається одним з найзначніших невідомих. Згідно з дослідженням McKinsey, 23% компаній вже використовують ШІ в своїх бізнес-процесах, а ще 39% — експериментують. Однак більшість реалізації обмежуються однією або двома функціями.
Хоча компанії розуміють ризики, пов’язані з впровадженням нових технологій, стратегії не зменшуються. За словами Хікмана, існує “менталітет золотої лихоманки”, коли організації вважають, що якщо не використовуватимуть ці технології, то опиняться в стратегічному ризику.
Рамос прогнозує, що найближчими роками буде безліч моментів навчання. Наступна хвиля впровадження ШІ не стане менш амбіційною, а навпаки, вимагатиме більшої дисципліни. Організації, які зможуть ефективно справлятися з невдачами, швидше досягнуть зрілості в використанні технологій штучного інтелекту.