Штучний інтелект (ШІ) стартап Anthropic опинився в безвихідній ситуації напередодні п’ятниці.
Компанія має до 17:01 за східним часом ухвалити рішення, чи дозволить Міністерству оборони (Міноборони) використовувати свої моделі без обмежень у всіх законних випадках. У разі відмови, міністр оборони Піт Хегсетх пригрозив включенням компанії до списку “ризиків ланцюга постачання” або змусити її підкоритися, скориставшись законом про оборонне виробництво.
Контракт з Міноборони
Anthropic підписала контракт на 200 мільйонів доларів із Міноборони у липні, ставши першою лабораторією ШІ, яка інтегрувала свої моделі в робочі процеси на закритих мережах. Компанія веде переговори з агентством та просить гарантії, що її технології не використовуватимуться для автономних видів озброєння або масового стеження за американцями.
“В окремих випадках ми вважаємо, що ШІ може підривати, а не захищати демократичні цінності,” — зазначив генеральний директор Anthropic Даріо Амодей у заяві. “Деякі застосування виходять за межі того, що сучасні технології можуть здійснювати безпечно і надійно.”
Попри це, Міноборони не погоджується на компроміси, і переговори перетворилися на тупикову ситуацію, що стало найбільш помітним випробуванням задекларованих цінностей Anthropic. Компанія протягом багатьох років формувала репутацію захисника безпечного і відповідального використання ШІ, займаючи контрастну позицію з OpenAI, де Амодей працював до створення Anthropic.
Однак Anthropic також піддається сильному тиску з вимогою виправдати свою оцінку в 380 мільярдів доларів, яку надають великі інституційні та стратегічні інвестори, поки компанія намагається залишатися на передовій розвитку моделей і протистояти конкуренції з боку OpenAI та інших суперників, включаючи Google і xAI Ілона Маска. Моделі всіх трьох цих компаній використовуються Міноборони.
Різні погляди на використання ШІ
Підкорення вимогам Міноборони може зашкодити репутації Anthropic і відштовхнути співробітників та клієнтів. Однак відмова надати військовим необмежений доступ до своїх моделей може призвести до значних втрат у доходах у короткостроковій перспективі та закрити доступ до майбутніх можливостей з іншими компаніями, які мають справу з урядом.
“У цій ситуації немає переможців,” — сказала Лорен Кан, старший аналітик у Центрі безпеки та нових технологій Джорджтаунського університету. “Це залишає в усіх гіркий присмак.”
Пенагон заявив, що не має наміру використовувати ШІ для повністю автономних видів озброєння або для масового стеження за американцями, що є незаконним. Агентство хоче, щоб Anthropic погодилася на використання своїх моделей для “усіх законних цілей.”
“Це проста, розумна вимога, яка запобігти ризику для критичних військових операцій,” — написав Пакнел у дописі в соцмережі. “Ми не дозволимо НІЯКІЙ компанії диктувати умови щодо наших оперативних рішень.”
У окремому дописі Еміл Міхаель, заступник міністра оборони з досліджень та інженерії, заявив, що Амодей є “брехуном і має комплекс Бога”, звинувативши його в прагненні контролювати армію США.
Хегсетх встановив термін для Anthropic на п’ятницю під час зустрічі з Амодеєм на початку тижня, попередивши, що наслідки за відмову можуть бути серйозними. Він заявив, що Anthropic може бути визнана “ризиком ланцюга постачання,” що зазвичай застосовується до компаній з країн, які вважаються противниками. Це змусило б постачальників і підрядників Міноборони підтвердити, що вони не використовують моделі Anthropic.