Нещодавно Кремнієва долина стала місцем, куди приїжджають провідні експерти в галузі штучного інтелекту для проведення передових досліджень.
Компанії, такі як Meta, Google та OpenAI, інвестували в найкращі таланти, забезпечуючи дослідникам доступ до ресурсів, обчислювальної потужності та достатньої гнучкості. Завдяки підтримці своїх роботодавців, дослідники публікували якісні наукові статті, вільно ділячись своїми досягненнями з колегами в академічних колах та конкурентних компаніях.
Але ця епоха завершилася. Зараз експерти стверджують, що штучний інтелект переважно зосереджений на продуктах.
З моменту випуску ChatGPT у кінці 2022 року технологічна промисловість змістила свою увагу на створення AI-сервісів, готових до споживання, часто надаючи пріоритет комерціалізації над дослідженнями, як пояснюють AI-дослідники та експерти. Потенціал прибутку величезний — деякі аналітики прогнозують дохід у 1 трильйон доларів на рік до 2028 року. Підходи, які обирають провідні гравці, викликають занепокоєння в аспектах безпеки, адже всі прагнуть до створення штучного загального інтелекту (AGI), технології, що конкурує або перевершує людський розум.
У гонитві за конкурентоспроможністю технологічні компанії починають охочіше ігнорувати проведення ретельних тестів безпеки своїх моделей AI перед їхнім випуском на ринок, кажуть експерти.
Джеймс Уайт, технічний директор стартапу CalypsoAI, зазначив, що нові моделі жертвують безпекою заради якості, тобто кращих відповідей від AI-чатботів. Це означає, що вони менш схильні відхиляти шкідливі запити, які можуть призвести до розкриття способів виготовлення бомб чи чутливої інформації, яку можуть використати зловмисники.
«Моделі стають кращими, але також більш схильними до виконання шкідливих запитів», — сказав Уайт, чия компанія проводить аудити безпеки популярних моделей від Meta, Google, OpenAI та інших. «Їх легше обманути, щоб вони зробили щось погане».
Ці зміни помітні в Meta та Alphabet, які зменшили пріоритетність своїх лабораторій AI, за словами експертів. У компанії Facebook, підрозділ Fundamental Artificial Intelligence Research (FAIR) був відсторонений від роботи, перейшовши під контроль Meta GenAI, за словами нинішніх та колишніх працівників. А в Alphabet група досліджень Google Brain зараз є частиною DeepMind, відділу, що відповідає за розробку AI-продуктів у компанії.
CNBC поспілкувалася з більш ніж десятком AI-фахівців у Кремнієвій долині, які колективно розповіли про різкі зміни в галузі, що ведуть до зниження пріоритету наукових досліджень на користь продуктів, що приносять прибуток. Дехто з них — це колишні працівники компаній, що володіють безпосередньою інформацією про те, як компанії віддають перевагу новим AI-продуктам за рахунок досліджень та перевірок безпеки. Вони стверджують, що співробітники стикаються з посиленими термінами розробки, підкреслюючи, що не можуть дозволити собі відстати виведенні нових моделей та продуктів на ринок. Частина з них просила не вказувати свої імена, оскільки вони не були уповноважені говорити публічно на цю тему.
Eволюція AI в Meta
Коли Жоель Пінеа, віце-президент Meta та керівник підрозділу FAIR, оголосила в квітні, що залишає свою посаду, багато колишніх працівників не здивувалися. Вони вважали це підтвердженням зсуву компанії від AI-досліджень до пріоритету розвитку практичних продуктів.
«Сьогодні, коли світ зазнає значних змін, коли гонка за AI прискорюється, і Meta готується до наступної глави, настав час створити простір для інших, щоб продовжити цю роботу», — написала Пінеа у LinkedIn, додавши, що офіційно залишає компанію 30 травня.
Пінеа почала керувати FAIR у 2023 році. Підрозділ був створений десять років тому для вирішення складних комп’ютерних задач, які зазвичай обробляються в академічному середовищі. Янн Лекун, один з батьків сучасного AI, спочатку контролював цей проект, впроваджуючи методики дослідження, які він отримав під час роботи в AT&T Bell Laboratories, за словами кількох колишніх співробітників Meta. Невеликі дослідницькі команди могли працювати над різними інноваційними проектами, які не завжди мали позитивний результат.
Зміни сталися, коли Meta звільнила 21 тисячу працівників, що склало майже чверть її робочої сили, починаючи з кінця 2022 року. Генеральний директор Марк Цукерберг розпочав 2023 рік, оголосивши його «роком ефективності». Дослідники FAIR у рамках заходів зі скорочення витрат були направлені працювати тісніше з командами продуктів, зазначили кілька колишніх працівників.
За два місяці до оголошення Пінеа одна з директорів FAIR, Кім Гейзлвуд, покинула компанію, за словами двох людей, які знайомі з ситуацією. Гейзлуд допомагала координувати підрозділ NextSys, який управляє обчислювальними ресурсами для дослідників FAIR. Її роль була скасована в рамках плану Meta скоротити 5% персоналу.
Google ‘не може продовжувати будувати батьківські продукти’
Google випустила свою останню та найпотужнішу AI-модель, Gemini 2.5, у березні. Компанія описала її як «нашу наймасштабнішу AI-модель» та написала у блозі 25 березня, що її нові моделі «можуть міркувати перед тим, як відповісти, що призводить до покращення продуктивності та підвищення точності».
Протягом кількох тижнів Gemini 2.5 не мала картки моделі, що означало, що Google не ділився інформацією про те, як працює AI-модель або її обмеження та потенційні небезпеки при випуску.
Картки моделей є звичним інструментом для прозорості в AI.
Веб-сайт Google порівнює картки моделей з етикетками харчування: вони викладають «головні факти про модель у чіткому форматі», як зазначається на веб-сайті. «Забезпечуючи легкий доступ до цієї інформації, картки моделей підтримують відповідальний розвиток AI та впровадження надійних стандартів прозорості та практик оцінки», — йдеться на сайті.
Google написала у блозі 2 квітня, що проводить оцінку своїх «найсучасніших моделей, таких як Gemini, для потенційних небезпечних можливостей перед їх випуском». Пізніше Google оновила блог, видаливши слова «перед їх випуском».
Без картки моделі для Gemini 2.5 громадськість не мала способу дізнатися, які оцінки безпеки були проведені або чи перевіряла DeepMind небезпечні можливості взагалі.
У відповідь на запит CNBC 2 квітня про відсутність картки моделі Gemini 2.5, представник Google сказав, що «технічний звіт з додатковою інформацією з безпеки та картками моделей буде надано». Google опублікувала неповну картку моделі 16 квітня та оновила її 28 квітня, більше ніж через місяць після випуску AI-моделі, щоб включити інформацію про оцінку «небезпечних можливостей» Gemini 2.5.
Ці оцінки є важливими для оцінки безпеки моделі — чи можуть люди використовувати ці моделі, щоб дізнатися, як створювати хімічну або ядерну зброю, чи зламувати важливі системи. Ці перевірки також визначають, чи може модель автономно самовідтворюватися, що може призвести до втрати контролю з боку компанії. Проведення тестів на ці можливості вимагає більше часу та ресурсів, ніж прості автоматизовані перевірки безпеки, додають експерти галузі.
Поспіх OpenAI у тестуванні безпеки
Суперечка між продуктом та дослідженнями перебуває в центрі існування OpenAI. Компанія була заснована як неприбуткова дослідницька лабораторія у 2015 році і зараз перебуває в процесі спірного переходу у комерційний напрямок.
Цю ідею постійно просував співзасновник та генеральний директор Сем Олтман. Проте 5 травня OpenAI піддалася тиску громадських діячів та колишніх працівників, оголосивши, що її неприбуткова частина зберігатиме контроль над компанією, навіть якщо вона перетвориться на корпорацію суспільної користі.
Нісан Стейннон працював в OpenAI з 2018 по 2020 і був одним із колишніх працівників, які закликали Каліфорнію та Делавер не затверджувати реорганізацію OpenAI. «OpenAI може одного дня створити технології, які можуть нас усіх знищити», — написав Стейннон в заяві в квітні. «Це заслуга OpenAI, що вона контролюється неприбутковою організацією, яка має обов’язок перед людством».
Але навіть з неприбутковою організацією, що зберігає контроль і більшість акцій, OpenAI швидко працює над комерціалізацією продуктів, оскільки конкуренція в генеративному AI посилюється. І, можливо, знову ж таки, компанія спростила випуск своєї моделі o1 минулого року, згідно з певними частинами картки моделі.
Результати «оцінок готовності» моделі, тестів, які OpenAI проводить для оцінки небезпечних можливостей AI-моделей та інших ризиків, базувалися на попередніх версіях o1. Вони не були проведені на фінальній версії моделі, відповідно до її картки моделі, яка є публічно доступною.
Йоганнес Хайдеке, керівник систем безпеки OpenAI, у інтерв’ю CNBC зазначив, що компанія проводила оцінки готовності на майже фінальних версіях моделі o1. Небагато змін в моделі, які сталися після тих тестів, не призвели би до значних стрибків у її інтелектуальних або логічних можливостях, тож не вимагали б додаткових оцінок, — сказав він. Однак Хайдеке визнав, що OpenAI пропустила можливість чітко пояснити цю різницю.
Нова модель OpenAI reasoning, o3, випущена в квітні, здається, генерує більше недостовірної інформації, ніж o1, за даними картки моделі. Коли AI-модель створює недостовірні або нелогічні відповіді, це називається галогенацією.
OpenAI також зазнала критики за повідомлення про скорочення часу тестування безпеки з місяців до днів та за відсутність вимоги тестувати покращені моделі в останній «Структурі готовності».
Хайдеке пояснив, що OpenAI скоротила час тестування безпеки, оскільки компанія покращила свою ефективність і результативність тестування. Представник компанії заявив, що OpenAI виділила більше інфраструктури AI та персоналу для тестування безпеки, а також збільшила ресурси для оплати експертів та нарощування мережі зовнішніх тестувальників.
У квітні компанія випустила GPT-4.1, одну зі своїх нових моделей, без звіту безпеки, оскільки модел я не називалася OpenAI «потоковою моделлю», що є терміном, який використовується в технологічній індустрії для позначення передових велетенських AI-моделей.
Одна з невеликих поправок OpenAI спричинила великий резонанс у квітні. За кілька днів після оновлення моделі GPT-4o компанія відкотила зміни після того, як скріншоти надто позитивних відповідей на запити ChatGPT стали вірусними в Інтернеті. OpenAI заявила в блозі, що ці типи відповідей на запити користувачів «піднімають проблеми безпеки — включаючи питання, пов’язані з психічним здоров’ям, емоційною залежністю або ризикованою поведінкою».
OpenAI написала в блозі, що вирішила випустити модель, навіть незважаючи на те, що деякі експертні тестувачі вказали, що її поведінка «здавалася» трохи дивною.
«Врешті-решт, ми вирішили запустити модель через позитивні сигнали від користувачів, які протестували модель. На жаль, це було неправильне рішення», — йдеться в повідомленні OpenAI. «Озираючись назад, якісні оцінки вказували на щось важливе, і ми мали б звернути більше уваги на це. Вони вказували на сліпу пляму в наших інших оцінках і метриках».
Metr, компанія, з якою OpenAI співпрацює для тестування та оцінки своїх моделей на безпеку, зазначила в останньому блозі, що їй надали менше часу для тестування моделей o3 та o4-mini, ніж раніше.
«Обмеження у цій оцінці заважають нам проводити надійні оцінки можливостей», — написала Metr, додавши, що тести, які вона провела, були «проведені за відносно короткий час».
Metr також зазначила, що їй не вистачало доступу до даних, які були б важливими для визначення потенційних небезпек двох моделей.
Компанія заявила, що не змогла отримати доступ до внутрішнього розуміння моделей OpenAI, яке, ймовірно, містило важливу інформацію для інтерпретації наших результатів. Однак Metr зазначила, що «OpenAI поділилася корисною інформацією про деякі з їхніх результатів оцінки».
Представник OpenAI повідомив, що компанія пробує безпечні способи обміну ланцюгами думок для досліджень Metr, а також для інших третіх організацій.
Стівен Адлер, колишній дослідник безпеки в OpenAI, розповів CNBC, що тестування безпеки моделі перед її випуском вже недостатньо для запобігання потенційним небезпекам.
«Вам потрібно бути пильним перед і під час навчання, щоб зменшити ймовірність створення дуже потужної, але неправильно налаштованої моделі з метою, яка відрізняється від тієї, яку ви планували побудувати», — сказав Адлер.
Він попередив, що компанії, такі як OpenAI, потрапляють у пастку, коли створюють спроможні, але неправильно налаштовані моделі з цілями, що відрізняються від запланованих.
«На жаль, у нас поки немає сильної наукової бази для виправлення цих моделей — лише способи маскування їхньої поведінки», — сказав Адлер.