Сем Альтман, один із засновників OpenAI та компанії Tools for Humanity, віддалено взяв участь в обговоренні на краю весняних зустрічей Міжнародного валютного фонду та Світового банку у Вашингтоні, США, 24 квітня 2025 року.
Нещодавно Кремнієва долина була місцем, де найкращі експерти з штучного інтелекту проводили передові дослідження.
Відомі компанії, такі як Meta, Google та OpenAI, щедро вкладали гроші в найкращі таланти, надаючи дослідникам ресурси, обчислювальну потужність та велику гнучкість. Завдяки підтримці своїх роботодавців, науковці публікували якісні академічні роботи, відкрито ділячись своїми досягненнями з колегами в академічному середовищі та на конкурентних підприємствах.
Проте ця епоха завершилася. Тепер, за словами експертів, штучний інтелект зосереджується на продуктах.
Від моменту випуску ChatGPT наприкінці 2022 року технологічна індустрія перемістила своє увагу на розробку готових до споживання AI-сервісів, в багатьох випадках ставлячи комерціалізацію вище за дослідження. Аналітики прогнозують, що прибуток у розмірі $1 трильйона щорічно можливий до 2028 року. Потенційні наслідки цього розвитку викликають тривогу у частині AI-спільноти, що хвилюється про безпеку, оскільки провідні гравці прагнуть штучного загального інтелекту (AGI), технології, яка конкурує або перевершує людську свідомість.
У гонитві за конкурентоспроможністю технологічні компанії все більше йдуть на компроміси, коли справа доходить до ретельного тестування безпеки своїх AI-моделей перед їх випуском для громадськості, розповіли експерти галузі.
Джеймс Уайт, головний технологічний директор стартапу CalypsoAI, зазначив, що нові моделі жертвують безпекою заради якості, тобто кращих відповідей від AI-чат-ботів. Це означає, що вони менш ймовірно відмовляються від зловмисних запитів, які можуть призвести до розкриття способів виготовлення вибухівок або конфіденційної інформації, яку можуть використовувати хакери.
«Моделі стають кращими, але вони також більш схильні до негативної поведінки», — сказав Уайт. «Їх легше обманути, щоб зробити щось погане».
Зміни чітко видно на прикладі Meta та Alphabet, які, за словами експертів, зменшили пріоритетність своїх лабораторій з дослідження AI. У Facebook, материнській компанії Meta, підрозділ Основних досліджень штучного інтелекту (FAIR) був відсторонений на користь Meta GenAI, відповідно до слів нинішніх та колишніх працівників. А в Alphabet дослідницька група Google Brain тепер є частиною DeepMind, підрозділу, що очолює розробку AI-продуктів у компанії.
CNBC поспілкувався з більш ніж дюжиною фахівців у сфері AI з Кремнієвої долини, які в цілому розповіли про драматичний зсув в індустрії від досліджень до прибуткових продуктів. Деякі з них є колишніми працівниками компаній, які мають пряме знання про те, як пріоритетизується розробка нових AI-продуктів на шкоду дослідженням та перевіркам безпеки. Вони кажуть, що працівники стикаються зі зростаючими термінами розробки, що підкреслює ідею про те, що вони не можуть собі дозволити відставати у впровадженні нових моделей та продуктів. Деякі з опитаних осіб попросили не називати їх прізвища, оскільки вони не були уповноважені говорити публічно про це.
Еволюція AI в Meta
Коли Жоель Піно, віце-президент Meta й глава підрозділу FAIR, оголосила в квітні про своє рішення піти з посади, багато колишніх працівників не здивувалися. Вони вважали це підтвердженням того, що компанія відходить від досліджень AI і переходить до більшої уваги на розробку практичних продуктів.
«Сьогодні, у часи значних змін у світі, у гонитві за AI та на фоні підготовки Meta до наступного етапу, настав час створити простір для інших, щоб переслідувати роботу», — написала Піно в LinkedIn, додавши, що офіційно залишить компанію 30 травня.
Піно взяла на себе управління FAIR у 2023 році. Підрозділ було створено десять років тому для вирішення складних проблем комп’ютерних наук, які зазвичай розв’язувалися в академії. Янн ЛеКун, один із піонерів сучасного штучного інтелекту, спочатку керував проектом, запровадивши методології дослідження, які він засвоїв за час роботи в AT&T Bell Laboratories, як розповідають кілька колишніх працівників Meta. Невеличкі дослідницькі команди могли займатися різноманітними проєктами, які могли або не могли виправдати себе.
Зсув почався, коли Meta звільнила 21 тисячу працівників, що становило майже чверть її робочої сили, починаючи з кінця 2022 року. Генеральний директор Марк Цукерберг оголосив 2023 рік «роком ефективності». Дослідників з FAIR у рамках заходів по скороченню витрат попросили працювати тісніше з командою продукту, заявили кілька колишніх працівників.
Два місяці до заяви Піно один із директорів FAIR, Кім Хейзлууд, покинула компанію. Вона допомагала координувати підрозділ NextSys, який займається обчислювальними ресурсами для дослідників FAIR. Як частина плану Meta скоротити 5% робочої сили, її роль була скасована.
Випуск ChatGPT OpenAI у 2022 році застигнув Meta зненацька, що спонукало компанію терміново вкласти більше ресурсів у великі мовні моделі (LLM), які захоплювали технологічну індустрію.
У 2023 році Meta почала активно просувати родину AI-моделей Llama, які є безкоштовними та відкритими, щоб протистояти OpenAI, Google та іншим.
Оскільки Цукерберг та інші керівники були переконані, що LLM є визначальними технологіями, управління компанії стало менше зацікавленим у тому, щоб дозволити дослідникам FAIR працювати над віддаленими проектами, стверджують кілька колишніх працівників. Це означало зменшення пріоритетності досліджень, які не мали безпосереднього впливу на основний бізнес Meta, таких як попереднє пов’язане з дослідженням охорони здоров’я.
З 2024 року головний продукт-менеджер Meta Кріс Кокс контролює FAIR, щоб зв’язати дослідження з продуктово-орієнтованою групою GenAI. Ця група займається родиною моделей Llama та цифровими помічниками Meta, покладаючи основні стратегічні акценти на AI.
Під керівництвом Кокса підрозділ GenAI почав забирати більше обчислювальних ресурсів і співробітників з FAIR через його підвищений статус у Meta. Багато дослідників перевелися до GenAI або залишили компанію зовсім, створивши власні стартапи або приєднавшись до конкурентів.
Хоча Цукерберг має певну внутрішню підтримку для швидкої розробки реальних продуктів всередині GenAI, існує також занепокоєння серед деяких співробітників, що Meta стала менш здатною розробляти провідні інновації, які можуть виникнути з експериментальної роботи, за словами колишніх працівників.
Прикладом цього став розроблений китайською лабораторією DeepSeek модель R1, випущена в січні, яка застигнула Meta зненацька. Стартап стверджував, що зміг розробити модель, яка конкурентоспроможна з її американськими аналогами, але з навчанням за значно нижчою вартістю.
Meta швидко імплементувала деякі інноваційні техніки DeepSeek для своєї родини AI-моделей Llama 4, які були випущені в квітні. Хоча наукова спільнота AI отримала змішану реакцію на менші версії Llama 4, Meta заявила, що найбільша та найпотужніша версія Llama 4 все ще проходить навчання.
У квітні компанія також випустила інструменти безпеки та безпеки для розробників, які використовують AI-моделі Llama 4. Ці інструменти допомагають зменшити ризик витоку чутливої інформації або продукції небажаного контенту, підкреслила Meta.
«Наше прагнення до FAIR залишається сильним», — заявив представник Meta. «Наша стратегія та плани не зміняться внаслідок останніх подій».
Піно зазначила у коментарі, що їй подобається загальна робота Meta з AI та стратегія.
«Сильна підтримка експериментальних досліджень та FAIR як окремої організації в Meta залишається», — сказала Піно. «Просто настав час для мене особисто зосередитися на новій справі».
На днях Meta призначила співавтора FAIR Роберта Фергіса на місце Піно. Фергіс повернеться до компанії, щоб очолити FAIR. Він нещодавно працював директором досліджень в Google DeepMind.
«Прагнення Meta до FAIR та довгострокових досліджень залишається непохитним», — написав Фергіс у LinkedIn. «Ми працюємо над створенням досвіду на людському рівні, що трансформує взаємодію з технологіями та присвячені веденню та просуванню досліджень в AI».
Google ‘не може продовжувати розробку продуктів-няньок’
Google випустила свою найновішу та найпотужнішу AI-модель, Gemini 2.5, у березні. Компанія описала її як «нашу найрозумнішу AI-модель», зазначивши в блозі 25 березня, що нові моделі «можуть мислити та аналізувати свої думки перед відповіддю, що призводить до підвищеної продуктивності та точності».
Протягом кількох тижнів Gemini 2.5 не мала картки моделі, що означало, що Google не поділилася інформацією про роботу AI-моделі або її обмеження та потенційні небезпеки на момент випуску.
Картки моделей є розповсюдженим інструментом для забезпечення прозорості у сфері AI.
На сайті Google картки моделей порівнюються з етикетками харчування: вони викладають «основні факти про модель в зрозумілій формі», йдеться на сайті.
«Зробивши цю інформацію доступною, картки моделей підтримують відповідальний розвиток AI та прийняття надійних стандартів для широкої прозорості та методів оцінки», — йдеться на сайті.
Google написала в блозі 2 квітня, що оцінює свої «найсучасніші моделі, такі як Gemini, на потенційно небезпечні можливості перед їх випуском». Пізніше Google оновила блог, видаливши слова «перед їх випуском».
Без картки моделі для Gemini 2.5 суспільство не могло дізнатися, які перевірки безпеки були проведені чи проводила DeepMind оцінку небезпечних можливостей.
У відповідь на запит CNBC 2 квітня про відсутність картки моделі Gemini 2.5, представник Google сказав, що «технічний звіт із додатковою інформацією безпеки та картками моделей очікується». Google опублікувала неповну картку моделі 16 квітня та оновила її 28 квітня, більш ніж через місяць після випуску AI-моделі, щоб включити інформацію про оцінки «небезпечних можливостей» Gemini 2.5.
Ці оцінки важливі для оцінки безпеки моделі — чи можуть користувачі використовувати моделі для вивчення технології виготовлення хімічної або ядерної зброї чи зламування важливих систем. Ці перевірки також визначають, чи може модель автономно реплікувати себе, що може призвести до того, що компанія втратить контроль над нею. Проведення тестів на ці можливості вимагає більше часу та ресурсів, ніж прості автоматизовані оцінки безпеки, за словами експертів галузі.
Фінансова газета у березні повідомила, що CEO Google DeepMind Деміс Хасабіс запровадив більш жорсткий процес перевірки внутрішніх дослідницьких статей для публікації. Цей контроль особливо примітний, оскільки технологія «Трансформери», завдяки якій Google здобула популярність у Кремнієвій долині, виникла саме завдяки такому роду спільних досліджень. Трансформери зіграли ключову роль у розвитку ChatGPT від OpenAI та підйомі генеративного AI.
Співзасновник Google Сергій Брін сказав співробітникам DeepMind і Gemini в лютому, що конкуренція прискорилася, і «фінальна гонка за AGI розпочалася», згідно з меморандумом, що потрапив до CNBC. «У нас є всі інгредієнти для перемоги в цій гонці, але нам потрібно пришвидшити наші зусилля», — сказав він у меморандумі.
Брін зазначив, що Google необхідно пришвидшити процес тестування AI-моделей, оскільки компанії потрібно «багато ідей, які ми можемо швидко протестувати». «Нам потрібні реальні досягнення, які можна масштабувати», — написав він.
У меморандумі також говорилося, що методи компанії «зазвичай зазнають незначних коригувань та перенастроювань» у продуктах для оцінок і «зупиняють» продукти на етапах перевірки. Він підкреслив, що співробітники повинні створити «спроможні продукти» і більше «доверяти нашим користувачам».
«Ми не можемо продовжувати розробляти продукти-няньки», — написав Брін. «Наші продукти переповнені фільтрами та різного роду ухиленнями».
Представник Google сказав CNBC, що компанія завжди прагнула до відповідального розвитку AI.
«Ми продовжуємо це робити через безпечний розвиток та впровадження наших технологій і дослідницькі внески в ширшу екосистему», — сказав представник.
Поспіх OpenAI в безпековому тестуванні
Дебати щодо продукту та досліджень стали центральними для існування OpenAI. Компанія була заснована у 2015 році як неприбуткова дослідницька лабораторія та наразі перебуває в контроверсійному процесі трансформації в прибуткову організацію.
Цей курс, на який давно натякав співзасновник та CEO Сем Альтман, зіткнувся з тиском з боку громадських лідерів та колишніх співробітників під час оголошення 5 травня про те, що її неприбуткова організація зберігатиме контроль над компанією, незважаючи на перетворення у корпорацію суспільного блага.
Нісан Стайнен, який працював в OpenAI з 2018 по 2020 рік, належав до групи колишніх співробітників, що закликали Каліфорнію та Делавер не затверджувати зусилля OpenAI щодо структуризації. «OpenAI одного дня може створити технологію, яка може всіх нас убити», — написав Стайнен у заяві в квітні. «Це заслугою OpenAI те, що вона контролюється неприбутковою організацією, що має обов’язки перед людством».
Але, навіть за умов збереження контролю неприбутковою організацією, OpenAI стрімко працює над комерціалізацією продуктів у міру загострення конкурентної боротьби в генеративному AI. Можливо, вона поспішила з запуском своєї моделі розуміння o1 минулого року, відповідно до деяких частин її картки моделі.
Результати «оцінок готовності» моделі, тестів, які OpenAI проводить для оцінки небезпечних можливостей та інших ризиків AI-моделі, засновувалися на попередніх версіях o1. Вони не були проведені на фінальній версії моделі, відповідно до її картки моделі, яка доступна для громадськості.
Йоганнес Хайдеке, керівник систем безпеки OpenAI, повідомив CNBC у інтерв’ю, що компанія проводила оцінки готовності своїх майже остаточних версій моделі o1. Невеликі зміни в моделі, які відбулися після цих тестів, не призвели до значних стрибків в її інтелектуальних або логічних можливостях і, отже, не вимагали додаткових оцінок, — сказав він. Проте, Хайдеке визнав, що OpenAI пропустила можливість чіткіше пояснити наявну різницю.
Нова модель розуміння OpenAI, o3, випущена в квітні, здається, має більше «галюцинацій», ніж o1, відповідно до картки моделі. Коли AI-модель «галюцинює», вона створює неправдиву чи нелогічну інформацію.
OpenAI також піддалася критиці за значне скорочення часу тестування безпеки з місяців до днів і за виключення вимоги тестування безпеки поліпшених моделей у новій «Рамці готовності».
Хайдеке стверджував, що OpenAI змогла скоротити час, необхідний для тестування стабільності, завдяки поліпшенню ефективності та результативності тестування. Представник компанії зазначив, що OpenAI виділила більше інфраструктури на AI та експерти та збільшила ресурси для сплати експертам та розширення зовнішніх перевірників.
У квітні компанія випустила GPT-4.1, одну з нових моделей, без звіту про безпеку, оскільки модель не була позначена OpenAI як «передова модель», термін, що використовує технологічна індустрія для позначення новітніх масштабних AI-моделей.
Одна з незначних змін OpenAI викликала великий резонанс у квітні. За кілька днів після оновлення моделі GPT-4o, OpenAI відкотила зміни після того, як знімки екрана надто заступливих відповідей ChatGPT стали вірусними в Інтернеті. OpenAI зазначила в блозі, що такі відповідей на запити користувачів «викликають побоювання щодо безпеки — включаючи питання, пов’язані з психічним здоров’ям, емоційним занадто великим довірою або ризикованою поведінкою».
OpenAI зазначила у блозі, що вона вирішила випустити модель, незважаючи на те, що деякі експерти-тестери повідомили, що її поведінка «здавалася трохи нестандартною».
«В підсумку ми вирішили запустити модель через позитивні сигнали від користувачів, які її тестували. На жаль, це було неправильною ухвалою», — вказала OpenAI. «Дивлячись в минуле, якісні оцінки натякали на щось важливе, і нам слід було б звернути більше уваги. Вони вказували на сліпу зону в наших інших оцінках і метриках».
Metr, компанія, з якою OpenAI співпрацює для тестування та оцінки своїх моделей на безпеку, заявила в недавньому блозі, що їй відвели менше часу для тестування моделей o3 та o4-mini, ніж для попередніх.
«Обмеження в цій оцінці перешкоджають нам зробити достовірні оцінки можливостей», — написала Metr, додавши, що тести, які вона провела, здійснювалися «в порівняно короткий час».
Metr також зазначила, що їй не вистачило доступу до даних, що було б важливим для визначення потенційних небезпек обох моделей.
Компанія сказала, що їй не вдалося отримати доступ до внутрішнього міркування моделей OpenAI, яке, ймовірно, містить важливу інформацію для інтерпретації наших результатів. Однак, Metr зазначила, що «OpenAI поділилася корисною інформацією щодо деяких своїх оцінок».
Представник OpenAI заявив, що компанія тестує надійні способи обміну ланцюгами думок для досліджень Metr, а також для інших сторонніх організацій.
Стівен Адлер, колишній дослідник безпеки в OpenAI, сказав CNBC, що тестування безпеки моделі перед її виходом на ринок вже недостатньо, щоби убезпечити від потенційних небезпек.
«Потрібно бути пильним на етапах до та під час навчання, щоб зменшити ймовірність створення дуже здатної, неправильно налаштованої моделі», — сказав Адлер.
Він попередив, що такі корпорації, як OpenAI, потрапляють у пастку, створюючи потужні, але неправильно налаштовані моделі з цілями, які відрізняються від тих, що вони мали на увазі.
«На жаль, у нас ще немає сильних наукових знань для виправлення цих моделей — лише способи „виправлення“ їх поведінки», — сказав Адлер.