У вівторок компанія OpenAI повідомила, що нова версія її вдосконаленого моделювання міркувань — o3-pro — стала доступною для користувачів ChatGPT Pro і Team, замінивши попередню версію o1-pro у виборі моделей. Компанія також зменшила ціни на API для o3-pro на 87% у порівнянні з o1-pro, а ціни на стандартну версію o3 — на 80%. Хоча термін «міркування» є корисним для деяких аналітичних завдань, нові дослідження ставлять під сумнів, що насправді він означає у контексті цих AI-систем.
Ми розглянемо поняття «міркування» детальніше, але спочатку зосередимося на нововведеннях. Хоча o3 (не pro) був запущений ще у квітні, модель o3-pro спеціалізується на математиці, науці та програмуванні, додаючи нові можливості, такі як веб-пошук, аналіз файлів, аналіз зображень та виконання коду на Python. Оскільки інтеграція цих інструментів уповільнює час відповіді (який вже був довшим за o1-pro), OpenAI рекомендує використовувати цю модель для складних задач, де важливіші точність, ніж швидкість. Однак вони не гарантуюють, що ця модель менше «галюцинує» порівняно з моделями «без міркувань» (фактичні помилки все ще можуть з’являтися), що є суттєвим застереженням при пошуку точних результатів.
Крім заявлених покращень продуктивності, OpenAI оголосила про значне зменшення цін для розробників. Використання o3-pro коштує 20 доларів за мільйон токенів на вхід та 80 доларів за мільйон токенів на вихід у API, що робить його на 87% дешевшим за o1-pro. Компанія також знизила ціну стандартної моделі o3 на 80%.
Ці зниження враховують одну з головних проблем моделей міркувань — їх високу ціну у порівнянні зі стандартними моделями. Початкова вартість o1 складала 15 доларів за мільйон токенів на вхід та 60 доларів за мільйон токенів на вихід, тоді як o3-mini вартувала 1,10 долара за мільйон токенів на вхід і 4,40 долара за мільйон токенів на вихід.
Чому варто використовувати o3-pro
На відміну від універсальних моделей, таких як GPT-4o, які акцентують увагу на швидкості, широких знаннях і створенні комфортних відчуттів для користувачів, o3-pro застосовує симульоване міркування на основі ланцюгів думок, щоб витрачати більше токенів на вихід для розв’язання складних проблем, що робить її загалом кращою для технічних задач, які потребують глибшого аналізу. Але вона все ще не є ідеальною.