Компанія Microsoft представила передову ШІ-модель Phi-2, яка налічує 2,7 млрд параметрів. Головною її особливістю є здатність конкурувати, а часто й перевершувати ІІ-моделі, що в 25 разів перевищують її за розміром. Про це пише SiliconAngle.
Дані для навчання моделі були ретельно відібрані та структуровані, що сприяло точності та ефективності процесу. Такий підхід дозволяє Phi-2 більш ефективно переносити знання та тлумачення, отримані з інших моделей. Це зміцнює її здібності у галузях розуміння мови, логічного мислення та обробки інформації.
Модель можна порівняти з великими конкурентками, такими як 7B Mistral компанії Mistral AI, 13B Llama-2 компанії Meta і навіть 70B Llama-2. Вона здатна перевершувати навіть Gemini Nano компанії Google – найефективнішу модель у серії, призначену для роботи на мобільних пристроях.
Таким чином, Phi-2 має потенціал у галузі мобільних технологій. Вона зможе надавати функції автоматичного резюмування текстів, виправлення граматики, а також контекстуальних інтелектуальних відповідей.
Phi-2 є частиною серії малих мовних моделей (SLM) компанії Microsoft. Перша модель цієї серії, Phi-1 з 1,3 млрд параметрів, вийшла раніше цього року і була націлена на завдання програмування мовою Python.
У вересні була представлена Phi-1.5 з аналогічною кількістю параметрів, але навчена на нових даних, включаючи синтетичні тексти, створені за допомогою програмування природною мовою.