Компанія ZeroPoint Technologies AB анонсувала революційну технологію апаратного стиснення AI-MX, яка дозволяє збільшити ефективну пам’ять великих мовних моделей на 50%. Це відкриває нові можливості для оптимізації центрів обробки даних та прискорення роботи штучного інтелекту.
Що таке AI-MX
AI-MX – це інноваційне рішення для стиснення та розпакування пам’яті, розроблене для базових моделей ШІ, зокрема LLM. Завдяки цій технології зростає ефективний обсяг пам’яті та підвищується продуктивність моделей ШІ. Крім того оптимізується використання пропускної здатності пам’яті, що особливо важливо для гіпермасштабних дата-центрів.
Ключова особливість AI-MX – апаратне прискорення процесів стиснення, ущільнення та керування пам’яттю, що дозволяє працювати з наносекундною затримкою, з різними типами пам’яті, на рівні корпоративних і дата-центрів, що допомагає економити мільярди доларів на масштабних ШІ-операціях.
Генеральний директор компанії ZeroPoint Technologies Клас Моро заявив, що AI-MX може радикально змінити економіку обчислень, скорочуючи витрати на зберігання та обробку даних у ШІ-моделях.
Компанія не зупиняється на досягнутому і вже працює над подальшим удосконаленням AI-MX, прагнучи перевищити 1,5-кратне збільшення пам’яті у наступних версіях.
Технологія стане доступною для клієнтів та партнерів у другому кварталі 2025 року.