Генеральний директор компанії Anthropic Даріо Амодей у четвер оприлюднив есе, в якому акцентував увагу на обмеженому розумінні механізмів роботи найсучасніших моделей штучного інтелекту.
Про це повідомляє TechCrunch.
Даріо Амодей поставив перед своєю компанією ціль — до 2027 року навчитися заздалегідь і надійно виявляти більшість потенційних проблем у ШІ-системах.
У матеріалі під назвою “Терміновість інтерпретації” Амодей визнає, що попри певні прориви в аналізі шляхів, якими моделі формують свої відповіді, потрібна значно глибша дослідницька робота. Чим потужнішими стають ці системи, тим складніше зрозуміти, як саме вони мислять.
“Мене глибоко непокоїть той факт, що ми можемо впроваджувати такі автономні технології в економіку, оборону й суспільство без чіткого розуміння їхньої роботи“, — заявив він. — “Це надто ризиковано для людства“.
Anthropic — одна з провідних компаній, що спеціалізується на так званій механістичній інтерпретації — напрямі досліджень, який прагне розкрити “чорну скриньку” нейромереж і пояснити логіку їхніх рішень. Попри зростання ефективності штучного інтелекта, наука досі стоїть перед фундаментальним викликом — з’ясувати, як ці системи справді функціонують на глибшому рівні.