Суддя в Каліфорнії звинуватив дві юридичні фірми у недекларованому використанні штучного інтелекту після отримання додаткового документа, що містить “безліч хибних, неточних та оманливих юридичних цитат і висловлювань”. У своєму рішенні, поданому минулого тижня, суддя Майкл Вілнер наклав штраф у розмірі 31 000 доларів на залучені юридичні фірми, зазначивши, що “жоден розумно компетентний адвокат не повинен вдаватися до аутсорсингу досліджень і написання” на штучний інтелект, як вказали професори права Ерік Голдман та Блейк Рейд.
Суддя Вілнер написав: “Я прочитав їхній документ, мене переконали (або, принаймні, зацікавили) посилання, які вони наводили, і я став шукати рішення, щоб дізнатися про них більше — і виявив, що їх не існує. Це лякає. Це майже призвело до ще більш страшного результату (з моєї точки зору) включення цих фіктивних матеріалів до судового рішення”.
Згідно з поданим матеріалом, юридичний представник позивача у цивільному процесі проти State Farm використовував AI для створення плану для додаткового документа. Однак цей план містив “вигадане дослідження, згенероване ШІ”, коли був надісланий до іншої юридичної фірми, K&L Gates, яка додала цю інформацію до документа. “Жоден адвокат або працівник жодної з фірм, очевидно, не перевірив цей матеріал перед поданням документу”, – зазначив суддя Вілнер.
Переглядаючи документ, суддя виявив, що “принаймні два з наведених джерел зовсім не існують”. Після запиту до K&L Gates про роз’яснення, фірма повторно надіслала документ, який, на думку судді Вілнера, містив “значно більше вигаданих цитат і висловлювань, окрім двох первісних помилок”. Він тоді видав наказ, що примушує юристів дати свідчення під присягою, які підтвердили використання штучного інтелекту. Адвокат, який створив план, визнав, що використовував Google Gemini, а також інструменти юридичного дослідження на Westlaw Precision із CoCounsel.
Це не перший випадок, коли юристи були викриті у використанні ШІ в суді. Колишній адвокат Трампа Майкл Коен наводив вигадані судові справи в юридичному документі, переплутавши Google Gemini, який тоді називався Bard, із “потужною пошуковою системою”, а не чат-ботом ШІ. Суддя також виявив, що адвокати, що позивають колумбійську авіакомпанію, включили в свій документ безліч фальшивих справ, згенерованих ChatGPT.
“Початкове, недеклароване використання ШІ для генерації першого проекту документа було огидно неправильним”, – підкреслює суддя Вілнер. “А надсилання цього матеріалу іншим юристам без розкриття його сумнівного походження насправді поставило цих професіоналів у небезпеку”.