Студенти коледжів, які зазнали надмірної залежності від ChatGPT, починають відчувати наслідки після закінчення навчання та приєднання до робочої сили, оскільки покладали занадто багато надій на чат-боти.
Минулого місяця один з випускників юридичного факультету втратив свою роботу після того, як використав ChatGPT для підготовки судового подання, яке виявилося сповненим помилок.
Проблеми почалися, коли суд штату Юта наклав санкції через те, що в поданні було міститься перша штучна цитата, яка ніколи не була виявлена в штаті, створена штучним інтелектом.
Крім того, тричленна колегія суддів Юти виявила, що в документі є “безліч” неправильно цитованих справ, а також “принаймні одна справа, яка не існує в жодній правовій базі даних (і може бути знайдена тільки в ChatGPT).”
Дуглас Дурбано, юрист, причетний до підготовки документа, і Річард Беднар, адвокат, який підписав і подав його, зобов’язані були самостійно перевірити точність перед тим, як суд витрачав час на оцінювання фальшивої цитати, зазначила думка колегії.
“Ми підкреслюємо, що кожен адвокат має постійну повинність перевіряти та забезпечувати точність своїх судових подань,” — йдеться в заяві колегії, зазначаючи, що юристи “не дотрималися своїх обов’язків як члени Адвокатської асоціації штату Юта, коли подали петицію з фальшивим прецедентом, створеним ChatGPT.”
Фальшиву цитату, напевно, було б легше виявити, якби існував належний процес перевірки. Коли один із журналістів попросив ChatGPT підсумувати фальшивий випадок “Royer v. Nelson, 2007 UT App 74, 156 P.3d 789”, чат-бот надав жодних деталей, окрім ствердження, що “ця справа стосується суперечки між двома особами, Ройром і Нельсоном, в Апеляційному суді Юти”, що викликає підозри.
Вибачившись і обіцяючи “виправитися”, юридична фірма повідомила суду, що випускник юридичного факультету працював як некваліфікований юрисконсульт і не сповістив нікого про використання ChatGPT. На той час юридична фірма не мала політики щодо ШІ, яка могла б запобігти включенню фальшивого юридичного прецеденту до подання. Але після виявлення адвокати запевнили суд, що була розроблена нова політика, а адвокат Беднара, Метью С. Барнек, повідомив, що юрисконсульт був звільнений, незважаючи на відсутність “формальної або неформальної” політики, яка б забороняла неналежне використання ШІ.