Суддя штату Коннектикут покарав чоловіка, який потай додав у судові документи інструкції для ШІ. Текст, непомітний для людини, мав схилити на користь позивача будь-яку з систем штучного інтелекту під час аналізу документів. Про це пише Reuters.
Суддя Волтер Спейдер-молодший виявив у документах позивача Меттью Елліота текст білого кольору, надрукований дуже дрібним шрифтом. Для людського ока підказка непомітна, однак програмне забезпечення, яке зчитувало текст документа, змогло її розпізнати.
По темі: Юридична фірма із ШІ вперше виграла справу в Британії – позивачка повернула $9 500, витративши 6% суми
Передбачається, що Елліот використав промпт-ін’єкції – техніку, за якої спеціально сформульований текст змушує моделі штучного інтелекту проігнорувати початково встановлені правила і виконати нові вказівки. У конкретному випадку, за словами судді, інструкції мали спонукати ШІ-інструменти видати вигідний позивачу результат і трактувати попереднє рішення судового клерка як помилку.
Що цікаво, вже після попередження судді в інших судових документах також виявили ШІ-підказки від Елліота, однак вони не стосувались промпт-ін’єкцій.
Чоловік, який представляє себе у справі самостійно, каже, що додав прихований текст, аби “перевірити процес розгляду документів судом”, а слова, включені до наступних документів, були “жартом”. Суддя Спейдер тим часом зазначив, що загалом позитивно ставиться до ШІ й навіть сам використовує інструмент, однак спроба позивача додати набір інструкцій “свідчить про зловмисну мету”.
Суддя також сказав, що судова система Коннектикуту не використовує ШІ-інструменти для перевірки або ухвалення рішень щодо поданих документів, тож спроба позивача навряд би була успішною. В результаті Елліоту заборонили подавати документи в електронному вигляді й зобов’язали приносити паперові версії до канцелярії суду.
Адвокат юридичної фірми Garfunkel Wild, яка спеціалізується на медичному праві та представляє відповідача New York Bariatric Group, поки не відповів на запит про коментар. Сам позов містить звинувачення, пов’язані з наданням медичних записів, дискримінацією та іншими претензіями.
Читайте також: Суд у США закрив справу після того, як адвокати подали документи з вигаданими даними ШІ
