Юридическая фирма Sullivan & Cromwell извинилась за «галлюцинации» ИИ в судебных документах

Проблема выявилась после подачи процессуального документа в деле о банкротстве, где были обнаружены вымышленные судебные прецеденты и некорректные цитаты. Эти ошибки, известные как «галлюцинации» ИИ, означают ситуации, когда модель придумывает несуществующие источники или искажает юридические данные.

В письме, направленном суду, представитель фирмы признал, что при подготовке документа были нарушены внутренние процедуры проверки, включая правила использования ИИ и обязательный контроль качества. Ошибки были выявлены другой юридической стороной, участвующей в процессе.

Суть дела связана с банкротным процессом, где рассматриваются претензии к крупной международной компании. Суду пришлось отдельно разбираться с тем, какие именно аргументы и ссылки являются корректными, а какие были ошибочно сгенерированы системой.

Sullivan & Cromwell подчеркнула, что подобные случаи недопустимы и что фирма усиливает контроль за использованием ИИ в юридической работе.

Инцидент стал очередным примером растущей проблемы в юридической сфере: адвокаты всё чаще используют ИИ для подготовки документов, но недостаточная проверка приводит к ошибкам, которые могут повлиять на ход судебных процессов и репутацию участников.