Адвокаты извинились за использование ИИ Claude для подделки цитат в деле об увольнениях Трампа

В федеральном деле, связанном с увольнениями сотрудников FEMA при администрации Дональда Трампа, адвокаты признались в использовании искусственного интеллекта для подготовки судебных документов. В пятницу адвокат Джейсон Гривз подал заявление, в котором подтвердил, что использовал инструмент Claude Console от компании Anthropic для составления ходатайства. В результате в документе появились вымышленные цитаты, которые суд назвал «фантомными».

Гривз объяснил свои действия «жесткими временными ограничениями» и принёс извинения. Он представляет бывшего сотрудника Министерства внутренней безопасности, который оспаривает увольнения. Спор возник вокруг запроса о предоставлении документов по увольнениям.

Инцидент стал очередным примером того, как галлюцинации ИИ проникают в юридическую практику. Ранее в других делах также фиксировались случаи, когда нейросети генерировали несуществующие судебные прецеденты или цитаты. Это вызывает обеспокоенность среди юристов и судей, которые призывают к осторожности при использовании ИИ в судопроизводстве.

По данным издания Decrypt, суд пока не вынес решения по данному делу. Адвокаты заявили, что готовы исправить ошибки и предоставить корректные материалы. Эксперты отмечают, что данная ситуация подчёркивает необходимость проверки контента, созданного ИИ, перед подачей в суд.

Компания Anthropic, разработчик Claude, не комментировала инцидент. В своей политике использования они рекомендуют пользователям проверять выводы модели на точность. Адвокатская палата также может рассмотреть вопрос о дисциплинарной ответственности адвокатов за использование ненадёжных инструментов.