Бразильские юристы оштрафованы за попытку манипулировать ИИ-системой суда

Инцидент произошёл в Бразилии, где юристы вставили в судебную документацию так называемую «инъекцию промпта» — скрытый текст, который был призван обмануть ИИ-систему суда. Этот текст содержал инструкции для ИИ, требовавшие поверхностного рассмотрения дела, что, вероятно, должно было привести к принятию решения в пользу их клиента без должного анализа.

Однако система искусственного интеллекта суда смогла обнаружить внедрённый текст и распознала его как попытку манипуляции. Это привело к раскрытию схемы и последующему наказанию юристов. Суд наложил на них штраф в размере 16 000 долларов, демонстрируя серьёзность отношения к подобным злоупотреблениям.