В мае 2026 года Россия стала свидетелем исторического события: впервые компанию оштрафовали за использование искусственного интеллекта при подготовке официального документа. Этот прецедент стал тревожным звонком как для бизнеса, так и для юридического сообщества.
Суть дела: "Галлюцинации" нейросети привели к штрафу
Кемеровская компания ООО «***» была оштрафована на 50 000 рублей. Причиной стало предоставление в кассационной жалобе заведомо ложных сведений, сгенерированных ИИ. Суд расценил это как "прямой обман суда и грубейшее проявление неуважения к правосудию".
Нейросеть "выдумала" следующее:
- Несуществующие судебные акты: В жалобе были ссылки на несуществующие определения Верховного Суда РФ и других инстанций.
- Фиктивные цитаты: Были приведены вымышленные цитаты из этих несуществующих решений.
- Прямой обман: Представитель компании в суде признал, что указанная судебная практика отсутствует.
Эта ситуация – яркий пример "галлюцинаций" больших языковых моделей. Когда алгоритму не хватает информации, он не всегда сигнализирует об этом, а может додумать или "сгенерировать" недостающие данные, выдавая их за достоверные.
Позиция суда: ответственность всегда на человеке
Арбитражный суд Западно-Сибирского округа четко обозначил правовую позицию: "использование искусственного интеллекта не освобождает участников процесса от ответственности за достоверность представленных сведений". Таким образом, попытка оправдаться использованием нейросети не увенчалась успехом - ответственность осталась за автором документа, а факт подачи жалобы уже имел место.
Практические уроки для бизнеса
Этот случай наглядно демонстрирует, что бесконтрольное увлечение нейросетями чревато серьезными рисками, от финансовых потерь до юридических проблем. Чтобы минимизировать их, важно придерживаться двух ключевых правил:
- Нулевое доверие к ИИ (Zero Trust AI): Всегда тщательно проверяйте любые сгенерированные данные, особенно если они предназначены для официальных органов.
- Смена статуса ИИ: Рассматривайте нейросеть не как самостоятельного "эксперта", а исключительно как инструмент для черновиков и сбора информации.
Этот прецедент подчеркивает, что технологии, какими бы продвинутыми они ни казались, требуют человеческого контроля и критического осмысления. В эпоху стремительного развития ИИ, когда его возможности кажутся безграничными, важно помнить о его ограничениях и потенциальных подводных камнях.
Делитесь с коллегами!
———
Мы делаем сложное понятным! ИД Советник, ж-л Директор по безопасности, ж-л Безопасность компании
Подписывайтесь на наши ресурсы:
