ИИ в суде – такой же сложный вопрос, как и в медицине
Свежая история – суд по интеллектуальным правам оштрафовал на 5000 рублей предпринимателя из Удмуртии — за то, что в кассационной жалобе он сослался на судебную практику, которой не существует в природе. Придумал ее, конечно, не он: нейросеть, которой он доверился при подготовке документов, подобрала бизнесмену судебные акты — только вымышленные (мы же знаем, что это любимое занятие ИИ – придумывать правдоподобное).
Суд на такую аргументацию обиделся и счел такое поведение ответчика неуважением... Кстати, это уже не первый такой случай: раньше мне уже встречалось, как юристов одной компании оштрафовали на 50 тысяч за несуществующие судебные акты с вымышленными цитатами.
Во всех случаях позиция суда понятна, отвечает за аргументацию в судебном споре не нейросеть, а тот, кто подписал документ. У ИИ нет процессуальных прав — а значит, и оправдания «я не проверял, доверился технологиям» тоже нет, если по-взрослому.
Но вот что интересно. Сама судебная система вовсе не против использовать ИИ — скорее наоборот, подряжает его весьма охотно. Буквально неделей раньше Судебный департамент при Верховном суде отчитался об эксперименте с ИИ в судах, его использование расширили с 10 до 21 региона. Нейросети (строго отечественные) уже транскрибировали почти 7000 часов заседаний — это 288 суток непрерывной судебной речи, которую больше не надо вручную расшифровывать секретарям для занесения в протокол.
И вот тут эти два сюжета неожиданно сходятся. В истории с Удмуртией все возмущены: нейросеть выдумала практику, а человек не удосужился ее проверить. Но если она способна выдумать несуществующее судебное решение — где гарантия, что при транскрибации заседания она нигде не «недослышала», не переставила слово, не переписала важную оговорку? Судебный протокол — не расшифровка дискуссии в студенческом клубе, это документ, который можно оспаривать именно по содержанию: было сказано так или иначе. Кто и как проверяет, что ИИ-расшифровка соответствует тому, что реально происходило в зале?
Получается, оба сюжета не про то, что нейросети можно доверить рутину, но нельзя — формулирование позиции. Оба про то, что объем информации, которую ИИ создает или обрабатывает, растет быстрее, чем растет инфраструктура проверки этой информации на соответствие действительности. И это, кажется, вообще главный вопрос момента — далеко за пределами зала суда. Не «использовать ИИ или нет» — его уже все используют, и по полной. А как при этом обеспечить достоверность: кто, на каком этапе и как встраивает верификацию после каждого действия ИИ?
Не совсем понятно, по каким причинам, но нейросеть при поиске информации врет чуть ли не чаще, чем приносит в лукошке правду. От этого главное правило ответственного пользователя ИИ, с какой бы стороны процесса он ни находился, не верить ничему из сгенерированного и проверять все досконально! И еще раз проверять!
_____________________________
🤯 "Мир со сдвигом" тут
🍀 "100 % Зеленого" тут
#ИИ #суд #Нейросети #ВерификацияИИ #МирСоСдвигом
Свежая история – суд по интеллектуальным правам оштрафовал на 5000 рублей предпринимателя из Удмуртии — за то, что в кассационной жалобе он сослался на судебную практику, которой не существует в природе. Придумал ее, конечно, не он: нейросеть, которой он доверился при подготовке документов, подобрала бизнесмену судебные акты — только вымышленные (мы же знаем, что это любимое занятие ИИ – придумывать правдоподобное).
Суд на такую аргументацию обиделся и счел такое поведение ответчика неуважением... Кстати, это уже не первый такой случай: раньше мне уже встречалось, как юристов одной компании оштрафовали на 50 тысяч за несуществующие судебные акты с вымышленными цитатами.
Во всех случаях позиция суда понятна, отвечает за аргументацию в судебном споре не нейросеть, а тот, кто подписал документ. У ИИ нет процессуальных прав — а значит, и оправдания «я не проверял, доверился технологиям» тоже нет, если по-взрослому.
Но вот что интересно. Сама судебная система вовсе не против использовать ИИ — скорее наоборот, подряжает его весьма охотно. Буквально неделей раньше Судебный департамент при Верховном суде отчитался об эксперименте с ИИ в судах, его использование расширили с 10 до 21 региона. Нейросети (строго отечественные) уже транскрибировали почти 7000 часов заседаний — это 288 суток непрерывной судебной речи, которую больше не надо вручную расшифровывать секретарям для занесения в протокол.
И вот тут эти два сюжета неожиданно сходятся. В истории с Удмуртией все возмущены: нейросеть выдумала практику, а человек не удосужился ее проверить. Но если она способна выдумать несуществующее судебное решение — где гарантия, что при транскрибации заседания она нигде не «недослышала», не переставила слово, не переписала важную оговорку? Судебный протокол — не расшифровка дискуссии в студенческом клубе, это документ, который можно оспаривать именно по содержанию: было сказано так или иначе. Кто и как проверяет, что ИИ-расшифровка соответствует тому, что реально происходило в зале?
Получается, оба сюжета не про то, что нейросети можно доверить рутину, но нельзя — формулирование позиции. Оба про то, что объем информации, которую ИИ создает или обрабатывает, растет быстрее, чем растет инфраструктура проверки этой информации на соответствие действительности. И это, кажется, вообще главный вопрос момента — далеко за пределами зала суда. Не «использовать ИИ или нет» — его уже все используют, и по полной. А как при этом обеспечить достоверность: кто, на каком этапе и как встраивает верификацию после каждого действия ИИ?
Не совсем понятно, по каким причинам, но нейросеть при поиске информации врет чуть ли не чаще, чем приносит в лукошке правду. От этого главное правило ответственного пользователя ИИ, с какой бы стороны процесса он ни находился, не верить ничему из сгенерированного и проверять все досконально! И еще раз проверять!
_____________________________
🤯 "Мир со сдвигом" тут
🍀 "100 % Зеленого" тут
#ИИ #суд #Нейросети #ВерификацияИИ #МирСоСдвигом