Можно ли сейчас заменить юристов на ИИ? И надо ли?

Во-первых, пока можно заменить только юристов выполняющих чисто технические задачи - оформление шаблонных документов по типовому образцу. Юристов, работающих "мозгами" пока заменить нельзя.

Надо ли? Вот этих с мозгами - нет, конечно. Потому что, чтобы работать с Искусственным интеллектом надо Интеллект!

Причем достаточно высокого профессионального уровня, по крайней мере в праве. Иначе кто будет проверять корректность того, что несет ИИ?

Сейчас он несет с юридической точки зрения часто "пургу" очевидную среднему юристу, но он же будет развиваться. И кто дальше сможет отделить "пургу" от "непурги".
А бить за ошибки в правоприменении будут не по ИИ, а по "морде".
Очевидно, руководителя компании.