и к судьям тоже?
Лучший ответ на этот вопрос дает исследование, совместно предпринятое одним экономистом из Гарварда, тремя крупными учеными-информатиками из Чикагского университета и судебным экспертом. Эта группа – для краткости я буду называть ее по имени экономиста, Сендила Муллайнатана, – выбрала в качестве испытательного полигона город Нью-Йорк. Исследователи изучили дела 554 689 человек, которым в 2008–2013 гг. были предъявлены обвинения в городских судах. Из них, как выяснилось, нью-йоркские судьи отпустили на свободу под залог чуть больше 400 000.
Затем Муллайнатан при помощи системы искусственного интеллекта запустил в обработку данные, которые прокуроры передавали судьям (возраст обвиняемого и полицейское досье), поставив перед компьютером задачу – выбрать из 554 689 человек 400 000, подлежащих освобождению. Это было состязание: человек против машины. Чьи решения более правильные? В котором из списков окажутся люди, не совершившие, будучи выпущенными под залог, никаких правонарушений? И как насчет злоумышленников, что потом не явились на суд? Результаты отличались разительно: 25 % граждан, отпущенных нью-йоркскими судьями под залог и совершивших правонарушения в ожидании суда, компьютер идентифицировал как «подозрительных лиц»! В этом состязании машина разбила человека наголову[9].
Вот лишь один штрих, показывающий эффективность программы Муллайнатана: компьютер пометил 1 % обвиняемых как «группу высокого риска». Этих людей, по мнению искусственного интеллекта, ни при каких обстоятельствах нельзя оставлять на свободе до суда, поскольку, будучи отпущенными под залог, они вновь нарушат закон. Однако живые судьи, работавшие с этими «паршивыми овцами», вообще не сочли их опасными. И выпустили под залог 48,5 % группы высокого риска! «Многие из этих обвиняемых, по мнению судей, не представляли никакой угрозы обществу, – пишет команда Муллайнатана в особенно удручающем разделе своего отчета. – Результат эксперимента показывает, что судьи не только выставляют слишком высокий порог для заключения под стражу, но и не могут верно оценить личность арестованных… Те немногие, кому они отказали в залоге, согласно расчетам компьютера, распределяются по всей шкале прогнозируемого риска». В переводе это обозначает: в том, как судьи принимают решение о назначении залога, не прослеживается никакой логики.
Согласитесь, что это озадачивает. Ведь судьи в данном случае располагают тремя источниками данных. У них, во-первых, есть досье арестованного – возраст, криминальная история, адрес, место работы и прочие сведения, включая предыдущие столкновения с законом. Во-вторых, у них имеются свидетельства окружного прокурора и адвоката арестованного: вся та информация, что сообщается в зале суда. И наконец, они могут составить свое собственное суждение о человеке, которого видят перед собой.
Искусственный же интеллект не может видеть обвиняемого и не слышит того, что говорится в зале суда. Все, что у него есть, – это
Тут следует пояснить два технических момента. Во-первых, неявку в суд Муллайнатан квалифицирует как правонарушение. Во-вторых, он учитывал в своем исследовании также и человеческий фактор. Его оценка сделана на основе весьма сложного статистического анализа. Вот упрощенная версия. В нью-йоркских судах решения об освобождении под залог каждый день принимают разные судьи. К кому из них попадет обвиняемый – целиком дело случая. Судьи в Нью-Йорке (да и не только там) серьезно различаются в том, насколько охотно они отпускают обвиняемых под залог и насколько подъемные суммы залога они назначают. Сами понимаете, что есть судьи как весьма либеральные, так и очень строгие. Теперь представьте, что строгий судья из каждой 1000 арестованных выпускает под залог 25 %, а либеральный – 75 %. Сравнив, какое количество правонарушений совершили, оказавшись на свободе, выпущенные под залог тем и другим судьей, мы сможем понять, сколько бедолаг напрасно отправил за решетку строгий судья и скольких опасных преступников опрометчиво оставил на воле либеральный. Затем точно так же можно рассмотреть и выбор искусственного интеллекта. Когда компьютер делает заключения о 1000 арестованных, насколько лучше он судит, чем строгий человек, с одной стороны, и чем либеральный – с другой? Схема кажется весьма сложной, и на самом деле это так и есть. Но данная методика хорошо отработана. Более развернутое объяснение вы найдете в статье Муллайнатана (см. раздел «Примечания»).
