Феномен автоматизационного смещения в правоприменении: нравственно-правовые основы доверия к системам искусственного интеллекта и стандарт надлежащей осмотрительности должностного лица при принятии правовых решений

Abstract

В статье исследуется проблема правоприменительной деятельности, которая выражается в склонности должностных лиц некритически принимать рекомендации алгоритмических систем, игнорируя противоречащие им обстоятельства. Автор показывает, что формула «человек контролирует систему» не обеспечивает реального контроля, если надзор сводится к формальному утверждению машинного вывода. Такая ситуация ведет к подмене правоприменительного усмотрения технологическим детерминизмом, что требует выработки четких стандартов должной осмотрительности при использовании автоматизированных систем в правоприменении.

The article examines a problem in law enforcement activity that is manifested in the tendency of public officials to uncritically accept the recommendations of algorithmic systems while disregarding circumstances that contradict them. The author demonstrates that the formula “the human controls the system” does not ensure genuine control if supervision is reduced to the formal approval of the machine-generated output. Such a situation leads to the substitution of legal discretion by technological determinism, which necessitates the development of clear standards of due diligence for the use of automated systems in law enforcement.