AI가 개입 행정처분의 가능성이 점차 대두되는 추세이다. 이에 본고는 ① 자기결정권 보장 장치로 기능하는 ‘AI 개입 행정처분에 대한 거부권’과 ② 전통적 행정행위의 효력인 공정력 사이에 형성되는 구조적 긴장을 분석해 보고자 한다. 나아가 그 조정 가능성을 공정력 이론의 재구성이라는 관점에서 탐색해 보고자 한다. 구체적으로는 다음과 같다.
현행 「개인정보 보호법」 제37조의2는 권리·의무에 중대한 영향을 미치는 완전히 자동화된 결정에 대해 정보주체의 거부권을 인정하면서도, 「행정기본법」 제20조의 자동적 처분은 명시적으로 적용대상에서 제외하고 있다. 이는 정보주체의 거부권과 공정력 이론이 충돌하지 않게 하려는 입법기술적 장치로 보인다.
그러나 이러한 시도만으로 거부권 제도와 공정력 이론 사이의 긴장구조가 전부 해소된다고 보기는 어렵다. 처분 이전 단계에서 AI가 사실관계의 구조화, 쟁점 선별, 위험도 또는 적합성 평가를 수행하고, 그 결과가 실질적인 재검토 없이 최종 처분에 흡수되는 경우를 생각해 보자. 여기서 자동화된 판단은 형식적으로는 행정처분에 해당하지 않더라도, 이후 처분의 방향과 내용을 사실상 선결하는 방식으로 규범적 기능을 수행하게 된다. 이러한 구조 속에서 기존의 공정력 이론을 그대로 적용할 경우, 실질적인 판단 형성 과정은 외부로 드러나지 않은 채 사후적 권리구제의 실효성은 현저히 약화될 위험이 있다.
이에 본고는 행정행위의 효력을 규율 메커니즘과 차단 메커니즘으로 분해하는 高木英行의 분석틀을 원용하여, AI 개입 행정처분에서 규율이 곧 차단으로 전이되는 구조를 포착한다. 이러한 문제를 해결하기 위하여, AI 개입 행정처분에서는 실정법상 거부권 규정의 존부를 기준으로 공정력의 적용구조를 단계적으로 재구성할 것을 제안한다. 거부권 규정이 존재하는 경우에는 거부권의 고지 및 행사 기회 제공을 핵심 요건으로 파악하여, 그 누락이나 무시는 공정력의 발생을 제한하는 중대한 하자로 평가하자는 것이다. 특히 AI 개입 행정처분에서는 하자의 외관상 명백성을 요구하는 전통적 기준이 구조적으로 작동하기 어려운 바, 무효·취소의 구별 기준 역시 중대성 중심으로 재정렬될 필요가 있을 것이다.
결국 공정력은 AI 행정 환경에서 무조건적으로 관철되는 효과가 아니라, 자기결정권 보장장치의 준수 여부에 따라 조건부로 작동하는 개념으로 이해되어야 한다. 이는 공정력의 전통적 기능을 유지하면서도 AI 행정이 초래하는 정당성 위기를 조율하기 위한 이론적 시도로서 의의를 가질 수 있을 것이다.
The possibility of administrative dispositions involving artificial intelligence (AI) is gradually emerging. Against this background, this article seeks to analyze the structural tension formed between (1) the “right to refuse AI-involved administrative dispositions,” which functions as a safeguard for the protection of the right to self-determination, and (2) the binding effect, which constitutes a traditional legal effect of administrative acts. Furthermore, it aims to explore the possibility of coordinating this tension from the perspective of reconstructing the theory of the binding effect.
Article 37-2 of the current Personal Information Protection Act recognizes the data subject’s right to refuse fully automated decisions that have a significant impact on rights or obligations, while explicitly excluding automatic dispositions under Article 20 of the General Act on Public Administration from its scope of application. This appears to be a legislative technique intended to prevent a conflict between the data subject’s right to refuse and the theory of the binding effect.
However, it is difficult to conclude that such an approach alone fully resolves the structure of tension between the right-to-refuse regime and the theory of the binding effect. Consider cases in which, at the pre-dispositional stage, AI performs functions such as structuring factual circumstances, selecting issues, and assessing risk or suitability, and the results are absorbed into the final disposition without substantive re-examination. In such cases, even if the automated assessment does not formally constitute an administrative disposition, it performs a normative function by effectively predetermining the direction and content of the subsequent disposition. Within this structure, if the existing theory of the binding effect is applied without modification, there is a risk that the substantive process of judgment formation will remain concealed from external scrutiny, while the effectiveness of ex post remedies will be significantly weakened.
Accordingly, this article draws on the analytical framework proposed by Hideyuki Takaki, which decomposes the legal effect of administrative acts into a regulatory mechanism and a blocking mechanism, in order to capture the structure in which regulation is directly transposed into blockage in AI-involved administrative dispositions. To address this problem, the article proposes a stepwise reconstruction of the application structure of the binding effect in AI-involved administrative dispositions, based on whether statutory provisions recognizing a right to refuse exist. Where such provisions exist, the notification of the right to refuse and the provision of an opportunity to exercise it are identified as core requirements, and any omission or disregard thereof should be evaluated as a serious defect that limits the occurrence of the binding effect. In particular, in AI-involved administrative dispositions, the traditional criterion requiring the manifestness of defects is structurally difficult to operate, and therefore the criteria for distinguishing nullity and revocability should also be reorganized around seriousness.
Ultimately, the binding effect should be understood not as an effect that is applied unconditionally in an AI-driven administrative environment, but rather as a concept that operates conditionally depending on whether safeguards for the right to self-determination have been observed. This may have significance as a theoretical attempt to coordinate the legitimacy crisis brought about by AI administration while maintaining the traditional function of the binding effect.
