본 논문은 윤리적 가치를 지향하고, 위험평가에 기반을 둔 인공지능 위험 규제논의 최근 동향을 분석하여 고위험인공지능기술에 대한 형사정책의 방향을 제시해 보고자 한다. 인공지능기술 윤리 지침 정립을 통한 공동체적, 자율적 규제논의에 이어 국가전략적 접근과 국제사회의 규범정립 노력이 진행되는 가운데, 인공지능기술로써 지향해야 할 윤리적 가치를 기반으로 안전과 권리에 중한 영향을 미치게 될 고위험 인공지능 통제 기본틀을 구축하고, 그 틀안에서 인공지능기술의 개별구체적 개발과 구현의 고위험성을 평가하여 형법을 포함한 법적 통제하에 두려는 입법정책적 노력이 전개되고 있다.
인공지능 형사정책은 고위험인공지능기술 통제의 문제다. 미국의 예와 같이 신뢰 가능한 인공지능시스템이라는 가치지향을 법제화하고, 유럽연합의 예와 같이 합의된 가치와 합리적 위험평가 기반 위에서 관리·통제입법을 진행하면서, 형사정책적 개입도 고려되어야 할 것이다. 고위험인공지능기술의 구현으로서 법과 형사정책적 대응 검토가 필요한 대상은 인공지능기반 로봇(산업용 로봇, 의료용 로봇, 자율주행 운송 로봇, 성기능 로봇, 군사용 로봇), 그리고 인공지능기반 자동인식 및 의사결정 시스템이다. 그러나 형사정책적 대응을 위해서는 위험평가와 개입수단과 효과의 비교형량이 필요한데, 과잉·부실대응이나 방치 결과에 이를 위험성도 있다. 이처럼 문제대응이 곧 문제의 일부가 될 수 있기 때문에 예방과 금지의 법제화 논의 진전은 신중할 수 밖에 없다. 또한 고위험인공지능기술 현실에는 범죄예방과 탐지, 진압에 활용되는 각종 로봇과 생체정보식별시스템, 자동화의사결정시스템이 포함되어 있다. 따라서 고위험인공지능기술의 위험과 침해에 대응하는 형사법과 정책은 자신에게도 엄격한 인공지능기술활용 통제와 시민안전과 권리보호를 위한 활용과제를 함께 감당해야 한다.

효율성과 비용절감을 무엇보다 중요시하는 사회전반적인 흐름과 인공지능에 대한 전폭적인 국가지원의 흐름을 감안해 보면, 형사정책의 영역에서도 앞으로 인공지능이 차지하는 비중은 다른 영역에서처럼 점점 높아져 갈 것으로 예측된다. 이에 본 연구에서는 현재의 재범예측도구와 비교하여 인공지능재범예측도구가 도입될 실익이 있는지, 그리고 만약에 도입될 경우 발생할 수 있는 법적 문제점에 대해 검토하였다. 검토결과 인공지능재범예측도구는 아직은 재범예측의 정확성측면에서 현재의 재범예측도구에 비해 뛰어나다고 할 수 없었다. 하지만 장래에 빅 데이터들의 수집량이 늘어나고, 이를 통해 신빙성이 높은 훈련데이터들이 점점 더 확보된다면, 같은 통계적 방식에 기반하고 있는 현재의 재범예측도구보다 우수한 정확도를 나타낼 것으로 예측된다. 보안처분의 선고와 관련해 인공지능재범예측도구의 결과를 사용할 경우, 이는 사실관계의 확정과 관계가 없으므로 증거능력의 문제는 발생하지 않을 것이다. 그러나 인공지능을 통해 도출된 재범위험성 평가결과의 불투명성과 설명 불가능성, 검증 불가능성으로 인해 헌법 제27조에서 보장하는 공정한 재판을 받을 권리는 침해될 수 있다. 또한 인공지능재범예측도구가 도입된다면, 이러한 재범예측도구가 가지는 정확성은 법관의 직관적인 판단보다 우수하다고 판단되므로 법관이 이 결과를 반드시 공판과정에서 고려하도록 법률 개정이 이루어져야 한다. 하지만 이 경우에도 법관의 독립성과 특수한 지위로 인해 법관이 이러한 판단결과에 강제적으로 구속될 필요는 없다.

우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할 수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등 사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도 하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권 및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄 예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로 기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와 더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의 안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다.
이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에 있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다.

대면조사가 어려운 취약한 피해자로부터 양질의 진술을 획득하고 2차 피해 가능성을 최소화하기 위해 면담 챗봇 개발이 최근에 주목받고 있다. 이 논문에서는 수사실무에서 권장되는 바람직한 성폭력 피해자 면담 원리를 구현하기 위해 자연어처리(NLP) 목적 지향 대화 시스템을 적용한 국내 연구 개발 사례를 소개하였다. 챗봇은 성폭력 범죄 구성요건 분류체계를 토대로 피해자 진술 녹취록을 코딩하여 데이터를 구축하였다. 한국어로 커스터마이징된 Rasa 프로그램을 이용하여 NICHD 면담기법 기반 스토리라인을 적용한 대화형 챗봇을 구축 사례를 소개하였다. 향후 기술적인 제한점을 극복하고 챗봇 개발에 성공할 경우, 챗봇에 의해 획득된 피해자 진술의 법적 지위와 진술의 임의성 등 형사정책적 함의를 다각적으로 논의하였다.

지구온난화에 따른 기후변화는 극심한 기상이변, 자연재해 증가, 빙하 손실, 해수면 상승, 허리케인, 홍수와 범람, 극한 폭염, 가뭄과 용수 부족, 산불, 사막화, 열대 풍토병과 매개체 감염질환 급증 등을 발생시키고, 그로인해 수백만 명의 사람들에게 영향을 미쳐 현재의 인류 생존뿐만 아니라 미래세대의 삶까지도 위협하는 '기후위기'를 초래하고 있다.
기후위기에 대한 국제형사법의 대응과 관련하여 영국의 환경 변호사인 폴리 히긴스(Polly Higgins)가 주도한 “생태살해를 멈추라!(Stop Ecocide!)”라는 국제 캠페인을 통해 수년 동안 '생태살해(ecocide)'를 「국제형사재판소에 관한 로마규정」의 국제범죄로 도입하려는 시도에 주목할 필요가 있다. 히긴스의 제안에 따르면 '생태살해'란 “인간의 행위 또는 기타 원인에 의해 주어진 영토에서 생태계가 광범위하게 손실, 손상 또는 파괴됨으로써 해당 영토에 거주하는 거주자의 평화로운 향유가 심각하게 감소되거나 장차 감소되는 것”을 의미한다. 이러한 캠페인의 지지자들은 국제형사재판소에서 심리할 수 있도록 인류의 평화와 안전에 반하는 다섯 번째 국제 범죄로서 생태살해죄를 포함시키기를 원하고 있다.
따라서 이 글에서는 기후위기에 대한 국제형사법의 대응으로 히긴스가 제안한 로마규정상 생태살해죄의 개념정의와 두 가지 유형 그리고 캠페인의 국제적 전개(Ⅱ), 생태살해죄 구성요건의 구체적 내용으로 생태살해 범죄의 기소 대상, 주관적 요소로서 '의도'의 요구 여부, 보호객체, 환경 파괴의 정도를 살펴보고자 한다(Ⅲ). 나아가 국제범죄로서 생태살해죄의 이론적 한계로서 생태살해에 대한 상이한 개념정의, 고의(의도)의 요구에 따른 어려움 그리고 인과관계 증명과 책임귀속의 어려움을 상세하게 검토하고자 한다(Ⅳ). 마지막으로 이러한 논의를 토대로 향후 기후위기에 대한 대응으로서 국제형사법의 미래를 전망해 보고자 한다(Ⅴ).

대법원은 최근 대법원 2021. 11. 18. 선고 2016도348 전원합의체 판결을 통하여 정보 저장매체의 적법한 임의제출 절차에 대한 판시를 하였다. 대법원 2021. 11. 18. 선고 2016도348 전원합의체 판결은 정보에 대한 임의제출 절차를 엄격히 하였다는 점에서 정보 주체의 정보 프라이버시권 보장과 관련하여 의의가 크다. 대법원의 위 판결의 핵심 내용은 '정보 저장매체의 임의제출에서 임의제출된 정보의 범위를 어디까지로 보아야 하는지, 정보 주체(소유자)의 의사에 반하는 임의제출이 적법한지, 영장에 의한 압수수색 과정에서의 절차적 제한(관련성 원칙 및 참여권 법리)이 임의제출에 의한 압수에도 적용되는지' 등으로 쟁점화할 수 있다. 구체적으로 살펴보면 첫째, 대법원은 '정보 저장매체를 임의제출하는 제출자는 임의제출 정보의 범위를 한정할 수 있다'라고 본 후 '임의제출 과정에서 수사기관이 준수하여야 하는 절차를 부과하는 방식'과 '임의제출 압수의 대상을 임의제출의 동기가 된 혐의사실과 관련 있는 정보로 제한하는 방식'으로서 임의제출 되는 정보의 범위를 제한하였다. 둘째, 대법원은 '피의자의 정보 저장매체를 피의자 아닌 제3자가 임의제출하는 경우에는 압수의 대상이 더욱 제한적으로 해석되어야 한다는 점'을 밝혔다. 셋째, 대법원은 '영장에 의한 압수수색에서의 관련성 원칙과 참여권 법리가 임의제출물 압수에도 동일하게 적용된다'라는 점을 분명히 하였다. 본 논문에서는 대법원 판결의 위와 같은 논점들을 기존의 학설 대립 또는 판결례와 연결시켜 면밀히 분석하였으며, 이와 관련한 국회의 형사소송법 개정안 또한 살펴보았다.

우리 아동ㆍ청소년의 성보호에 관한 법률에 새롭게 도입된 신분비공개, 신분위장 수사는 국민적 공분을 초래했던 사건에서 알 수 있듯, 적극적 수사의 필요성은 매우 높은 분야라고 할 수 있다. 그러나 수사는 그 자체로서 대상자의 기본적 인권을 침해할 우려가 매우 높은 작용이므로 필요성만으로는 모든 수사 방식이 정당화되는 것은 아니며, 형사소송법과 통신비밀보호법 등은 이를 엄격하게 통제하는 제도를 발달시켜왔다. 현재 특별한 제도 설정이 되어 있지 않은 경우라고 하더라도 그 수사방식의 특성에 비추어 일반적 임의수사라고는 볼 수 없는 경우에는 특별한 허용, 절차 규정이 필요하다. 이러한 측면에서는 개정 법률이 신분비공개, 신분위장 수사의 근거를 명확히 한 점은 진일보한 것으로 평가할 수 있다.
그러나 현행법에서의 절차 보장은 형사소송법상 원칙적 수사방식이라고 할 수 있는 임의수사 원칙에 비추어 신분비공개, 신분위장 수사가 초래할 수 있는 기본권 침해적인 속성을 충분히 반영하지 못한 것으로 평가할 수 있다. 보다 상세한 법령 정비와 아울러 실제의 수사가 적법절차 원칙의 범위 안에서 진행되어 범죄자 처벌에 기여하기 위해서는 경찰뿐만 아니라, 법무부, 검찰, 법원이 함께 사전에 수사적법성 가이드라인을 마련할 것이 시급히 요구된다. 수사자의 악의가 아니라 단순히 과도한 수사열정만으로도 위법 수사로 이어질 소지가 다분한 수사방식이기 때문이다. 시행 초기에 발생할 수밖에 없는 혼란 상태를 조속히 정리해야 할 것이다.
또한 수사기관의 내부적 통제, 결재 과정의 세밀화와 아울러 경찰위원회의 실질적 사후 통제가 이루어질 수 있도록, 기록 의무를 규정하는 등 관련 규정과 조직을 보완할 필요가 크다. 나아가 신분비공개, 신분위장 방식의 수사과정에서 발생할 수 있는 위법적 수사방식이 사용될 가능성을 차단하기 위하여 '(위장)수사 지침'을 제정하고, 이를 감독할 수 있는 가칭 '수사심의위원회'를 설치할 필요가 있다. 이를 통하여 수사의 책임성, 적법성을 제고하고, 수사담당 경찰관을 지원할 수 있을 것이다.