본 논문은 윤리적 가치를 지향하고, 위험평가에 기반을 둔 인공지능 위험 규제논의 최근 동향을 분석하여 고위험인공지능기술에 대한 형사정책의 방향을 제시해 보고자 한다. 인공지능기술 윤리 지침 정립을 통한 공동체적, 자율적 규제논의에 이어 국가전략적 접근과 국제사회의 규범정립 노력이 진행되는 가운데, 인공지능기술로써 지향해야 할 윤리적 가치를 기반으로 안전과 권리에 중한 영향을 미치게 될 고위험 인공지능 통제 기본틀을 구축하고, 그 틀안에서 인공지능기술의 개별구체적 개발과 구현의 고위험성을 평가하여 형법을 포함한 법적 통제하에 두려는 입법정책적 노력이 전개되고 있다.
인공지능 형사정책은 고위험인공지능기술 통제의 문제다. 미국의 예와 같이 신뢰 가능한 인공지능시스템이라는 가치지향을 법제화하고, 유럽연합의 예와 같이 합의된 가치와 합리적 위험평가 기반 위에서 관리·통제입법을 진행하면서, 형사정책적 개입도 고려되어야 할 것이다. 고위험인공지능기술의 구현으로서 법과 형사정책적 대응 검토가 필요한 대상은 인공지능기반 로봇(산업용 로봇, 의료용 로봇, 자율주행 운송 로봇, 성기능 로봇, 군사용 로봇), 그리고 인공지능기반 자동인식 및 의사결정 시스템이다. 그러나 형사정책적 대응을 위해서는 위험평가와 개입수단과 효과의 비교형량이 필요한데, 과잉·부실대응이나 방치 결과에 이를 위험성도 있다. 이처럼 문제대응이 곧 문제의 일부가 될 수 있기 때문에 예방과 금지의 법제화 논의 진전은 신중할 수 밖에 없다. 또한 고위험인공지능기술 현실에는 범죄예방과 탐지, 진압에 활용되는 각종 로봇과 생체정보식별시스템, 자동화의사결정시스템이 포함되어 있다. 따라서 고위험인공지능기술의 위험과 침해에 대응하는 형사법과 정책은 자신에게도 엄격한 인공지능기술활용 통제와 시민안전과 권리보호를 위한 활용과제를 함께 감당해야 한다.

This essay aims to review recent socio-technical ideas and discussions on the ethical guidelines and regulations regarding the development and deployment of artificial intelligence technology. It can be understood that AI technology should be regulated by some ethical value-base, such as Human-centric AI, Trustworthy AI, Responsible AI, and Explainalbe AI.
Form the perspective of criminal law and criminal justice policy, what will be matter in the field is the control institutions on high-risk AI. European Union takes leading role in the regulation of AI risk, and its 2021 proposal of AI Act classify such risks as unacceptable-highlimited- minimal risk. High-risk AI technology may bring adverse impact to people's safety and rights when used in critical infrastructures, educational or vocational training, safety components of products, employment and management of workers, essential private and public services, law enforcement that may interfere with fundamental rights, migration and border control management, and administration of justice and democratic processes.
Criminal policy should focus on the high-risk implemented robots and automated system, such as industry robot, medical robot, automated vehicle, lethal automated weapons, sex robot, and biometric identification system and automated decision-making system. The task of AI criminal justice will be strict self-regulation on the use of the technology and effective protection of safety and rights of people against any threats from the development and deployment of high-risk AI technology.

효율성과 비용절감을 무엇보다 중요시하는 사회전반적인 흐름과 인공지능에 대한 전폭적인 국가지원의 흐름을 감안해 보면, 형사정책의 영역에서도 앞으로 인공지능이 차지하는 비중은 다른 영역에서처럼 점점 높아져 갈 것으로 예측된다. 이에 본 연구에서는 현재의 재범예측도구와 비교하여 인공지능재범예측도구가 도입될 실익이 있는지, 그리고 만약에 도입될 경우 발생할 수 있는 법적 문제점에 대해 검토하였다. 검토결과 인공지능재범예측도구는 아직은 재범예측의 정확성측면에서 현재의 재범예측도구에 비해 뛰어나다고 할 수 없었다. 하지만 장래에 빅 데이터들의 수집량이 늘어나고, 이를 통해 신빙성이 높은 훈련데이터들이 점점 더 확보된다면, 같은 통계적 방식에 기반하고 있는 현재의 재범예측도구보다 우수한 정확도를 나타낼 것으로 예측된다. 보안처분의 선고와 관련해 인공지능재범예측도구의 결과를 사용할 경우, 이는 사실관계의 확정과 관계가 없으므로 증거능력의 문제는 발생하지 않을 것이다. 그러나 인공지능을 통해 도출된 재범위험성 평가결과의 불투명성과 설명 불가능성, 검증 불가능성으로 인해 헌법 제27조에서 보장하는 공정한 재판을 받을 권리는 침해될 수 있다. 또한 인공지능재범예측도구가 도입된다면, 이러한 재범예측도구가 가지는 정확성은 법관의 직관적인 판단보다 우수하다고 판단되므로 법관이 이 결과를 반드시 공판과정에서 고려하도록 법률 개정이 이루어져야 한다. 하지만 이 경우에도 법관의 독립성과 특수한 지위로 인해 법관이 이러한 판단결과에 강제적으로 구속될 필요는 없다.

Currently the Korean government actively supports an introduction and application of AI (Artificial Intelligence) in the various fields. The importance of AI is on the rise, considering the social perspective which highly values efficiency as well as cost reduction. The criminal policy is no exception to this trend. This study is concerned with two significant issues: i) the potential and effectiveness for AI recidivism prediction tool in comparison with the current prediction tool of the recidivism risk and ii) possible legal issues in the case of AI utilization. With respect to the predictive accuracy, it cannot be affirmed that recidivism prediction tool using AIis superior to the current assessment tool. However, extensive collection of big data and reliable training dataset will lead to more accurate prediction results of the recidivism prediction tool based on the AI technology comparing with the current estimation. In the case of using the results based on the recidivism prediction tool using AI for the decision of safety measure, problems on the admissibility of evidence do not occur because there exists no relationship with a legal determination of fact relevance. However, the right on a fair trial is infringed in Article 27 of the constitutional law since the results of the recidivism prediction tool using AI have an opacity as well as feature that defies explanation and verification. In order to introduce the recidivism prediction tool using AI, the law should certainly be amended for the application of AI predictive results in a trial procedure, because it is assessed that the accuracy of predictive recidivism assessment tool is higher than that of intuitive determination by the judges. However, judges should not absolutely depend on this AI predictive assessment results due to their independency and specific position.

우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할 수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등 사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도 하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권 및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄 예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로 기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와 더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의 안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다.
이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에 있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다.

After the digital revolution, there is a big change in all parts of life due to the 4th industrial revolution such as autonomous driving, artificial intelligence, and robots. Artificial intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans.
Artificial intelligence can do dangerous, difficult, and difficult tasks on behalf of humans in various fields. Artificial intelligence can make our lives very convenient, protect humans from danger. but against these positive changes, social problems such as confirmation bias, discrimination, data security and fundamental right issue can arise. For this reason, the necessity of artificial intelligence ethics guidelines for trustworthy artificial intelligence (AI) for humans was raised, and various artificial intelligence ethics guides were prepared with the efforts of experts around the world, and the European Union later proposed artificial intelligence regulation. The EU Artificial Intelligence Act proposed a risk-based regulatory approach to ensure the safety of artificial intelligence systems, respecting fundamental rights and European Union values, and strengthening the efficient enforcement of laws and regulations related to safety standards.
Artificial intelligence is currently being developed and used in various areas, and the use of artificial intelligence is gradually increasing in the field of criminal justice, and it is expected to have a positive effect on criminal policy such as crime prevention, criminal justice, assess the likelihood of a recidivist and probation. However, in the use of artificial intelligence in criminal justice, various ethical issues such as artificial intelligence bias and discrimination, artificial intelligence transparency issues, privacy rights infringement, and technology stability are being problematic.
This paper emphasized the necessity of artificial intelligence ethics guideline and legal system for artificial intelligence in the field of criminal justice, analyzed domestic and foreign artificial intelligence ethics guidelines and legal trends, and derived legal implications for the use of artificial intelligence in Korean criminal justice.

대면조사가 어려운 취약한 피해자로부터 양질의 진술을 획득하고 2차 피해 가능성을 최소화하기 위해 면담 챗봇 개발이 최근에 주목받고 있다. 이 논문에서는 수사실무에서 권장되는 바람직한 성폭력 피해자 면담 원리를 구현하기 위해 자연어처리(NLP) 목적 지향 대화 시스템을 적용한 국내 연구 개발 사례를 소개하였다. 챗봇은 성폭력 범죄 구성요건 분류체계를 토대로 피해자 진술 녹취록을 코딩하여 데이터를 구축하였다. 한국어로 커스터마이징된 Rasa 프로그램을 이용하여 NICHD 면담기법 기반 스토리라인을 적용한 대화형 챗봇을 구축 사례를 소개하였다. 향후 기술적인 제한점을 극복하고 챗봇 개발에 성공할 경우, 챗봇에 의해 획득된 피해자 진술의 법적 지위와 진술의 임의성 등 형사정책적 함의를 다각적으로 논의하였다.

The purpose of this paper is to introduce a case of artificial intelligence chatbot system development for sexual violence victim interview and to discuss its implications for the criminal justice policy.
The chatbot is expected to collect voluntary statements from sexual violence victims who are unwilling or unable to report details and to reduce possible secondary victimization arising from the interactions with human investigators. The chatbot currently being developed is utilizing the NLP task-oriented dialogue system and the principles of NICHD protocol which was developed for interviewing children and vulnerable witnesses. Implications for the potential legal status of the chatbot as inverviewer and chatbot-obtained victim statements are discussed.

지구온난화에 따른 기후변화는 극심한 기상이변, 자연재해 증가, 빙하 손실, 해수면 상승, 허리케인, 홍수와 범람, 극한 폭염, 가뭄과 용수 부족, 산불, 사막화, 열대 풍토병과 매개체 감염질환 급증 등을 발생시키고, 그로인해 수백만 명의 사람들에게 영향을 미쳐 현재의 인류 생존뿐만 아니라 미래세대의 삶까지도 위협하는 '기후위기'를 초래하고 있다.
기후위기에 대한 국제형사법의 대응과 관련하여 영국의 환경 변호사인 폴리 히긴스(Polly Higgins)가 주도한 “생태살해를 멈추라!(Stop Ecocide!)”라는 국제 캠페인을 통해 수년 동안 '생태살해(ecocide)'를 「국제형사재판소에 관한 로마규정」의 국제범죄로 도입하려는 시도에 주목할 필요가 있다. 히긴스의 제안에 따르면 '생태살해'란 “인간의 행위 또는 기타 원인에 의해 주어진 영토에서 생태계가 광범위하게 손실, 손상 또는 파괴됨으로써 해당 영토에 거주하는 거주자의 평화로운 향유가 심각하게 감소되거나 장차 감소되는 것”을 의미한다. 이러한 캠페인의 지지자들은 국제형사재판소에서 심리할 수 있도록 인류의 평화와 안전에 반하는 다섯 번째 국제 범죄로서 생태살해죄를 포함시키기를 원하고 있다.
따라서 이 글에서는 기후위기에 대한 국제형사법의 대응으로 히긴스가 제안한 로마규정상 생태살해죄의 개념정의와 두 가지 유형 그리고 캠페인의 국제적 전개(Ⅱ), 생태살해죄 구성요건의 구체적 내용으로 생태살해 범죄의 기소 대상, 주관적 요소로서 '의도'의 요구 여부, 보호객체, 환경 파괴의 정도를 살펴보고자 한다(Ⅲ). 나아가 국제범죄로서 생태살해죄의 이론적 한계로서 생태살해에 대한 상이한 개념정의, 고의(의도)의 요구에 따른 어려움 그리고 인과관계 증명과 책임귀속의 어려움을 상세하게 검토하고자 한다(Ⅳ). 마지막으로 이러한 논의를 토대로 향후 기후위기에 대한 대응으로서 국제형사법의 미래를 전망해 보고자 한다(Ⅴ).

Climate change is causing extreme weather, glacier mass loss, rising sea-levels, hurricanes, typhoons or cyclones, floods, extreme heat waves, water shortages, forest fires, desertification and rapid increase in tropical endemic diseases. Many environmental disasters affect multiple countries. However, international criminal law has not addressed the issue, leaving this matter to individual countries.
In April 2010, Polly Higgins, lawyer who fought for recognition of 'ecocide', introduced a proposal to the UN International Law Commission. This proposal would amend the Rome Statute to include “ecocide” as a fifth crime against peace. If the crime of ecocide is added to the Rome Statute, ecocide cases could be heard by the International Criminal Court. Higgins defines ecocide as “the extensive destruction, damage to or loss of ecosystem(s) of a given territory, whether by human agency or by other causes, to such an extent that peaceful enjoyment by the inhabitants of that territory has been severely diminished.”
Therefore, this article focuses on the introduction of ecocide as an international crime proposed by Higgins as a response to international criminal law to the climate crisis. This article will proceed as follows: Section Ⅱ will cover the concept and two types of ecocide, Section Ⅲ will address who would be subject to prosecution, what is the intent requirement, who is protected and what level of environmental damage is considered ecocide. Section Ⅳ will address criticisms and problems with formulating a crime of ecocide. Finally, section Ⅴ will assess whether introduction of ecocide as an international crime in Rome Statute can accomplish the goal of protecting the environment.

대법원은 최근 대법원 2021. 11. 18. 선고 2016도348 전원합의체 판결을 통하여 정보 저장매체의 적법한 임의제출 절차에 대한 판시를 하였다. 대법원 2021. 11. 18. 선고 2016도348 전원합의체 판결은 정보에 대한 임의제출 절차를 엄격히 하였다는 점에서 정보 주체의 정보 프라이버시권 보장과 관련하여 의의가 크다. 대법원의 위 판결의 핵심 내용은 '정보 저장매체의 임의제출에서 임의제출된 정보의 범위를 어디까지로 보아야 하는지, 정보 주체(소유자)의 의사에 반하는 임의제출이 적법한지, 영장에 의한 압수수색 과정에서의 절차적 제한(관련성 원칙 및 참여권 법리)이 임의제출에 의한 압수에도 적용되는지' 등으로 쟁점화할 수 있다. 구체적으로 살펴보면 첫째, 대법원은 '정보 저장매체를 임의제출하는 제출자는 임의제출 정보의 범위를 한정할 수 있다'라고 본 후 '임의제출 과정에서 수사기관이 준수하여야 하는 절차를 부과하는 방식'과 '임의제출 압수의 대상을 임의제출의 동기가 된 혐의사실과 관련 있는 정보로 제한하는 방식'으로서 임의제출 되는 정보의 범위를 제한하였다. 둘째, 대법원은 '피의자의 정보 저장매체를 피의자 아닌 제3자가 임의제출하는 경우에는 압수의 대상이 더욱 제한적으로 해석되어야 한다는 점'을 밝혔다. 셋째, 대법원은 '영장에 의한 압수수색에서의 관련성 원칙과 참여권 법리가 임의제출물 압수에도 동일하게 적용된다'라는 점을 분명히 하였다. 본 논문에서는 대법원 판결의 위와 같은 논점들을 기존의 학설 대립 또는 판결례와 연결시켜 면밀히 분석하였으며, 이와 관련한 국회의 형사소송법 개정안 또한 살펴보았다.

The recent Supreme Court decision, 2016 Do 348, ruled on the search and seizure of digital evidence by consent. The Supreme Court's 2016 Do 348 decision guaranteed the right to information privacy in that it strictly regulated the search and seizure procedures for digital evidence by consent.
The main points of the Supreme Court decision can be summarized as follows.
Firstly, the Supreme Court limited the scope of digital evidence confiscated by consent. In this regard, the Supreme Court ruled that those who consent to search and seizure of digital evidence may limit the scope of digital evidence confiscated. In addition, the Supreme Court stipulated procedures to be followed by investigative agencies in the process of confiscating digital evidence by consent. In addition, the Supreme Court limited the scope of digital evidence confiscated by consent to information related to the alleged crime.
Secondly, in the case where a person who is not the owner of a computer or smartphone voluntarily submits the computer or smartphone to the investigation agency, the Supreme Court considerably narrowed the scope of digital evidence that the investigation agency can seize with the consent of the submitter.
Thirdly, the Supreme Court ruled that when an investigative agency conducts a search and seizure with the consent of the digital evidence submitter, the investigative agency should confiscate digital evidence only for digital evidence related to the fact of the crime. The Supreme Court also ruled that the right to participate should be guaranteed to the seized person in the process.
This article analyzed the Supreme Court's 2016 Do 348 decision in detail focusing on the issues discussed above, and also reviewed the National Assembly's amendments to the Criminal Procedure Act.

우리 아동ㆍ청소년의 성보호에 관한 법률에 새롭게 도입된 신분비공개, 신분위장 수사는 국민적 공분을 초래했던 사건에서 알 수 있듯, 적극적 수사의 필요성은 매우 높은 분야라고 할 수 있다. 그러나 수사는 그 자체로서 대상자의 기본적 인권을 침해할 우려가 매우 높은 작용이므로 필요성만으로는 모든 수사 방식이 정당화되는 것은 아니며, 형사소송법과 통신비밀보호법 등은 이를 엄격하게 통제하는 제도를 발달시켜왔다. 현재 특별한 제도 설정이 되어 있지 않은 경우라고 하더라도 그 수사방식의 특성에 비추어 일반적 임의수사라고는 볼 수 없는 경우에는 특별한 허용, 절차 규정이 필요하다. 이러한 측면에서는 개정 법률이 신분비공개, 신분위장 수사의 근거를 명확히 한 점은 진일보한 것으로 평가할 수 있다.
그러나 현행법에서의 절차 보장은 형사소송법상 원칙적 수사방식이라고 할 수 있는 임의수사 원칙에 비추어 신분비공개, 신분위장 수사가 초래할 수 있는 기본권 침해적인 속성을 충분히 반영하지 못한 것으로 평가할 수 있다. 보다 상세한 법령 정비와 아울러 실제의 수사가 적법절차 원칙의 범위 안에서 진행되어 범죄자 처벌에 기여하기 위해서는 경찰뿐만 아니라, 법무부, 검찰, 법원이 함께 사전에 수사적법성 가이드라인을 마련할 것이 시급히 요구된다. 수사자의 악의가 아니라 단순히 과도한 수사열정만으로도 위법 수사로 이어질 소지가 다분한 수사방식이기 때문이다. 시행 초기에 발생할 수밖에 없는 혼란 상태를 조속히 정리해야 할 것이다.
또한 수사기관의 내부적 통제, 결재 과정의 세밀화와 아울러 경찰위원회의 실질적 사후 통제가 이루어질 수 있도록, 기록 의무를 규정하는 등 관련 규정과 조직을 보완할 필요가 크다. 나아가 신분비공개, 신분위장 방식의 수사과정에서 발생할 수 있는 위법적 수사방식이 사용될 가능성을 차단하기 위하여 '(위장)수사 지침'을 제정하고, 이를 감독할 수 있는 가칭 '수사심의위원회'를 설치할 필요가 있다. 이를 통하여 수사의 책임성, 적법성을 제고하고, 수사담당 경찰관을 지원할 수 있을 것이다.

As can be seen from the case that caused public outrage in the investigation of identity confidentiality and identity disguise, newly introduced in our Children's and Youth Sexual Protection Act, the need for an active investigation is very high. However, since investigation itself is highly likely to infringe on the basic human rights of the subject, necessity alone does not justify all investigation methods. Even if no special system is currently established, special permission and procedure regulations are required if it cannot be regarded as a general voluntary investigation in light of the characteristics of the investigation method. In this respect, the fact that the revised law clearly clarifies the basis for the investigation of identity secrecy and identity falsification can be evaluated as a step forward.
However, in view of the principle of voluntary investigation, which can be said to be a principled investigation method under the Criminal Procedure Act, it can be evaluated that the guarantee of procedures in the current law does not sufficiently reflect the nature of the infringement of basic rights that can result from an investigation of identity confidentiality and identity disguise. It is urgently required to prepare guidelines for investigative legality in advance by not only the police, but also the Ministry of Justice, the prosecution, and the courts in order to contribute to the punishment of criminals as the actual investigation proceeds within the scope of the due process principle as well as more detailed legislation. This is because it is an investigation method that has the potential to lead to an illegal investigation simply because of the investigative passion, not the investigator's malice. The confusion that inevitably arises in the early stages of implementation should be sorted out as soon as possible.
In addition, there is a great need to supplement related regulations and organizations, such as stipulating the obligation to record, so that the investigation agency's internal control and approval process can be refined, and the police committee can have actual follow-up control. Furthermore, in order to block the possibility of using an illegal investigation method that may occur in the investigation process of identity confidentiality and identity disguise, it is necessary to establish the '(disguise) investigation guidelines' and establish a tentative name 'Investigation Deliberation Committee' to supervise them. there is Through this, accountability and legitimacy of the investigation will be improved, and the police officer in charge of the investigation will be supported.