현대 사회의 AI 기술은 우리 생활에 많은 편리함을 제공하며 산업과 교육 등 여러 분야에 혁명적 변화를 가져오고 있다. 그럼에도 불구하고 AI 발전의 그늘에는 개인 사생활 침해, 편향과 차별, 책임소재의 모호성, 군사적 이용 등 다양한 윤리적 문제들이 도사리고 있으며, 이는 사회적 규제 필요성을 증대시키고 있다. 특히 초거대 언어 모델과 같은 AI 시스템이 결과를 제공하더라도 그 내부적 메커니즘은 블랙박스로 남아 있을 수 있어 사용자가 이를 파악하기 어려운 문제가 발생할 수 있다. 이러한 AI윤리 문제를 해결하기 위해서는 AI 결과물을 신뢰할 수 있도록 이해하고 검증할 수 있는 프로세스가 요구되며 개발부터 사용까지 모든 단계에서 윤리적 기준과 절차의 준수가 강조된다. 미래 사회에서 AI의 설계자, 개발자, 정책 입안자, 사용자로 활약할 초등학생들에 대한 체계적인 AI윤리교육의 중요성이 점점 더 커지고 있으며 이들에게 AI 기술의 적절한 활용과 윤리적 책임을 가르치는 것이 필수적이다. 본 연구는 이를 위해 AI가 초래할 수 있는 윤리적 문제에 대응할 수 있는 교육 전략을 모색하고 있으며 규범적 AI윤리 가이드라인을 초등 AI윤리교육에 활용하는 방안을 제안한다. 이 연구에서 다룰 연구 문제는 다음과 같다. 첫째, 현재 AI윤리 가이드라인은 어떠한 기준과 원칙을 포함하고 있으며 그 한계는 무엇인가? 둘째, 뇌신경과학이 밝힌 인간 도덕성의 기능적 기반은 무엇이며 AI의 윤리결정 과정에서 고려할 사항은 무엇인가? 셋째, 규범적 AI윤리 가이드라인의 필요성과 이를 초등 AI윤리교육에서 활용하는 방안은 무엇인가? 결론적으로 AI와 관련된 윤리적 이슈를 깊이 이해하고 AI 기술의 발전이 가져오는 긍정적 변화를 받아들이면서도 잠재적 위험을 관리하고 AI의 윤리적 적용을 모색할 수 있는 능력을 개발하는 것이 초등 AI윤리교육의 중요한 목표가 되어야 한다. 본 연구는 초등학생들이 AI와 연계된 윤리적 판단과 결정을 내리는 데 필요한 다양한 능력을 개발하도록 도울 것이다.
The advent of artificial intelligence (AI) technology is driving revolutionary changes across various sectors of contemporary society, encompassing industry and education, bringing considerable convenience to our lives. Nevertheless, as AI progresses, various ethical concerns emerge, such as invasions of privacy, bias and discrimination, ambiguity in responsibility, and military applications, heightening the necessity for societal regulation. Particularly, systems such as large language models frequently function as “black boxes” with internal mechanisms that are not transparent to users, resulting in challenges understanding and trusting AI outputs. To tackle these ethical concerns, we must establish a process that enables the trustworthiness and validation of AI outcomes. This approach should prioritize the strict adherence to ethical standards and protocols at every stage from development to use. The importance of systematic AI ethics education for primary school students, who will assume roles as AI designers, developers, policymakers, and users in the future is becoming more apparent, as teaching them the proper use and ethical responsibilities associated with AI technology is crucial. This study aims to identify educational measures to address ethical problems posed by AI and proposes incorporating normative AI ethics guidelines into primary AI ethics education. It investigates the principles covered by existing AI ethics guidelines and identify their limitations. It also attempts to answer the following questions: What are the functional foundations of human morality as revealed by neuroscience, and what considerations should be made during the ethical decision-making process of AI? Why are normative AI ethics guidelines necessary, and how can they be implemented in primary AI ethics education? Ultimately, the primary objective of AI ethics education should be to gain a comprehensive understanding of AI-related ethical issues and cultivate the ability to embrace the beneficial changes AI technology brings, while effectively managing potential risks and ensuring its ethical use. This study aims to cultivate the multifaceted skills required for elementary school students to form ethical judgments and make decisions related to AI.
