'오답 번호도 개인정보?'…교육부와 정책방향 논의 이어가기로 교직원 80% "AI교과서업체 관리·감독 규정 적절하지 않다" "초등생만이라도 제외해야", "각계 전문가 모여 보완책 내는 게 합리적"
내년 3월 도입되는 '인공지능(AI) 디지털 교과서'에 대한 개인정보 침해 우려가 커지는 가운데 개인정보보호위원회가 적법성 여부 점검에 나섰다.AI 기술을 통해 학생들의 민감정보와 성적 등 지금보다 훨씬 더 많은 데이터가 수집되는 만큼 혹시 모를 사고를 예방하고 안전한 관리 방안을 교육부에 컨설팅한다는 취지다.
전문가들은 AI 신사업에서 리스크를 완전히 제거하는 것은 불가능하지만, 미성년자라는 정보주체 특성상 보안성 강화에 더 시간을 들여야 한다고 지적한다.
◇ "개인정보보호법 전부 준수하며 운영해야"…불확실성 해소 논의도 12일 관계부처에 따르면 개인정보위는 지난 9일 교육부, 한국교육학술정보원(KERIS)과 AI 교과서를 둘러싼 개인정보 수집 절차와 활용 범위를 비롯해 보호장치 마련 등을 논의했다.AI 교과서는 AI 기술로 학생들의 능력과 수준을 분석해 맞춤형 학습을 지원하고, 다양한 학습 콘텐츠를 제공하는 교과서다.
내년 3월 초등학교 3∼4학년·중1·고1을 대상으로 시행되며, 단계적으로 확대된다.
수학·영어·정보 과목을 시작으로 2028년까지 국어, 사회, 과학, 역사 등의 교과에 도입된다.개인정보위는 "개인정보보호법에 규정된 원칙을 전부 준수하며 AI 교과서를 운영해야 한다는 게 기본적인 입장"이라며 "교육 분야 특성상 관련법보다 더 강화된 안전 조치를 마련해야 할 가능성도 염두에 두고 있다"고 말했다.
회의에서는 AI 교과서 개발사가 수집하는 데이터를 어디까지 개인정보로 봐야 할지에 대한 논의도 이어졌다.
학생이 찍은 오답 번호도 개인정보로 정의하고 처리해야 하는지, 학생 정보의 가명처리 수준 등 판단하기 어려운 부분이 많아 불확실성을 해소하기 위해서다.특히 정보주체가 모두 미성년자인 만큼 이에 대한 개인정보 처리 방침 방안도 논의됐다.
개인정보보호법에서는 만 14세 미만 아동을 위한 개인정보 보호책을 마련하고, 이들의 정보를 수집할 때 보호자의 동의를 따로 받도록 명시했다.
개인정보위 관계자는 "일회성 논의로 끝나지 않고 당분간 AI 교과서의 개인정보 분야에서 교육부와 추가 협의를 이어갈 예정"이라고 밝혔다.
교육부 관계자는 "AI 교과서 개발사들이 시스템 구축 과정에서 놓칠 수 있는 개인정보보호법 준수 부분에 대해 개인정보위와 논의하고, 관련 내용을 개발사에도 전달할 것"이라고 말했다.
교육부는 이달 말까지 AI 교과서 개발업체 신청을 받은 뒤 각종 심사를 거쳐 10월 말에 참여 업체를 최종적으로 확정할 계획이다.
이 관계자는 "약 20개 업체가 지원했다"며 "웬만한 교과서 발행업체는 거의 다 들어왔다고 보면 된다"고 말했다.
◇ "학생 정보, 사교육 시장서 활용될 것"…"AI 리스크 0% 불가능" 전문가들은 정보주체의 권한 보호를 위해 관계부처가 논의에 들어간 점은 다행이지만, 여전히 우려스러운 부분이 존재한다고 지적했다.
김한민 전국교직원노동조합 서울지부 대변인은 "학생들이 학년이 올라가면서 여러 출판사가 개발한 AI 교과서를 사용하게 된다"며 "축적된 학생들의 각종 정보가 업체 사이에서 공유된다는 의미이자, 사교육 시장에서 활용될 수 있다는 뜻"이라고 비판했다.
올해 3월 교사노동조합연맹이 전국 유·초·중등·특수교육 교원 813명을 대상으로 설문한 결과에 따르면 80.3%가 'AI 교과서 개발업체에 대한 관리·감독 규정(데이터 수집 범위 및 활용 등) 적절성' 질문에 '부정적'이라고 응답했다.
'긍정적'이라는 응답은 2.8%에 그쳤다.
31.5%(복수응답)는 '수집된 성적이나 개인정보 등의 유출 및 관리 문제'가 우려된다고 답했다.
김 대변인은 "학교에서 AI 교과서를 사용하기로 결정했다면 학생이나 학부모는 정보 수집에 동의할 수밖에 없고, 교사들도 사용을 거부하는 게 사실상 힘들다"며 "적어도 초등학생만이라도 도입 대상에서 제외하고, 더 검증하는 시간을 들여야 한다"고 강조했다.
신종철 연세대 법무대학원 객원교수는 "만 14세 미만을 대상으로 AI 기술을 활용하고, 이들의 정보를 제공하는 것은 주의해야 한다"며 "미국도 아동 온라인프라이버시보호법(COPPA)에서 더 엄격한 개인정보 수집 기준과 절차를 세울 것을 명시했다"고 설명했다.
신 교수는 다만 "갈수록 AI 기술이 다양한 분야에서 확산하는 현시대를 감안하면 언젠가 AI 교과서를 쓸 수밖에 없을 것"이라고 내다봤다.김승주 고려대 정보보호대학원 교수도 "AI 신사업에 대한 리스크를 아예 제거하는 것은 불가능하며, 근거 없는 우려는 신사업을 위축시킨다"며 "정부가 AI 교과서에 대한 상세한 내용이 담긴 정책 계획서를 공개하고, 시민단체와 학계 등 관계자가 미비한 부분에 대한 보완책을 제안하는 게 합리적"이라고 제언했다.