“인공지능(AI)을 행정 분야에 도입하자는 콘퍼런스를 열려고 하는데 초대장을 써줘.”

대규모언어모델(LLM)을 장착한 생성형 AI 비서에게 행사 시간과 장소를 입력한 뒤 이런 질문을 하자 5초도 안 걸려 그럴싸한 초대장이 작성됐다. 밀려드는 민원을 AI가 분석해 답변과 참고 법령을 안내해주고, 보도자료와 ‘장관님 연설문’도 대신 써준다.

행정안전부는 SK텔레콤, 네이버, LG, 솔트룩스 등 총 여덟 개 국내 기업과 손잡고 개발한 AI 행정지원 서비스를 내년부터 중앙부처와 지방자치단체 일부 공무원을 대상으로 시범 운용한다고 13일 밝혔다.

행안부는 이들 정보기술(IT) 기업들과 지난 6월 업무협약을 맺고 기술검증(PoC) 사업을 벌였다. 각 사에 행안부가 생산한 보도자료 20만 건, 연설문 2000건, 관련 법령 3만 개 조항 등을 제공했다. 기업들은 이를 기반으로 문서작성과 정보 검색 등 반복적 행정업무를 할 수 있는 초기형 서비스를 개발했다.

행안부가 전날 기자단을 상대로 공개한 서비스는 놀라웠다. SK텔레콤이 개발한 모델에 ‘태극기를 다른 나라 국기와 함께 게양할 땐 어떻게 해야 할까’라고 묻자 ‘우선 국기 크기를 맞춰야 한다’며 ‘홀수일 때’와 ‘짝수일 때’ 다른 게양법 등 정확한 내용을 국무총리훈령 등을 근거로 안내했다. 공직(비상계획관)에 지원하고 싶은데 보유 자격증을 인정받을 수 있겠냐는 실제 민원을 입력했더니 공무원임용시험령 등을 인용해 ‘해당 자격증은 안 되지만 다른 자격증은 가능하다’고 답했다.

중소기업 솔트룩스가 개발한 서비스에 ‘외국인의 원천징수 관련 내용을 찾아줘’라고 하자 금세 법률과 시행령이 나왔다. ‘검색 내용과 관련한 외국인 세금 제도 세미나를 열고 싶은데 기획안을 작성해달라’는 주문에도 구색을 갖춘 답변이 나왔다. 조아라 행안부 정보공개과장은 “기존 생성형 AI에 같은 질문을 했을 때 겉으론 말이 되지만 내용은 없는 ‘할루시네이션 현상’이 나타났다”며 “검증 기간에 특화한 분야의 정보를 가져오는 검색증강생성(RAG) 등의 신기술이 도입돼 AI의 정확도가 급격히 향상됐다”고 설명했다. 다만 문서 요약과 초안 작성은 아직은 사람의 최종 검토가 필요한 수준이라는 설명이다.

더 고도화된 ‘AI 행정비서’가 도입되면 규정에 근거한 민원 응대가 가능해질 것으로 행안부는 기대하고 있다. 행안부는 내년 AI 행정서비스를 전산망 관련 정부 장기계획인 정보화전략계획(ISP)에 반영할 방침이다. 공무원 전산 시스템 중 가장 범용성이 높은 문서 결재·유통 플랫폼인 ‘온나라’엔 비교적 이른 시일 내 적용할 수 있을 것으로 보고 있다.

김대훈 기자 daepun@hankyung.com