버튼 하나에 목숨 오간다…국방·제조 AI "인간 역할 배제 말아야"

AI미래포럼 2차 웨비나

"기술 인정하되, 과한 기대 금물"
신뢰·기능 갖춰 인간과 공존 강조

AI미래포럼의 두 번째 웹 세미나가 13일 'AI의 기대와 현실, 어떤 노력이 필요한가'를 주제로 열렸다. 포럼에서는 인공지능(AI)의 기술적 실상과 함께, 교육·의료·국방 등 다양한 분야에서 AI 기술이 넘어서야 할 과제들이 다뤄졌다. 허문찬 기자

제조업과 국방 분야는 ‘초정밀 인공지능(AI)’이 필요한 대표적 분야다. 조금의 오차만 발생해도 돌이킬 수 없는 비용이 소모되며, 심하면 사람의 목숨까지도 잃을 수 있다. 국내 최대 AI 연구 네트워크 'AI미래포럼'에 참여한 분야별 전문가들은 “발전된 기술들의 가능성은 인정하되, 사업 분야를 정확히 타깃하고 무리한 확장은 경계해야 한다”고 입을 모았다.

‘AI의 기대와 현실, 어떤 노력이 필요한가’를 주제로 13일 열린 AI미래포럼(AIFF) 제2차 웨비나에서 군사용 AI 전문가 류봉균 EpiSci 대표는 “전장에서 AI에 내 목숨을 걸 수 있겠냐고 물음을 던져봐야 한다”며 AI에 대한 과한 기대감에 선을 그었다. 탱크, 전투기 조종에서 AI가 기능적으로 해야 할 역할들을 인정하면서도, 인간의 역할이 배제되지 않는 ‘공동체’를 이뤄야 한다는 지적이다.

류 대표는 “자율주행차나 자율비행은 한 번만 방향을 잘못 꺾더라도 목숨을 위협받을 수 있다”며 “전투기 조종사는 AI의 판단 근거를 신뢰하면서도 전쟁에 관련된 다른 일을 할 수 있어야 한다”고 말했다. 국방 분야의 AI는 전장이라는 특수한 상황을 감안해야 하며, 일단 결정을 한번 내리면 실수했을 때 돌이킬 상황이 없음을 염두 해야 한다고 강조했다. “군에선 성능이 떨어지더라도, 판단에 대한 신뢰를 줄 수 있는 AI 모델을 구축해 인간과 협동해야 한다”는 것이 그의 판단이다.

제조업과 시스템통합(SI) 현장 전문가들도 AI의 ‘허와 실’을 따지고 나섰다. 김재완 삼성디스플레이 상무는 “제조업도 AI의 기술 한계를 정확히 인정하고 인식해야 한다”며 ”단순히 발전된 인공신경망을 적용하는 것뿐만이 아니라, 데이터베이스 구축이나 라벨링과 같은 문제 해결이 더 필요한 상황“이라고 지적했다.

이주열 LG CNS 상무는 “기업 업무의 자동화와 효율화를 연구하다 보면, 연구소에서 보이던 AI 모델의 정확도가 현장에 나갔을 때 기대에 미치지 못하는 난관이 있다”며 “이를 극복하기 위해 딥러닝 이외의 방식을 섞어 쓰는 등 여러 방법을 강구하지만, 학습시킨 데이터가 해결하고자 하는 업무를 다 담아내지 못하는 문제가 있다”고 지적했다. “기계학습 운영(ML Ops)에 사람의 역할을 더해, 자동화 가능한 단계부터 구분해야 한다”고도 덧붙였다.

장정열 에프에이솔루션 대표는 “결국 기업이 AI를 도입한다면, 경영자들의 기대와 눈높이를 어떻게 맞춰갈 것인지가 핵심”라며 “초기 단계부터 명확한 비즈니스 요구 사항을 목표로 두고 AI 모델 튜닝과 데이터 정제를 해나가는 것이 확실한 결과물을 얻을 수 있는 길”이라고 전했다.

이시은 기자