이호석 SK쉴더스 EQST 랩장이 20일 오전 서울 중구 SK T타워 수펙스홀에서 열린 ‘2023년 상반기 보안 트렌드 및 AI 보안 위협 전망’ 미디어 세미나에서 ‘유형별 침해사고 발생 통계’에 대한 발표를 하고 있다. /사진=SK쉴더스
이호석 SK쉴더스 EQST 랩장이 20일 오전 서울 중구 SK T타워 수펙스홀에서 열린 ‘2023년 상반기 보안 트렌드 및 AI 보안 위협 전망’ 미디어 세미나에서 ‘유형별 침해사고 발생 통계’에 대한 발표를 하고 있다. /사진=SK쉴더스
라이프 케어 플랫폼 기업 SK쉴더스가 20일 서울 중구 SK T타워에서 2023년 상반기 주요 보안 트렌드 및 AI 보안 위협 전망을 공유하는 미디어 세미나를 열었다.

SK쉴더스의 화이트 해커 전문가 그룹 이큐스트(EQST)는 이번 세미나에서 상반기의 주요 해킹 사례, 업종별 침해사고 통계, 주요 공격 시나리오 등을 소개했다. 최근 IT업계를 주축으로 급부상하고 있는 생성형 AI에서 발생할 수 있는 보안 위협과 실제 이큐스트가 검증한 AI 활용 방안 및 AI 사용 가이드를 자세히 다뤘다.

국내 해킹 공격 사례는 늘었을 뿐 아니라 정보유출 침해사고 유형이 많아져 그 심각성이 커지고 있다.

이큐스트는 올해 상반기의 공격 비율이 전년 동기 대비 49.33% 늘었다고 밝혔다. 가장 많이 발생한 건 기업의 기밀이나 개인의 금융 정보를 탈취하는 정보유출 침해사고로, 30%의 비중을 차지했다. 오래된 취약점을 노린 대규모 랜섬웨어 공격이나 제로데이를 악용한 악성코드 감염사고도 증가해 올해만 28%를 기록했다.

하반기 주요 보안 위협으로는 △확장된 소프트웨어 공급망 공격 △랜섬웨어 시장 변화 △북한발 해킹 증가 △소프트웨어 취약점을 악용한 공격 △피싱 패턴의 다양화가 제시됐다.

업무에 자주 활용되는 소프트웨어의 취약점을 노린 공격이 유의 대상으로 언급됐다. 올해 상반기 프린터 관리 솔루션과 파일 전송 솔루션 등의 제로데이 및 오래된 취약점을 악용한 대규모의 랜섬웨어 공격이 일어난 만큼, 하반기에도 발생할 가능성이 높을 수 있다는 경고가 나왔다.

‘김수키’, ‘라자루스’ 그룹 등 대표 북한 해커 그룹이 특정 타깃을 목표로 하는 스피어 피싱과 악성코드 기능을 고도화시키고 있어 피해가 커질 것이라는 얘기도 나왔다.

생성형 AI를 딥페이크 기술에 접목하는 행태가 늘어날 가능성이 거론되기도 했다. 피해자의 목소리와 얼굴을 모방한 후 피싱 공격을 진행하는 경우가 많아질 수 있다는 것이다.
AI 서비스 체크리스트. /자료=SK쉴더스
AI 서비스 체크리스트. /자료=SK쉴더스
이날 간담회에서는 챗GPT를 화두로 전 산업계로 확대되고 있는 '생성형 AI'에 대한 보안 위협과 그에 따른 공격 시나리오도 공개됐다.

이큐스트에 따르면 보안 위협은 크게 'AI 모델 자체를 공격하는 유형'과 'AI 활용 서비스를 악용해서 발생하는 위협'으로 분류된다.

AI 모델을 대상으로 한 위협으로는 회피·추출·추론·중독 공격이 언급됐다. 주로 입력 데이터를 조작하거나 악의적인 데이터를 추가해 데이터 조작 효과를 내는 방식이다. AI 활용 서비스를 악용한 공격으로는 프롬프트 인젝션, 민감정보 유출, 악성코드 생성, 딥페이크 등이 꼽혔다.

프롬프트 인젝션이란 악의적인 질문으로 AI 서비스 내 적용된 지침 혹은 정책을 우회해, 본 목적 이외의 답변을 이끌어내는 공격 유형이다. 딥페이크는 인공지능 기술로 기존 인물의 얼굴 혹은 특정 부위를 합성한 영상 편집물을 일컫는다.

이큐스트는 보안 영역에서의 실제 활용 방안을 테스트한 결과도 발표했다. 보안 실무에서 주로 사용하는 4가지 분야에 생성형 AI를 도입해 검증한 것이다.

활용도 높은 순으로 ‘시나리오 모의해킹’, ‘시큐어 코딩’이 각각 60%, 50%를 차지했다. 모의해킹 시나리오를 생성해 방어대책을 강구하거나, 주요 프로그래밍 언어를 분석해 활용도를 높이는 방식이다. 모바일 서비스의 보안 취약점을 점검하거나 악성코드를 분석하는 데는 상대적으로 효용성이 떨어지는 것으로 나타났다.

이호석 EQST Lab 담당은 “생성형 AI 모델이 발전하고 있지만 보안 영역에서 활용하기엔 초·중급 수준”이라며 “생성형 AI의 도출 결과는 보조 도구로 적절히 활용해야 한다”고 당부했다.

이큐스트는 사용자·개발자·기업 관점에서의 'AI 체크리스트'를 각각 제시해 안전한 AI 활용 방안을 공유하기도 했다. AI 체크리스트는 인공지능 서비스 이용 시 자체적으로 검토할 수 있는 내용들로 구성됐다.

이재우 SK쉴더스 EQST사업그룹장은 “생성형 AI가 고도화되면 공격의 자동화, 공격 수준의 상향 평준화도 예측해볼 수 있다"며 "해당 공격을 대응하기 위한 방어 측면에서도 생성형 AI가 반드시 필요 할 것"이라고 전망했다.

오유림 기자 our@hankyung.com