기술 악용 범죄와 AI 경찰 대응

경찰대학 치안정책연구소 스마트치안지능센터장 장광호

기술을 악용한 범죄는 일상적‧조직적‧폭력적이다. 이에 대응하고자 경찰도 AI R&D로 준비하고 있다. 발전을 위해 실제 데이터를 사용해 치안 공용 AI 기반을 만들고 기술전략을 추진할 필요가 있다. 기술 혁신으로 선제적 경찰 활동과 민관 협업하고, 과학적인 전략을 수립하도록 변화해야 한다. 보이스 피싱 대응 개발은 그런 취지를 실험하고 있다. 실천을 위해 치안 연구 기관을 신설하고 과학 기반 조직으로 변화하는 노력을 시작하길 희망한다.

Ⅰ. 들어 가며

1. 미래 치안의 위험 논의

2021. 9월 경찰청(국민중심 경찰개혁단)은 미래의 위험과 경찰의 새로운 전략 비젼이 필요하다는 발표를 했다. 미래 기술을 통한 신종 범죄·위험을 소개했다. 디지털 제조로 마약-총기 등 위험 물질 제작, 바이러스 악용을 악용한 테러, 사물 인터넷 시대의 해킹·무단조작, 자율주행차를 해킹한 교통 사고 등을 경고했다. 메타버스 공간의 범죄, 보이스피싱-스미싱과 같은 금융범죄, 블록체인을 이용한 범죄수익 은닉, 인공지능(AI)을 활용한 범죄등을 소개했다. 기존 방식이 아닌 새로운 미래 전략을 모색해야 한다는 취지였다.

경찰청, '4차 산업혁명 시대 새로운 범죄·위험의 등장과 선제적 대비' (2021. 9)

2. 경찰의 현실과 관건

미래의 위험이 아니라 당장의 여건은 어떠한가? 경찰청 업무계획(2022년)에 따르면 2021년 객관적 통계와 체감치안 간 괴리를 보였다. 2021년 10월 기준 전년도 범죄통계는 총범죄가 11.1%(131만건→117만건) 감소했고, 살인‧강도‧강간‧절도‧폭력 등 체감 치안에 영향이 큰 범죄가 13.3% 감소(39만건 →34만건)했다. 그러나 시민들이 느끼는 체감안전도는 하락(’20년77.7→’21년76.5)했다. 최근 형사사법구조 변화로 수사부서의 여건을 나타내는 지표는 낮아졌다. 사건 처리 기간은 ’17년 44.0일에서 ’21년 62.3일로 늘어났다. 수사부서 치안고객만족도 조사도 수사 부서는 2.7점, 교통조사 부서 3.2점 낮아졌다. 수사경찰의 직무 만족도 차이가 ’19년 5.5점에서 ’21년 6.8점으로 격차가 벌어졌다.

현실의 장애를 딛고 미래를 대비하는 주안점은 무엇일까? 장윤식(2021)에 따르면 통계 수치보다는 믿을 수 있는 경찰이다. 영국과 우리나라를 비교하면 영국은 우리나라보다 범죄 발생이 2배나 높음에도 범죄에 대한 두려움이나 법질서 지수는 비슷하다. 차이점은 경찰의 신뢰도이다. 미래를 진지하게 고민하고 노력으로 신뢰를 쌓아야 한다. 경찰이 주시할 위험은 어떤 것이고, 경찰의 대응은 어떻게 해야 할지 논의해보았다.

장윤식, ‘4차 산업혁명 시대, 경찰의 미래전략’ 경찰청 발표자료. (2021. 11)

영국(범죄 6.43백만)은 한국(1.76백만)보다 범죄 발생이 거의 2배 높다. 영국의 범죄 두려움(19%)은 한국(20.3%)과 거의 같고, 영국 경찰 신뢰도는 한국보다 1.59배 높다. 종합적인 경찰 법질서 지수는 영국과 한국이 같다.(83점, 공동 42위)

Ⅱ. 기술을 악용한 범죄와 위험

1. 디지털 위험의 일상성

도시화･정보화 사회로 접어들면서 ‘위험’에 대한 국민의 태도가 달라졌다. 코로나, 해킹, 사회재난 등이 일상이 되면서 도시화･국제화･정보화로 인한 ‘내가 사는 사회의 위험’을 예민하게 생각한다. 통계청이 발간한 ｢국민 삶의 질(2021)｣에서 국민들이 안전에 대해 느끼는 인식을 조사했다. 안전하지 않다고 느끼는 요소가 개인정보유출‘(54.7%), 신종질병(52.9%), 범죄(39.9%), 정보보안(39.3) 순으로 높았다. 정보 유출과 정보 보안 침해 등 디지털 위험을 전통적 범죄보다 더 큰 안전의 위험 요인으로 높게 느끼고 있다.

국민 삶의 질, 통계청. 2021

2. 디지털 위험의 조직성

범죄는 오프라인에서 온라인으로 넘어가고 있다. 사람들이 돈을 가지고 다니지 않으니 이익을 바라는 범죄자들은 인터넷사기, 전화사기, 스미싱 등으로 조직화하고 있다.

｢2040, 미래 영국 운영 환경｣에 따르면 '최근 범죄조직들은 암호화 서비스와 디지털 플랫폼 기반의 비즈니스 모델을 사용한다. 그들은 시장 접근성을 확대하고 사회에 재정적 부담을 안기는 한편 폭력을 증가시키는 다양한 기술을 이용한다. AI 시스템은 범죄인에게 자동화를 통해 물리적, 심리적, 도덕적 장벽을 낮춰준다. 음성을 합성하여 사람처럼 말하거나, 프로그래밍한 해킹으로 사이버 공격할 수 있다.' 이런 영국 경찰의 관점은 범죄 조직을 개별 일탈자로 보는 것이 아니라, 경쟁 기업처럼 분석하고 평가하고 있다.

2040, 미래 영국 운영 환경, 치안정책연구소 2022. 2

최근 보이스피싱 수법으로 전화번호와 목소리로 걸려오는 사건이 있었다. 범인들이 개인정보 탈취, 딥 보이스를 통한 음성 합성, 발신번호 조작 등 수법을 쓰고 있을지도 모른다. 범죄 시니리오를 만들고, 데이터 수집, 음성변조, 대화 합성, 악성 앱 등을 개발해 해당 서버와 같은 인프라를 운영하는 것이다. 보이스피싱 조직이 적극적으로 기획과 연구개발과 시설 운영을 한다면 경찰은 이를 충분히 대응하고 있는지 자문이 필요하다.

엄마 전화번호 뜨게 발신번호 조작…신종 보이스피싱 주의!, KBS. 22.4.6

3. 디지털 위험의 폭력성

사이버폭력은 “사이버(인터넷, 휴대전화 등) 공간에서 언어, 영상 등을 통해 타인에게 피해 혹 불쾌감을 주는 행위”이다. 사이버 언어폭력, 명예훼손, 스토킹, 성폭력, 유출, 따돌림, 갈취, 강요 등을 들었다. 그 유형으로 개인정보 유출, 온라인 매체를 통한 욕설, 따돌림, 원치 않는 성적 행위나 대화 강요, 음란물 노출 등이 있다. 기술을 악용한 지인능욕, 딥페이크 등의 신종 수법도 생기고 있다. 현실세계와 사이버 공간과 수단을 오가면서 폭력성이 증가한다고 설명한다. 'N번방 사건'은 디지털 성착취가 조직화하여 상호 작용한다면 얼마나 극단적이 될 수 있는지를 보여주었다. 학교 폭력 역시 카톡 감옥으로 괴롭히고 피해자가 전학을 가도 그 학교의 소위 일진에게 알려 괴롭히는 식이다.

카톡 감옥에 온라인 신상털기까지…시간제한 없는 ‘사이버 학교폭력’. 머니투데이, 2022. 5. 13

이런 위험에 대해 경찰은 전통적인 노력과 더불어 다양한 분야 기술개발을 하고 있다.

Ⅲ. 경찰 R&D 대응과 발전 방향

1. AI 활용 경찰 R&D 경과와 사례

기술 개발은 연구 체제부터 만들고, 경험을 쌓아야 한다. 경찰 R&D는 기반을 만들고 성과를 축적하는 단계이다. 2014년 국가 R&D에 참여하도록 경찰법(33조)을 개정했다. 경찰청 치안과학정책팀이 종합하고 치안정책연구소 등에서 직접 연구와 R&D 기획 평가를 한다. 경찰의 국가 R&D 규모는 2015년 22억원에서 2022년 592억원, 45개 과제로 증가했다. 사이버 위험, 경찰 112, 수사, 민원 응대를 AI로 대응하려는 과제를 소개한다.

1)인터넷 공간의 위험을 탐지하고 대응하기 위한 개발을 모색하고 있다. 보이스피싱, 스미싱, 디지털 성착취 등 위험 행위와 불법 수익 은닉을 사회연결망 분석으로 탐지하기 위함이다. 예컨대 SNS에서 ①위험인물들이 사용하는 키워드, 게재 ID, 게재글을 모니터링하다가 ②신종 키워드를 포착해서 ③신규 게재자와 경로를 찾는 방식이다. 경찰 시스템의 데이터와 연결하면 더 많은 정보를 알아낼 수 있을 것이다.

강정한 등 4, '사이버위협 범죄 연결망 분석 기법에 대한 연구' 2020. 경찰청 연구 과제

2)긴박한 112 신고를 파악하고 지원하는 정보를 전달하기 위한 개발을 하고 있다. 112 신고 접수 경찰과 신고자와 대화, 112 지령실과 현장과의 대화를 파악해서 위험도와 유사한 사건을 검색해서, 대응 방법을 추천하는 시스템이 목표이다. 1)시민-접수 경찰-현장 경찰 간 대화를 문자로 바꾸는 것 2)대화의 내용을 분류하는 것. 3)최적의 해법을 지원하는 기술을 만들고 있다. 음성인식, 정보검색, 지식 시스템 등을 개발하는 것이다. 지난 1년 간 가상 112 신고 접수 데이터 100만건과 매뉴얼‧훈령 등을 추천자료로 활용해 개념 시제품을 만들었다.

112 긴급출동 의사결정 지원 시스템 연구 개발 사업,  한국전자통신연구원 주관, ’21~’24년

3)수사를 돕는 AI도 개발한다. 수사 자료를 쟁점 정리하고, 수사 결과 문서를 작성 할 때 문장을 추천해주는 개념이다. 수사자료 데이터를 쟁점으로 정리하고 비슷한 사건을 비교하는 시각화 결과를 보여준다. 수사 가설(범인 여부, 증거 가부)을 반론하는 '대립 가설'을 대조해서 가설을 반론할 수정 사항을 제시한다. 그간 개발 과정에 수사 데이터는 판결문을 사용했다. 2년차인 현재 사건에 대한 질의 응답 체크리스트로 만들어 유형을 정의했고 비슷한 사건에서 도출한 쟁점을 추천하는 기능을 개발하고 있다.

AI 기반 범죄 수사 지원 과제, 한림대학교 주관, ’21~’24년

4)비긴급 민원상담 센터인 <182 센터>에 AI 챗봇을 적용하는 R&D를 하고 있다 실시간으로 음성을 인식하고 대화를 분석하며 대화를 처리하는 DB를 구축해서 음성으로 합성해서 답변하고, 상담관과 협업하는 실증형 정보시스템도 진행한다. 그간 만든 방법론에서 성능을 높이고 종류를 넓히는 것이 주안점이다.

경찰청 대화형 치안 지식서비스 폴봇 연구 개발 사업, 한국전자통신연구원 주관, ’20~’22년

그간 경찰의 R&D 기획‧관리 역량과 전문가 네트워크를 만들었기에 시작할 수 있었던 과제들이다. 연구팀들은 선행 경험을 바탕으로 실현가능한 목표, 최선의 방법을 고민하고 현장에서 활용할 수 있는 결과를 위해 노력하고 있다. 이런 노력이 실제 경찰의 대응에 쓰여서 신뢰를 높이기 위해서는 R&D 성과와 경찰의 활동 변화에 대한 개선이 필요하다.

2. R&D 성과 향상 방안

(1) 실제 데이터 사용 개발

예전 경찰 R&D 중에서 수사 분야에서 유사 사건을 찾아 용의자의 순위를 추천하고자 했던 산출물에 실제 사건을 적용하자 정확도가 낮았다. 전화사기 키워드를 검색하는 기술 역시 경찰 내부 개발한 기술과 외주 개발 시스템의 차이가 있었다. AI는 데이터가 스스로 학습하는 것이기에 실제 데이터에 적용하면서 조정하는 과정이 필수다. 대부분의 경찰 R&D는 실제 데이터를 사용하지 못하고 있다. 수사서류 대신 판결문, 112신고 음성 대신접수 경찰이 입력한 데이터, 민원 음성 대신 연구팀이 수동작성한 요약 문서를 사용한다.

실제 데이터를 활용하는 협력 구역을 넓혀야 한다. 스마트치안지능센터는 112신고, 범죄통계, 치안고객만족도, 체감안전도 등을 받아 자체 분석하고 협력 연구 기관이 개발한 기술을 함께 적용하고 있다. 112신고음성, 수사‧사이버수사‧민원 R&D도 적용할 수 있다.

(2) 치안 공용 AI 기반 준비

기대와의 차이는 데이터‧인프라 자원이 부족한 탓도 크다. AI는 세계 최고 연구자들이 각축하는 영역이다. 역량과 투입 자원에 따른 성능차이가 커지고 있다. 경찰 부서별 데이터에 소규모 인력 투입으로는 결과를 장담할 수 없다.

기술 기업들이 ‘초거대 AI’ 연구를 활발하게 시작했다. 대용량 연산이 가능한 인프라에 방대한 데이터를 학습시키는 방법론이다. 분야별로 학습시켰을 때보다 자원 대비 성능이 압도한다. 경찰도 부서별 AI와 별도로 ‘치안 공용 AI 기반’을 준비해야 한다. 여러 R&D가 AI수사관, AI프로파일러, AI사이버캅 등을 말하지만, 'AI 순경'이 먼저다.

초거대 AI 기반 범죄대응 기술 개발 기획연구, 치안정책연구소. 2021.12.

(3) 실용화를 위한 기술 전략

산출물을 받아들일 수 있는 여건인지도 중요하다. 정보시스템이 낡거나, 연결이 어려운 구조라면 활용할 수 없다. 조직의 데이터 역량 기준인 '데이터 분석 성숙도와 준비도'에 따르면 경찰은 도입‧활용 단계다. 조직 수준을 고려해 R&D의 우선순위와 방법, 실용화와 고도화 일정을 수립해야 한다. 이를 ‘기술전략’이라 한다. 기술 개발 일정과 우선 순위, 투입 자원을 종합하는 활동이다. 국가 R&D와 자체 연구, 국관의 정보화시스템 개발과 구매를 종합하고, 기술별로 자연어AI･영상AI･빅데이터･플랫폼 기반을 쌓아야 한다.

3. R&D를 통한 경찰 활동 변화

(1) 선제적 경찰 활동 도구 개발

기술 혁신은 일하는 방식을 바꿀 때 힘을 발휘한다. 현재 R&D 과제는 각 부서가 하던 일을 하던 방법대로 더 잘하기 위한 개발 중심이다. 기획 단계부터 새로운 문제를 새로운 방식으로 해결해줄 도구를 만들면 의미가 크다. 기술 악용 범죄라는 새로운 위험에 대한 새로운 해법의 키워드는 ‘선제적 경찰 활동’, ‘민관경 협업’이다.

기존 범죄 이론은 범죄자-피해자-장소 중심이지만, 국경, 관할, 분야, 주체 간 경계가 모호해지고 범죄 활동은 강력한 네트워크로 발전했다. 지역 관할, 예방-수사 조직을 구분해서는 대응이 어렵다. 범인이 피해자를 물색하고 조우하는 순간을 순찰해서 막고, 범죄가 발생한 후, 증거를 모아 수사하는 방식을 디지털 위험에 적용하기 어렵다.

장윤식 전게서

기술 악용 범죄는 예방-수사의 과거 해법으로 대응하기 어렵다. 예전 범죄가 물리적 한계로 소규모 인원을 대상으로 물색하는 과정이, 온라인에서 대규모로 신속히 이뤄진다. 보이스피싱 조직이 미끼문자를 날려 피해자를 포섭하고 개발한 악성앱을 배포해서 전화를 통제하는 단계, 협박과 회유로 돈을 뺏는 과정은 물색과 조우를 구분할 수 없다.

경찰도 기술을 활용해 '선제적 대응'해야 한다. 선제적 활동은 ‘범죄’가 아니라, ‘위험’을 기준으로 낮은 단계부터 대응한다. 시민 홍보, 환경 개선, 장비 설치, 피해 집단 교육, 위험 인물 관찰 등 다양하다. 지자체 등 다른 공공기관, 민간과의 협력이 필요하다.

도구가 달라지면 치안 전략 방식도 달라진다. 기술을 통해 다양한 선제적 대응 수단을 만들면 예방-수사 구분을 넘고, 민관이 협력할 수 있다. 어떤 도구가 가장 효과적이었는지 분석해서 전략을 세우는 ‘증거 기반 경찰 활동 치안 전략’으로 순환할 수 있다.

(2) 보이스피싱 대응 적용 사례

경찰이 2021년 한국지능정보사회진흥원(NIA)의 지원으로 개발한 ｢AI 기반 전화사기 대응 플랫폼｣은 그런 변화를 시도했다. 진화하는 수법에 융합적으로 대응하고자 경찰(112‧수사), 민간 데이터를 모아 경찰이 활용할 수사지원시스템, 시민용 어플, 경찰 대응 어플, 기관간 정보 공유 시스템을 만들었다. 시민용 어플 ｢시티즌 코난｣은 약 100만명이 가입했다. 112신고를 분석해 빈발 경고하는 서비스는 정보통신기획평가원(IITP)가 지원한 R&D의 산출물이다. 경찰관이 위험 상황을 탐지해서 출동하는 시제품도 만들어, 활용방법을 논의하고 있다. 이들은 위험을 미리 알려, 다양한 주체가 대응하는 도구이다.

범죄 위험 상황 초기 대응 시스템 개발, 한국전자통신연구원 주관, ’18~’21년

이 개념은 보이스피싱 뿐 아니라 인터넷 사기, 디지털성폭력을 탐지‧경고해서 대응하고, 피해 회복을 위한 정보를 알리며 아동‧침해노인 실종 방지 등에 확대할 수 있다. 지자체 등 공공기관과 금융‧통신, 민간경비 등이 협력하는 플랫폼 계획을 수립하고 있다.

경찰 내부 분석 인력이 실제 데이터를 직접 분석해서 AI모델을 만들었고, 특정 부서에 한정하지 않는 기술 도구를 제시했다. 수사 경찰 지원 시스템을 만들어 IITP가 지원하는 R&D로 보이스피싱 전화음성 탐지, 통화‧계좌 분석, ATM‧기지국 분석 기술을 실증하려 한다. 자체적인 기술 전략을 시도해보는 것이다.

선제적 활동을 치안 전략 수립에 순환하는 연구도 시도하고 있다. ｢시티즌코난｣을 많이 설치한 경찰관서의 전화사기 범죄 발생건수를 상관 분석했다. 낮은 수준이지만, 유의미한 상관관계가 있었다. 시티즌코난 뿐 아니라, 범인 검거, 시민 홍보, 불법 콜센터‧심박스 단속, 악성앱 서버 탐지 등 수단과 범죄발생, 시민들의 불안감을 분석해 전화사기 대응 전략을 판단하는 연구를 서울대학교 행정대학원과 협력해서 계획하고 있다.

더 사이버, 경찰청 사이버수사국, 2021.

Ⅳ. 맺으며

1. 치안 과학을 위한 조직 구조

제언을 추진할 구조와 역량이 필요하다. 실제 경찰 데이터로 AI 치안 공용 기반을 개발하는 연구는 경찰 연구자가 해야 하고, 치안 기술 전략을 운영하려면 기술적 역량을 갖춘 주체가 경찰청 의사 결정에 속해야 한다. 기술과 데이터를 활용한 선제적 활동 도구를 만들어 민관 협업을 촉진하려면 경찰 정책 과정에 참여해야 한다. 경찰청 ｢치안과학원｣로 개편을 논의하는 이유다.

역량 확보를 위해서도 마찬가지다. 데이터 혁신은 장기간 경험, 업무지식･통계･컴퓨팅･데이터베이스･인프라 등 다양한 연구자가 함께 해야 한다. 부서 단위로 흩어서는 어렵다. 치안과학원이 경찰 기술 인력이 순환하는 경로가 되고, 장기간 근무하여 안정적으로 역량을 쌓을 수 있어야 전문 인력을 육성할 수 있다.

2. 치안 과학을 위한 변화 관리

미국‧영국 등 주요국은 미래 위험과 경찰의 대응을 적극적으로 연구한다. 기술 발전에 한정하지 않는다. 조직 구조와 리더십, 인사 교육, 의사소통, 정보 관리 체제, 민간-공공 협력를 더 중시한다. 기술은 도구이고 변화하려면 일하는 방식을 바꿔야 하기 때문이다.

미래 위험을 대비하는 치안 전략은 노동집약성 투사형 경찰에서 과학자, 지식기반 경찰으로 변화하는 것이다. 과학 기술은 수단이 아니라 태도에 본질이 있다. 과학자는 무지를 인정하고 지식을 추구하며 실패를 두려워하지 않고 맞는 방법을 찾을 때까지 오랜 시간개발하고 실험한다. 대응적‧수동적‧즉시적 태도와 경찰관‧계급 중심의 경직된 자세를 장기간의 기다림, 적극적인 도전, 실패의 수용, 정보의 공개, 다양한 내외 주체의 협업, 계급이 아닌 전문성을 존중하는 태도로 바꿀 때 치안 과학이 뿌리 내릴 것이다.

“미래는 이미 와 있다. 널리 퍼져 있지 않을 뿐이다.” 새로운 위험과 치안 과학의  미래도 이미 와 있다. 와 있는 미래를 어떻게 널리 퍼지게 할지 선택과 행동이 필요하다.

“The future is already here. It‘s just unevenly distributed” 영화 ‘매트릭스’의 모티브가 된 소설 ‘뉴로맨서’의 작가 윌리엄 깁슨, 2003년 이코노미스트 인터뷰