인공지능이 쓰는 경찰 보고서, 과연 도움일까 부담일까?

인공지능

콜로라도주 포트 콜린스 경찰서의 한 경관은 근무 요청이 있을 때마다 보고서를 작성하는 과정에서 큰 자부심을 느껴왔다고 한다. 그런데 부서가 보고서 작성 속도를 높이는 도구를 시험하기로 했을 때, 흥미가 생겼다. 예전에는 45분이 걸리던 보고서 작성이 이제는 10분 정도면 끝난다. 그는 지난 3월 포트 콜린스 경찰서에서 진행된 한 인터뷰에서 “기술에 크게 관심이 있는 편은 아니라서 처음엔 조금 회의적이었다”고 말했다. 하지만 작성 시간이 줄어든 덕분에 “더 많은 서비스 요청에 대응하고, 범죄 예방에도 적극적으로 나설 수 있게 됐다”고 덧붙였다. 그가 말한 도구는 경찰 보고서 초안을 작성해 주는 인공지능 기반 소프트웨어로, 덕분에 절차가 훨씬 빠르고 수월해졌다. 현재 이 도구는 전국 여러 부서에서 채택되고 있어, 앞으로는 이런 경험이 점점 더 흔해질 것으로 보인다. 다만 일부 법률 전문가와 시민권 옹호자들은 인공지능이 작성한 보고서에 편향이나 부정확성이 들어갈 수 있다는 점, 그리고 그로 인한 투명성 문제를 우려하고 있다.

 

반응형

 

"보고서 작성 시간이 획기적으로 줄어들고 사람이 처리해야 할 잔일들이 줄어들었다는 점은 업무의 효율성에서 정말 좋은 점인 것 같다. 근데 여러 사람이 제기한 문제점처럼 사람이 직접 하지 않다보니 혹시 모를 오류나 부정확한 정보가 들어갔더라도 모를 수도 있다. 그런 가능성 때문에 다시 보고서를 체크해야할텐데 거기에 들어가는 시간이 더 많지 않을까? 그래서 직접 쓰고 나서 인공지능으로 체크를 하는 용도로 쓴다면 좋을 것 같다."

---

경찰 보고서는 형사 사법 과정의 한가운데에 있다. 경찰관들은 사건을 세부적으로 기록하고, 자신들이 왜 그런 조치를 취했는지 설명하며, 나중에 법정에서 증언할 때를 대비해 보고서를 작성한다. 이 보고서는 검사, 변호사, 판사, 그리고 대중이 무슨 일이 있었는지를 경찰의 시각에서 이해하는 데 도움을 준다. 한 미국 대학의 법학 교수는, 이런 보고서가 검사가 사건을 맡을지, 판사가 구속 결정을 내릴지 등에 영향을 줄 수 있다고 말한다. 그는 “경찰 보고서는 결국 책임의 근거다. 국가 권력과 경찰 권력을 정당화하는 역할을 한다”고 설명했다. 이런 이유로 ‘드래프트 원’을 지지하는 사람들은 인공지능이 단순히 시간을 절약하는 것뿐 아니라, 보고서를 더 정확하고 포괄적으로 만들 수 있다고 본다. 반면 회의적인 시선도 있다. 이 기술에 문제가 생기면 사람들의 삶에 큰 영향을 줄 수 있기 때문이다. 실제로 일부 주에서는 이미 인공지능이 작성한 경찰 보고서 사용을 제한하는 법안을 통과시켰다.

 

"아무리 인공지능이 인간보다 정확한다고 해도 인간의 감각이라는 것은 아직 따라오기에 먼 것 같다. 그런 면에서 인공지능이 발달했다고 전적으로 그 정보를 믿다가 혹시 모를 피해가 생길 수도 있다. 나중에 이 현상이 심해진다면, 억울한 피해자가 생겨도 인공지능의 판단은 틀렸을 리 없다는 편향이 생기면서 오히려 사회는 안 좋은 방향으로 흘러갈 수도 있다. 그래서 미국의 일부 주에서 인공지능 보고서 작성 제한 법안을 통과했다는 게 나름 안심이 된다. 이 현상의 위험을 알고 미리 조치를 취한 것이다."

---

‘드래프트 원’의 출시는, 다른 지역에서 진행된 안면 인식 기술 실험이 부당한 체포로 이어진 사건 이후, 법 집행 기관 안에서 인공지능에 대한 우려가 커지고 있는 시점에 이루어졌다. 한 법학 교수는 인공지능 경찰 보고서 기술에 대해 “이 흐름이 점점 더 커지고 있다. 많은 사람들이 다른 인공지능 기술과 마찬가지로 업데이트와 개선 방법을 찾고 있다”고 말했다. 이어 “이 기술로 돈을 벌기 위해 밀어붙이는 과장된 홍보도 분명 존재한다”고 덧붙였다.

 

"이 인공지능의 기술로 이득을 보는 사람은 무조건 존재한다. 그 사람들이 존재하는 한, 이 현상의 발전을 멈출 수는 없을 것이다. 멈출 수 없다는 사실을 알면, 이 기술이 좋은 방향으로 흘러가게 많은 사람들이 노력해야 한다."

---

경찰관은 바디 카메라로 현장 상황을 기록한 뒤, ‘드래프트 원’에 보고서 작성을 요청할 수 있다. 이 도구는 바디카메라 영상의 전사본을 기반으로 초안을 만들며, 요청 후 몇 초 안에 화면에 초안이 나타나기 시작한다. 이후 경찰관은 초안을 검토하고 필요한 세부 내용을 추가한 뒤 최종 제출을 진행한다. 각 초안에는 경찰관이 작성하거나 삭제해야 하는 괄호 표시가 포함되어 있어, 빈 부분을 확인하며 오류를 수정하거나 누락된 정보를 보완할 수 있다. 결국 보고서는 경찰관 본인의 이름으로 제출되는 것이며, 무슨 일이 있었는지에 대해 직접 책임을 져야 한다. ‘드래프트 원’은 OpenAI의 ChatGPT를 수정한 버전을 사용하고 있으며, 인공지능이 무작위로 사실과 다른 내용을 만들어내는 ‘환각’ 현상을 줄이기 위해 추가적인 테스트와 훈련이 이뤄졌다.

 

"환각 현상은 정말 위험한 것 같다. 그 환각 현상은 아무래도 사용자에게 만족스러운 답변을 제공해야한다는 프로그래밍에서 억지로 없는 이야기까지 만들어 그럴싸하게 포장하려다가 생긴 것 같다. 초안을 작성하고 책임자가 수정하는 방식은 좋은 것 같다. 그런 식이라면, 들어가는 시간이 획기적으로 줄게 되고 책임자는 자신의 기억 바탕으로 수정만 하면 되기 때문이다."

---

‘드래프트 원’의 아이디어는, 한 법 집행 기술 회사가 경찰서 고객들이 겪는 인력 부족 문제에서 착안해 나왔다. 2024년 미국 내 1,000개 이상의 경찰청을 대상으로 한 설문조사에 따르면, 기관들은 평균적으로 공인된 인력 수준보다 최소 10% 적은 인원으로 운영되고 있었다. 한 관계자는 “현재 공공 안전 분야에서 가장 큰 문제는 인력이다. 충분한 경찰관을 확보하지 못하고 있다”며 “경찰청이 업무를 더 효율적으로 만들기 위해 도입할 수 있는 모든 것은 지금으로서는 중요한 해결책”이라고 말했다. 이 회사는 ‘드래프트 원’을 몇 개 부서에서 사용하는지는 공개하지 않았지만, 인디애나주 라파예트, 플로리다주 탬파, 캘리포니아주 캠벨 경찰에서는 이미 도입해 사용 중이다. 또, 미국의 거의 모든 경찰 부서가 이 회사의 제품을 최소 하나 이상 사용하고 있다는 점을 고려할 때, ‘드래프트 원’의 성장 가능성은 높아 보인다. 포트 콜린스에서 기술 병장으로 근무하는 한 경관은 지난 여름 이 도구의 데모를 보고 드래프트 원을 시험해보기로 결정했다. 그는 “보고서의 품질과 정확성, 그리고 작성 속도에 정말 놀랐다”며 “이건 놓쳐서는 안 될 기회라고 생각했다”고 말했다. 처음에는 약 70명의 경찰관에게만 이 기술을 제공했지만, 지금은 모든 경찰관이 사용할 수 있게 됐다. 그는 이 도구로 보고서 작성 시간을 거의 70% 단축했으며, “이제 그 시간을 시민들에게 돌려줄 수 있게 됐다”고 덧붙였다.

 

"인력 부족 문제를 예상 못했던 것 같다. 땅이 넓은 미국이더라도 배치되는 경찰관의 수는 턱없이 부족할 것이다. 현장을 나가는 사람과 사무직을 하는 사람은 또 나뉘니 확실히 인원이 부족할 것이다. 저번에 썼던 테슬라 글처럼 전기차가 지금은 많이 도입이 안 되어보이지만 나중에는 사용량이 급증할 것처럼, 경찰서에서 인공지능 보고서 활용 수는 나중에 올라갈 것이다. 이 기술로 인해 더 많은 시민을 도와줄 시간이 생긴다면 무조건적으로 이 기술을 반대하고 싶지는 않다."

---

한 관계자는 검찰로부터 드래프트 원에 대해 대체로 긍정적인 피드백을 받았다고 말했다. 하지만 지난해 9월, 워싱턴주 킹 카운티의 검찰청은 지역 법 집행 기관이 드래프트 원 사용에 관심을 보이자 인공지능의 도움으로 작성된 경찰 보고서는 받지 않겠다고 밝혔다. 검찰청은 경찰청장에게 보낸 이메일에서, 이 도구를 쓰면 “많은 경찰관이 의도치 않은 오류가 들어간 초안을 승인하게 될 것”이라고 전했다. 이에 대해 한 법 집행 기술 회사의 대변인은 “경찰 기관, 검사, 변호사 등 다양한 이해관계자들과 계속 협력하며 의견을 수렴하고, 드래프트 원을 책임 있게 발전시키기 위해 노력하고 있다”고 밝혔다. 또 드래프트 원의 기반이 되는 인공지능 모델은 “추측이나 불필요한 꾸밈을 최소화하도록 조정돼 있다”고 덧붙였다. 그러나 인공지능이 작성한 경찰 보고서의 오류나 편향을 우려하는 시각은 킹 카운티 검찰만의 생각이 아니다. 한 정책 분석가는 “이미 불의와 편견으로 가득한 형사 사법 시스템에 이런 새로운 기술이 더해지는 상황은 분명 주의 깊게 살펴봐야 한다”고 말했다.

 

"세상에는 우리가 모르는 비리와 차별이 존재한다. 경찰서에서도 안 그런다는 보장이 없다. 이 기술이 좋은 쪽으로 쓰인다면 너무 좋겠지만, 그 내부에서도 이 기술을 악용하는 사람이 있을 수도 있다. 자신의 게으름 때문에 초안을 통과시키거나 자신이 유리한 방식으로 보고서 작성을 하도록 프로그램하거나 방법은 다양하다."

---

경찰 기술이 표준이 될 것이라 믿는 한 전문가도, 보도에 영향을 미칠 수 있는 신체 카메라 영상 녹취록의 오류를 우려한다고 한다. 그는 알고리즘이 남부 억양이나 다른 억양을 제대로 이해하지 못해 경찰 보고서로 쓰이는 녹취록이 오해로 가득할 수 있다고 말한다. 또 사람이 큰 소리로 “예”라고 말하지 않고 고개를 끄덕이는 것처럼 비언어적 단서가 반영되지 않을 가능성도 지적한다. 한 장비 제조사는 자동 빈 칸 채우기 기능으로 이런 오류나 누락을 줄이려 하지만, CNN이 포트 콜린스 경찰서의 시연을 본 결과 모든 프롬프트를 삭제하고 변경 없이 보고서를 제출하는 것이 가능했고, 보고서가 최종 제출되면 인공지능이 생성한 원본 초안은 저장되지 않아 경찰관이 어떤 수정을 했는지 확인할 수 없었다. 해당 업체 측은 이는 손으로 작성하는 기존 방식처럼 초안을 최종 보고서와 함께 보관하지 않는 절차를 따른 것이라고 설명하며, 경찰이 제출 전 보고서의 일정 비율을 편집하도록 하는 선택 기능도 제공한다고 한다.

 

"충격적이었던 부분은 '보고서가 최종 제출되면 인공지능이 생성한 원본 초안은 저장되지 않아 경찰관이 어떤 수정을 했는지 확인할 수 없었다.'이다. 솔직히 이 기술이 도입된다면 어느 부분에서 수정했는지 정도는 상관이 확인할 수 있게 해야하는 것 아닌가? 이 기술도 아직 갈 길이 먼 것 같다."

---

투명성과 피고인이 자신의 사건에서 사용된 경찰 보고서가 인공지능에 의해 작성되었는지 알 수 있는지에 대한 논의도 있다. 일부 지역에서는 초안 단계에서 인공지능의 도움을 받아 작성된 최종 보고서에 사용자 지정 면책 조항을 포함하며, 부서에 따라 이 기능을 끌 수도 있다. 하지만 포트 콜린스 경찰서의 경우 면책 조항이 없으며, 경찰관이 직접 보고서를 작성하고 정확성을 보장하도록 동기 부여를 받는다고 한다. 경찰관들이 주로 우려하는 것은 비판을 받거나 오류에 대한 책임을 지는 상황이며, 업무의 질과 양에 집중하는 경향이 있다. 한편, 한 전문가는 “급진적 투명성이 최선의 관행”이라고 강조했다. 실제로 유타주의 주 의원들은 올해 초, 경찰이 인공지능으로 작성한 최종 보고서에는 반드시 면책 조항을 포함하도록 하는 법안을 통과시켰다.

 

"만약 책임을 지고 싶지 않아하는 경찰관은 보고서를 양심대로 쓰고 사용하는 것이 아니라, 자신의 입맛대로 바꿔 사건이 전혀 다른 방향으로 흘러갈 가능성도 생긴다. 이 기술의 장점은 무수히 많지만 확실한 악용이 안 생길 것이라는 보장이 있을 때 도입해야 할 것 같다. 현재는 너무 이른 것 같다."

---

궁극적으로, 인공지능의 다른 많은 활용 사례와 마찬가지로 초안 작성 기능은 책임감 있고 선의로 사용하는 사람에게 의존하는 도구다. 한 전문가는 “제 전반적인 인상은 다른 도구와 크게 다르지 않다는 것입니다. 문제를 완전히 해결하거나 보고서 작성을 대체하는 것이 아니라, 단지 보고서를 작성하는 데 도움을 주는 보조 수단일 뿐입니다.”라고 말했다.