액손 CEO, AI 치안 전략에 보상 연계… 70개 AI 도구 영국 형사사법에 등장

액손을 300억 달러 규모의 법 집행 기술 기업으로 키워낸 CEO 릭 스미스는 인공지능이 현대 치안의 핵심이 될 것이라는 확신에 자신의 보상을 걸고 있다.

액손(Axon)의 CEO 릭 스미스는 6월 28일 자신의 개인 보상을 회사의 AI 기반 전략과 연계하는 비전을 발표했다. 그는 머신러닝 도구가 20년 전 테이저(Taser)가 그랬던 것처럼 법 집행에 혁명적인 변화를 가져올 것이라고 확신하고 있다.

"AI는 테이저 도입 이후 치안 분야에서 가장 중요한 기술적 변화다"라고 스미스는 비전 자료에서 밝혔지만, AI 추진과 관련된 구체적인 보상 목표나 성과 지표는 공개하지 않았다.

이러한 베팅은 노섬브리아 대학교(Northumbria University)의 주요 새 연구에서 잉글랜드와 웨일즈의 형사사법 시스템 전반에 걸쳐 이미 배치, 시험 또는 개발 중인 70개의 AI 도구가 확인된 가운데 나왔다. 이 중 27개는 실제 운영 중이며, 약 34개는 시범 또는 시험 단계에 있다. 절반 이상이 상용 벤더로부터 공급됐다. 4년간 진행된 PROBabLE Futures 프로젝트는 책임 있는 AI UK(Responsible AI UK)가 420만 파운드를 지원하고 글래스고, 노샘프턴, 레스터, 뉴캐슬, 케임브리지 대학교와 협력하여 수행한 연구로, 야망과 책임성 간의 격차가 안전장치가 따라잡을 수 있는 속도보다 더 빠르게 벌어지고 있음을 발견했다.

액손에게 이 전략의 stakes는 높다. 이 회사는 경찰 바디카메라와 전자충격기 시장을 장악하고 있으며, 테이저 브랜드는 비살상 법 집행 도구와 거의 동의어로 통한다. 스미스의 보상 베팅은 액손이 하드웨어 독점을 소프트웨어 영역으로 확장할 수 있다는 자신감을 의미한다. 이러한 전환이 성공한다면, 회사가 현재 하드웨어와 클라우드 서비스에서 창출하는 연간 10억 달러 이상의 매출을 훨씬 넘어서는 시장으로 확장할 수 있다.

책임성 격차 확대

영국 정부는 6월 10일 공식적으로 PoliceAI를 출범시켰다. 경찰대학(College of Policing)이 주관하고 내무부(Home Office)가 3년간 7,500만 파운드를 지원하는 이 새로운 국가 센터는 잉글랜드와 웨일즈의 43개 경찰청 모두에 AI를 도입하겠다고 약속했다. 초기 시험은 이 기술의 잠재력을 입증했다. 납치 사건의 800시간 분량 영상을 3시간 만에 검토해 조기 유죄 인정을 이끌어냈고, 50만 권의 전자책 분량 데이터를 즉시 번역해 심각한 조직 범죄 조직을 체포하는 데 기여했다.

그러나 노섬브리아 대학교 법학 연구원인 테미토페 라왈(Temitope Lawal) 박사가 주도한 연구에 따르면, AI 오류에 대한 안전장치로 널리 인용되는 '인간 개입(Human in the Loop)' 원칙은 명목상으로만 존재하는 경우가 많아 실제 감독이 아닌 잘못된 안도감만 제공하는 것으로 나타났다. 연구는 또한 역설적인 위험을 발견했다. AI 도구가 거의 완벽에 가까운 정확도에 도달함에 따라 인간 검토자가 출력 결과를 확인하는 것을 중단할 수 있으며, 이는 드문 오류가 발견되지 않고 지나갈 가능성을 높인다. 이러한 위험은 AI 시스템이 순차적으로 연결될 때 더욱 악화되며, 각 단계가 이전 단계의 오류를 물려받아 증폭시킬 수 있다.

보고서는 내무부, PoliceAI, 경찰대학, 왕립검찰청(Crown Prosecution Service), 사법부, 기술 제공업체 및 연구 커뮤니티를 대상으로 한 26개의 권고사항을 제시했다. 여기에는 안면 인식을 넘어선 AI 도구에 대한 독립적인 국가 평가, 필수 투명성 요구사항 및 공개 등록부, 더 강력한 조달 기준, 그리고 더 나은 인력 교육이 포함된다. PoliceAI는 경찰청이 AI를 어떻게 사용하는지에 대한 공개 등록부를 구축하기로 약속했으며, 첫 번째 버전은 올 가을에 공개될 예정이다.

액손 투자자에게 주는 의미

액손 투자자들에게 있어 핵심 질문은 회사가 증가하는 규제 조사를 헤쳐나가면서 시장 기회를 포착할 수 있느냐는 것이다. 액손의 주가는 예상 주당순이익(EPS)의 약 35배 수준에서 거래되고 있으며, 이는 소프트웨어 및 AI 전환에 대한 기대치를 반영한 프리미엄이다. 스미스의 AI 베팅이 성공한다면, 회사는 클라우드 기반 증거 관리, 실시간 전사(transcription), 예측 분석 등에서 반복 매출을 창출할 수 있으며, 이들 서비스는 하드웨어 판매보다 높은 마진을 제공한다. 만약 규제 당국이 엄격한 투명성 요구사항이나 독립적인 평가 의무를 부과한다면, 액손의 선점 효과는 규제 준수 비용과 조달 지연으로 인해 약화될 수 있다.

본 기사는 정보 제공 목적으로만 작성되었으며, 투자 조언을 구성하지 않습니다.