2026-09-09
THINKFORBL COLUMN SERIES
AI가 만들어내는 ‘로또 명당’이 위험한 이유
정보통신신문
우리 동네에는 유명한 ‘로또 명당’이 있다. 20여 년 전에는 1등이 두세 번 나온 곳이었는데, 지금은 1등 21번, 2등 118번이라는 기록을 자랑한다. 당연히 입소문을 타서, 금요일 밤부터 토요일까지 사람들이 끝도 없이 줄을 선다. 주변에서 “저 가게는 매달 로또 1등만큼 돈을 번다”고 농담하기도 한다.
특정 가게에서 다수의 당첨자가 나왔다면 나 역시 그곳에서 로또를 살 경우 당첨될 확률이 높아질 것 같지만, 사실 로또 한 장의 당첨 확률은 어디에서 사든 똑같다. 다수 당첨자가 나오는 비결(?)은 간단하다. 그곳에서 로또를 사는 사람들이 엄청나게 많기 때문이다. 1등 21번이라는 통계는 그 21이 백 명의 구매자 중 21명인지, 만 명의 구매자 중 21명인지, 아니면 백만 명의 구매자 중 21명이라는 것인지 말해주지 않는다. 아마도 그 가게에서 처음 몇 번 우연히 당첨자가 나왔고, 그 소문에 사람들이 몰리자, 또다시 당첨자가 나올 가능성이 높아졌으며, 그렇게 당첨자가 나오는 만큼 사람들이 더 몰려들어 마침내 ‘명당’이 되었을 것이다.
비슷한 착시현상이, 인공지능을 공공의 판단에 이용할 때도 발생할 수 있다. 이를테면 예측치안이다. AI가 과거 기록을 분석하여 특정 지역에 범죄 위험이 크다고 판단하면, 그 지역에 경찰력이 더 많이 배치된다. 경찰이 많아지면 그만큼 범죄 적발의 가능성이 높아진다. 새로 적발된 사건은 다시 범죄 데이터가 되고, AI는 해당 지역이 위험하다는 판단을 더 많이 강화해 다음에도 그곳을 우선 지목, 더 많은 범죄를 찾아내게 될 것이다. 실제로 미국 오클랜드의 마약 관련 경찰 데이터를 분석한 연구에 유사한 사례가 있다. 범죄가 잦아서 경찰이 많이 간 것인지, 경찰이 많이 갔기 때문에 범죄가 많이 발견된 것인지 모호해지는 것이다.
어느 지역에 경찰을 더 배치할지, 어떤 사업장을 더 자주 검사할지, 어떤 시민을 우선 조사할지 등은 개인의 권익에 직접 개입하는 선택이다. 그에 대해 AI가 데이터에 기반한 ‘객관적’ 선택을 추천한다면? 게다가 AI는 종종 ‘자기 판단을 스스로 증명하는 구조’를 만든다. 특정 위험을 더욱 많이 조사했기 때문에 나온 결과를, 다시 그 위험성의 증거로 사용한다. 이를 통해 AI는 실제 현실을 파악하는 게 아니라, 자기가 만들어낸 현실 속에서 편향된 확신을 쌓아 올리고 또 쌓아 올리게 된다.
따라서 공공 AI를 도입할 때는 인공지능이 자기만의 로또명당, 내지 범죄 명당을 우리에게 강요하는 게 아닌지 확인하는 절차가 필요하다. AI가 찍어준 위험지역에 대한 집중 관리는 당연히 필요하다. 그러나 명당에서 로또를 사는 일로 주말의 활력을 얻는 것과 로또명당의 미신을 심각하게 받아들이는 것은 다른 문제다. 위험지역을 집중적으로 관리하되 그러한 관리의 쏠림이 특정 개인이나 집단에 어떤 불이익을 줄 수 있는지 확인할 필요가 있다. 그 작업을 우리는 영향 평가라고 부른다. 또한 AI의 판단이 그다음 데이터의 수집량과 분포를 바꾸지는 않는지 살피고, 필요하다면 조사량과 노출량을 보정하거나 독립 표본과 비교함으로써, AI가 위험지역에 대한 편견을 확대 재생산하는 일을 막아야 한다. 그런 작업을 우리는 위험관리라고 부른다.
로또명당을 만들어내는 것은, 대단히 희박하면서 무작위 확률 속에서 나만의 대박을 꿈꾸는 다수의 욕망이다. 인공지능의 편향을 만들어내는 것도 대부분은 인공지능의 결함보다는 우리 사회에 이미 내재한 편견들이다. 인공지능은 그 편견에 ‘객관적 데이터’라는 알리바이를 제공하기 때문에 위험하다. 그러므로 모든 유용한 도구들이 그렇듯 안전장치가 필요하다. 더구나 AI가, 사회적 편견에 대한 최소한의 안전망이어야 할 공공 분야에 활용되는 때라면, 그 안전장치는 취약계층의 몸에 매달린 마지막 안전띠라고 해도 좋을 것이다. 공공 AI에서 영향 평가와 위험관리의 역할이 더없이 막중해지는 이유가 여기에 있다.
[출처]
[출처]
2026-09-09
THINKFORBL COLUMN SERIES
AI가 만들어내는 ‘로또 명당’이 위험한 이유
정보통신신문
