2026-07-07
THINKFORBL COLUMN SERIES
[박지환의 인공지능 선긋기] AI 공공서비스 시대, AI가 솔로몬의 지혜를 발휘할까
더에이아이(THE AI)
2026-07-07
THINKFORBL COLUMN SERIES
[박지환의 인공지능 선긋기] AI 공공서비스 시대, AI가 솔로몬의 지혜를 발휘할까
더에이아이(THE AI)
두 여인이 한 아이를 두고 서로 자기 아이라고 다투던 사건에 대해 “그렇다면 아이를 반으로 갈라 나눠 가져라” 판결함으로써 아이를 진심으로 아끼는 여인이 누구인지 밝혀낸 판결을 우리는 ‘솔로몬의 지혜’라고 부른다. 이 판결이 가장 현명한 공적 판단의 사례로 이야기되는 이유는 결과적으로 진짜 어머니를 정확히 찾아냈기 때문만은 아니다. “아이는 누구의 것이어야 하는가”라는 질문을 기계적 공정함만으로 접근하면 아이를 둘로 쪼개는 결론이 나오게 됨을 보여줌으로써, 문제의 핵심은 아이가 누구의 것이냐가 아니라 누가 아이를 정말로 사랑하는지, 무엇이 아이의 행복을 위한 일인지 임을 돌아보게 했기 때문이다.
인공지능(AI) 기본법이 시행되면서 공공기관의 문의가 부쩍 늘었다. 주로 그것이 고영향 AI인지, 서비스에 대해 영향평가를 해야 하는지, 어떤 절차를 갖추면 되는지에 관한 질문이다. 그런데 여기서 영향평가를 “이 AI가 오작동할 때 어떤 문제가 생기는가?”로만 이해하면 우리는 중요한 핵심을 놓치게 된다. 공공 AI가 문제를 일으키는 경우는 AI의 판단이 부정확할 때만 국한되지 않기 때문이다. AI가 정확한 판단을 하더라도, 때로는 그 속도와 일관성 때문에 또 다른 문제가 발생할 수 있다.
이를테면 세금이나 복지 재정의 부정수급을 탐지하는 AI는 공적 자원이 더 공정하게 배분되게끔 정확하고 신속하게 부정수급 사례를 찾아내야 한다. 당연한 일이다. 하지만 부정수급자를 너무도 칼같이 잡아내 조치함으로써 생계 수단이 없어진 부정수급자가 스스로 목숨을 끊는 일이 생긴다면 어떨까. 공공의 행복을 위해 설계된 AI가, 그 성능의 우수함으로 인해 의도하지 않은 결과를 가져온다면 그것이 과연 정의로운 일일까.
아무리 실제 부정수급자라 하더라도 그는 여전히 인간이며, 잘못했다는 이유만으로 존엄과 절차적 권리, 이의제기권 등의 기회까지 박탈돼서는 안 된다. 만약 AI가 정확한 결과만 통보하고 끝냈다면, 그 판단은 맞았을지 몰라도 절차적으로는 정의롭지 못했을 수 있다. 공공 AI는 ‘잡아내는 기술’이 아니라 공공 권력을 작동시키는 장치이기에, 그 사람을 어떤 방식으로 다뤘느냐까지 포함돼야 한다.
심지어, 부정수급을 조치하는 과정에서 AI가 모든 법규와 절차를 충실히 지켰다고 하더라도 마찬가지다. 해당 부정수급자가 왜 그런 행위를 했는지, 고의적 사기였는지 생계 붕괴 때문이었는지, 행정 절차를 이해하지 못했거나 기존 복지제도의 사각지대에 놓인 경우였는지에 따라 적절한 완충 장치를 준비해야 할 필요가 있다. 공공 AI 서비스는 너무 빠르고 정확하기에 자칫 이 부분을 건너뛴 채 지나치게 기계적인 판단을 하게 될 수 있다.
공공 AI는 행정권한을 실행하는 인프라에 속한다. AI의 판단에 따른 공권력 행사는 개개인의 권리와 자격, 생계에 직접적인 영향을 미친다. 그렇기에 판단의 정의와 절차의 정의뿐 아니라, 사회적 정의의 관점에서도 그 판단이 초래할 수 있는 결과를 사전에 검토할 수 있어야 한다. 왜냐하면 많은 제도에는 어쩔 수 없는 사각지대가 있고, 그 허점들은 고성능 AI의 정확하고 효율적인 서비스에 올라타는 순간 더 빠르게, 더 누적적으로 작용하기 때문이다.
그로 인한 위험 요소를 서비스 도입 전에 살핌으로써 필요할 경우 그에 대한 비례성, 권리구제, 완충 장치를 변화된 체계에 맞게 재설계할 수 있어야 한다. 공공 AI는 민간 서비스처럼 이용자가 임의로 탈퇴할 수 있는 상품이 아니다. 그렇기에 우리는 그것을 단지 유능한 집행자가 아니라 정의로운 제도 일부로 만들기 위해 최선을 다해야 한다.
이 부분을 확인하고 검증하는 것이 바로 영향평가의 역할이다. 그래서 영향평가는 AI가 틀렸을 때 누가 손해를 보는지 묻는 수준을 넘어서서, AI가 효과적으로 작용했을 때 누가 과도한 압박을 받을 수 있는지, 누가 반복적으로 의심받게 되는지, 설명을 이해하지 못하는 사람은 누가 있을 수 있으며 이의제기 절차가 있더라도 실제 사용할 수 없는 사람들은 어떤 경우일지까지 평가해야 한다. 제도의 허점은 정치와 입법 과정을 통해 끊임없이 개선되겠지만, 제도 개선이 아직 이뤄지지 않은 시점에서 가능한 위험을 잡아내는 것은 영향평가 단계에서 가능하기 때문이다. 때로는 영향평가 작업이 제도 개선을 앞당기거나 도움을 줄 수도 있을 것이다.
이제 AI의 지적 능력은 많은 영역에서 인간의 그것을 넘어서 있다. AI 시대에 진짜 위험은 AI의 오작동이 아니라, AI의 고성능·고효율이 기존 제도의 취약점을 증폭해 사회에 더 많은 모순과 피해자를 만들어내는 모습으로 찾아올 수 있다. 그래서 공공 AI에 대한 영향평가가 막중한 역할을 맡게 된다. 이 과정에서 영향평가가 단지 AI 도입을 정당화하기 위한 면죄부에 그쳐서는 안 된다. 영향평가는 공권력의 행사가 기술의 힘을 빌릴 때, 그렇게 해서 증폭되는 힘이 인간의 존엄성을 해치지 않도록 사전에 살피는 과정이다. 영향평가가 올바르게 작동할 때만 공공 AI는 우리에게 솔로몬의 지혜를 제공할 수 있다.
[출처]
[출처]
