2026-04-01
THINKFORBL COLUMN SERIES
AI 신뢰성, 개별 검증은 국가의 역할이 아니다
정보통신신문
2026-04-01
THINKFORBL COLUMN SERIES
AI 신뢰성, 개별 검증은 국가의 역할이 아니다
정보통신신문
더 많은 사람이 건강해지기 위해서, 공공이 해야 할 역할은 무엇일까? 어떤 사람들은 국가가 무료 보건소 같은 것을 많이 세우고, ‘국민 건강 준칙’ 같은 걸 배포해서 많은 사람을 건강한 삶으로 이끌면 된다고 할 것이다. 보건소의 무료 검사로 각자가 자기 건강 상태를 점검할 수 있게 하고, 어떻게 하면 건강을 챙길 수 있을지 계도하면 모두가 건강해질 것이라는 입장이다. 일리가 있는 시각이고 유효한 해법이 될 수 있을 것이다.
하지만 나름 건강에 신경을 쓴다고 자부하면서도 갖가지 지병에 시달리며 병원 신세를 많이 지고 있는 나로서는 조금 다르게 생각한다. 생계 문제로 어쩔 수 없이 건강 준칙을 지키지 못하는 사람들이 있고, 질병이란 게 규칙적인 식사를 하고 자주 양치를 한다고 100% 예방되거나 치료되는 게 아니기 때문이다. 즉, 건강관리 준칙도 중요하지만, 더 중요한 것은 좋은 의사가 많아야 한다는 것, 다수의 좋은 의사를 키워내는 사회 시스템이 핵심이라는 점을 통감하게 되었다. 대한민국은 대부분 가정에 기본 의료 키트도 상비돼 있지 않음에도 불구하고 세계에서 손꼽히는 의료 선진국인데, 나는 그 이유가 가장 우수한 인재들이 다수의 의대에서 체계적 교육을 받는 사회 구조에 있다고 생각한다.
사실 잘 알지도 못하는 의료체계 이야기를 길게 한 이유는, AI 산업의 핵심 경쟁력이 인공지능(AI)의 ‘업무능력’에서 ‘건강한 AI’로 빠르게 넘어가고 있기 때문이다. 언어 기능과 지적 능력 면에서 에이전트 AI의 성능은 이미 평범한 인간의 그것을 아득히 넘어섰고, 이제 그런 지적 능력을 물리적인 영역으로 확장하는 ‘피지컬 AI’가 빠르게 보급되는 중이다. 문제는 지금 그런 고성능 AI에 우리의 업무를 믿고 맡길 수 있느냐는 부분이다. 신제품 AI는 언제 오작동을 일으켜 업무 현장에서 퍼져 버릴지, 심지어 심각한 사고를 일으킬지 보증되어 있지 않다. 그런데 세상에서 가장 유능한 AI 사원이 업무 중에 심장 발작을 일으킬지 모르는, 그렇게 AI의 건강관리가 중요해진 현장에서 사회의 대책은 아직 보건소를 세우고 건강 준칙을 사무실 벽에 써 붙이는 수준이라는 점이 심히 걱정스러운 것이다.
다수 경쟁국은 다른 방식으로 움직이고 있다. 영국은 ‘AI assurance’를 아예 하나의 산업으로 조직했다. 정부 공식 보고서상 관련 기업이 524개, 신뢰성 전문 기업이 84개에 달하며 1만2572명의 고용과 10억1000만 파운드의 경제 규모를 자랑한다. AI의 오작동 예방과 치료를 위해 500여 민간 주도 의료 서비스가 움직인다는 뜻이다. 케임브리지와 옥스퍼드는 각각 ‘AI Ethics·Society’, ‘AI Ethics·Regulation·Compliance’ 프로그램을 운영한다. 즉 AI의 오작동을 국가가 무료 점검하는 게 아니라, 예방‧관리 전문 기업과 전문 인력을 키우는 쪽으로 방향을 정한 것이다. 더 나아가 영국은 AI 신뢰성 산업을 ‘회계 감사’나 ‘법률 서비스’와 같은 전문 서비스업의 차세대 버전으로 보고 있다. 싱가포르 정부는 책임 있는 AI 활용을 전면에 내세웠고, IMDA는 디지털 미래를 위한 인력 양성을 스스로 핵심 임무라 말한다. 핀란드는 FCAI가 AI의 trust와 ethics를 핵심축으로 내걸었고, 10개 대학이 100명의 AI 신뢰성 박사를 양성하는 국가 프로그램(AI-DOC)을 2024년 출범시켰다. 우리가 ‘건강관리 준칙’의 문구를 다듬는 동안 이들은 대규모 의대를 세워 전공의를 키우고 있는 셈이다.
AI 신뢰성 문제는 국가에서 개별 AI의 신뢰성을 진단해주는 식으로 해결되지 않는다. 국가가 모든 AI 신뢰성을 관리하는 것은 물리적으로 불가능할 뿐 아니라, 다양한 산업의 특수성에 따라 때로는 밤샘도 하고 술자리에 참가하거나 아프리카에 출장도 가야 하는 유사 인력(AI)의 업무 역량을 건강 준칙으로 제한하는 일이기도 하다. 물론 AI 신뢰성 문제에 공공이 적극적으로 관여하고자 하는 방향성에는 깊이 공감하고 높게 평가한다. 그러나 그것이 직접 개입을 통해 민간의 역할을 제한하는 방식이어서는 실질적인 도움이 되지 못한다. 청컨대 공공에서는 AI의 건강을 위해 국립 보건소를 앞세우기보다, 민간 의대와 병원들이 다투어 설립될 수 있는 환경을 마련해주시라. 다수의 전문가가 키워지고 자기 일을 업으로 할 수 있는 시장 여건이 형성되면, 인공지능(AI) 신뢰성의 경쟁력은 알아서 갖춰질 것이다.
[출처]
[출처]
