독일의 아우토반 일부 구간에는 속도제한이 없다. 거기서는 시속 130km가 권고 속도일 뿐, 최고속도 위반이라는 개념 자체가 없다. 반면 우리나라의 모든 도로에는 반드시 속도제한이 있고, 고속도로라고 해도 대부분 시속 100~110km를 초과할 수 없게 되어 있다. 독일에서 달리는 벤츠와 한국에서 달리는 벤츠가 다른 자동차인 것은 아니다. 그런데 같은 차가 독일에서는 시속 200km 이상을 달릴 수 있고, 한국에서는 시속 120km를 초과해서 달릴 수 없다.
이 차이는 자동차가 아니라 도로 때문이다. 속도제한은 도로의 설계, 진입과 차선 체계, 사고 책임 등의 조건에 따라 결정된다. 아우토반이라고 해서 아무 데서나 무제한으로 달리는 게 아니고, 공사 또는 위험 구간에서는 당연히 제한속도가 있다. 자동차가 얼마나 빨리 달릴 수 있느냐와, 그 속도를 사회가 얼마나 안전하게 받아낼 수 있느냐는 별개의 문제다.
최근 인공지능(AI) 분야에서 ‘속도를 늦춰야 한다’는 주장이 논란을 만들고 있다. 한쪽에서는 지금의 발전 속도라면 초지능 AI가 임의로 해킹이나 무기 제어 등을 자행할 때 통제할 방법이 없어진다고 하고, 다른 쪽에서는 그것이 기술에 진입장벽을 세워 독점력을 유지하려는 선두 기업들의 사다리 걷어차기라 하면서, 혹은 미·중 패권 경쟁에서 현실적으로 불가능한 이야기라 하기도 한다. 중요한 주제이고 당연한 논쟁이다. 하지만 많이들 놓치기 쉬운 게 있다. 이 문제의 진짜 핵심이 AI 성능의 발전 속도 자체가 아니라는 사실이다.
시속 250km까지 달리는 자동차라 해도 도로가 감당하지 못하면 속도를 낮춰야 한다. 제한속도는 자동차 성능이 아니라, 해당 지역사회와 도로 사정을 따르기 때문이다. 따라서 자동차를 더 빨리 달리게 하고 싶다면 먼저 도로와 안전 체계를 개선해야 한다. AI도 마찬가지다. 고성능 AI가 사회에 위협이 된다면, 관건은 기술의 발전 속도보다도 우리의 사회제도와 문화가 어떠한 AI까지 감당할 준비가 돼 있냐에 있다.
좋은 자동차를 만든다고 좋은 도로가 저절로 따라오는 것은 아니다. 자동차 엔진을 만드는 기술로 도로의 곡선반경과 노면, 가드레일을 설계할 수는 없다. 도로에는 도로 안전 전문가가 있고, AI에도 고성능 모델을 안전하게 통제하고 검증하는 신뢰성 전문가가, 모델 개발의 전문가와 별개로 존재한다.
이러한 구조를 인지하지 못 한 채, AI 속도조절론을 또다시 해묵은 도덕론, “AI 시대에는 무엇보다 인간의 윤리가 중요하다”는 식의 슬로건으로 받아들이면 우리는 또 중요한 흐름을 놓치게 된다. AI 속도조절론은 글로벌 시장에서 큰손들 사이에서 성능개발 경쟁을 완화하려 하는 시도로 보이지만, 어쩌면 경쟁의 한 축이 AI 모델의 성능개발로부터 신뢰성 기술개발로 전환되는 과정일 수도 있다. 도로의 속도제한은 국가나 지역별로 폐쇄적 운영이 가능하지만, AI의 성능이나 성능 제한은 국경을 무의미하게 만들기 때문이다. 요컨대 전 세계가 이제는 모델 성능이 아니라, 모델이 더 안전하게 돌아가는 환경을 두고 무한 경쟁하게 될 수 있다.
신기술이 등장하고 정착될 때는 늘 비슷한 과정이 있었다. 기술 격변은 사회 변화를 낳고, 그러면 새로운 사회의 수혜자만큼이나 피해자도 나온다. 이런 때 늘 승리하는 것은 망치로 바퀴나 방직공장을 때려 부숴서 과거로 돌아가려는 쪽이 아니라, 기술의 부작용을 안정되게 관리하고, 나아가 사회가 변화를 감당할 수 있도록 안전장치를 먼저 만들어내는 쪽이었다.
단언컨대 AI 체제의 안전장치는 신뢰성 기술에 있다. AI 속도조절론은 기술 진보를 멈추는 대신 신뢰성 기술을 한층 진보시키는 흐름으로 나아갈 것이다. 그 흐름을 선도하거나 편승해 있는지가 모두의 산업경쟁력을 좌우하는 시기가 온다. 그리고 그 시기는 우리 생각보다 더 빠르게, 갑작스럽게 찾아올 것이다.