KNOWLEDGE

최신 인공지능(AI) 동향​

미국 캘리포니아주 안전과 책임 있는 사용을 강화하는 행정명령 발표​​

미국 캘리포니아주의 개빈 뉴섬(Gavin Newsom) 주지사가 2026년 3월 30일 인공지능(AI) 안전과 책임 있는 사용을 강화하기 위한 행정명령 ‘N-5-26’을 발표했다. 발표와 함께 개빈 뉴섬 주지사는 규제 완화를 통해 오용을 조장하는 트럼프 행정부와 달리 캘리포니아주는 조달 절차를 강화하고 AI 기업들에 엄격한 기준을 적용함으로써 기술 오용을 방지할 거라고 강조했다. 행정명령은 총무부(DGS)와 기술부(CDT)에 캘리포니아 주정부의 조달 과정에서 AI 기업을 평가하는 새로운 인증 제도를 도입하기 위한 권고안을 120일 이내 제출할 것을 지시하고 있다. 이에 따라 기업들은 기술 오용을 막고 공공 안전을 보장하기 위한 정책과 안전장치를 설명해야 한다. 해당 정책과 안전장치는 아동 성착취물 및 동의 없는 성적 이미지 등 불법 콘텐츠 이용과 배포 해로운 편향, 표현의 자유, 투표권, 인간의 자율성 등 시민의 권리와 자유를 침해하는 위험에 대응해야 한다. 주정부 운영국(GovOps)은 시민의 프라이버시나 자유를 불법적으로 침해한 걸로 사법 판결을 받은 기업과 계약하지 않는 계약자 책임 조항 개정안을 120일 이내에 주지사에게 제출해야 한다.

행정명령에 따르면 기술부 최고정보보안책임자(CISO)는 연방정부가 공급망 위험 기업으로 지정한 기업을 검토하고 해당 지정이 부당하다고 판단되면 조달을 허용하는 지침을 발표할 권한을 갖는다. 또한 CISO가 연방정부의 여타 조달 관련 변경 사항을 검토해 조달을 부당하게 제한하는지를 평가하고, 적절한 대응 조치를 권고할 수 있다고 규정해 연방정부와 독립된 조달 기반을 마련했다.

행정명령은 아울러 주정부 운영국 산하 유관 부처에 캘리포니아주의 공공 서비스 전반에 걸쳐 생성형 AI의 책임 있는 활용을 확대하기 위한 이행 과제를 부과했다. 공무원이 적절한 개인정보 보호와 사이버보안 조치를 준수하고 일반적 활용 사례에 대해 검증을 거친 생성형 AI 도구를 사용할 수 있도록 지원하고, 책임 있는 AI 조달과 도입 관련 모범 사례를 공유해야 한다. 이외 디지털 전략을 개정해 생성형 AI를 활용해 정부의 투명성과 책임성을 강화하고 성과를 개선하며, 편리하고 사용자 친화적 접근성을 제공하는 생성형 AI 기반 정부 서비스 앱이나 웹사이트를 개발해야 한다.

끝으로 기술부는 행정명령에 따라 주정부 운영국과 협력해 120일 이내 정부 기관이 업계 모범 관행에 따라 AI 생성 이미지나 비디오에 워터마크를 삽입하기 위한 지침을 마련해야 한다. 

AI의 불균등한 성능, 고용 영향 예측의 새로운 열쇠로 부상​​​

<뉴욕타임스>가 최근 AI가 분야별로 불균등한 성능을 나타내는 특성에 대한 이해는 AI를 인간과 단순 비교하는 기존 프레임에서 벗어나 AI가 고용에 미칠 실제 영향을 파악하는 데 도움이 될 것으로 전망했다.

매체에 따르면, ‘들쭉날쭉한 지능(Jagged Intelligence)’은 AI가 수학이나 코딩 같은 특정 영역에서는 인간을 능가하면서도 상식적 판단에서는 현저히 뒤처지는 불균등한 성능 분포를 지칭한다. 이는 오픈AI 창립 연구원 출신 연구자 안드레이 카르파시(Andrej Karpathy)가 2024년 처음 제시한 용어다. 실제 주요 AI 모델은 최상위 고교생 대상 국제수학올림피아드에서 6문제 중 5문제를 맞췄으나, 차를 고치기 위해 50m 거리 카센터 이동 수단을 묻는 상식적 질문에는 걸어가라는 오답을 제시했다고 매체는 밝혔다.

지식과 문제 해결 능력이 서로 높은 상관관계를 가지며 선형적으로 함께 향상되는 인간의 뇌와 달리, 디지털 데이터 패턴에만 의존하는 AI는 학습 내용에 따라 불균등한 성능을 발휘하는 것으로 알려졌다. AI 시스템의 성능은 학습 방식인 강화학습(Reinforcement Learning) 적용 가능성에 따라 영역별로 극명한 격차를 나타내며 이것이 들쭉날쭉 지능 현상의 핵심 원인으로 지목됐다. 강화학습은 AI가 수천 개의 문제를 풀며 정답으로 이어지는 방법과 그렇지 않은 방법을 스스로 학습하는 훈련 기법이다. 수학 문제의 정오답, 코드의 테스트 통과 여부처럼 성과 기준이 명확한 영역에서는 강화학습이 효과적으로 작동하지만, 창의적 글쓰기나 철학, 일부 과학 분야처럼 기준이 모호한 영역에서는 적용에 어려움이 있었다는 게다.

매체는 연구자들이 들쭉날쭉한 지능 개념을 이해하면 AI가 인간 수준의 일반 지능을 갖는지를 묻는 기존 논쟁 구도에서 벗어나 AI가 미래 고용에 미치는 실질적 영향을 파악하는 데 도움이 될 걸로 기대하고 있다고 밝혔다. 일각에서는 화이트칼라 일자리가 AI로 대체될 것을 우려하지만, 과거 계산기가 회계사를 대체하지 않았듯 AI가 직무의 일부 작업만 자동화할 거라는 시각도 존재한다. 앤트로픽의 클로드 코드(Claude Code)나 오픈AI의 코덱스(Codex)는 사람보다 훨씬 빠르게 코드를 작성할 수 있지만, 각 코드가 더 큰 소프트웨어 애플리케이션에 어떻게 통합되는지를 이해하는 데는 인간의 도움이 필요한 것으로 알려졌다. 또한 다수의 작업으로 구성된 직무라면 일부 작업은 자동화되고 일부는 인간의 작업으로 남아 있을 것이며, 이 경우 노동자는 더 중요한 일에 더 많은 시간을 할애할 수 있다.

그러나 카르파시를 비롯한 연구자들이 2024~2025년 지적한 AI의 한계는 2026년 현재 시점에는 대부분 해소된 상태로, AI가 발전하면서 격차도 빠르게 줄어드는 추세라고 <뉴욕타임스>는 소개했다.

글​ / 이승한
사진​ / GovTech, New York Times​