KNOWLEDGE

인공지능 시장 동향

구글, AI 무기·감시 활용 제한원칙 삭제​

구글이 내부 반발에도 불구하고 인공지능(AI) 기술을 무기와 감시에 사용하지 않겠다는 기존 원칙을 철회했다. ​​
‘AI 무기화 반대’를 선언했던 구글이 결국 트럼프 행정부가 강조한 ‘국가 안보 중심’ 전략과 보조를 맞추는 모습이다. 구글이 마이크로소프트(MS), 아마존처럼 국방·안보 기술 지원에 나설 가능성이 커지면서 AI의 군사적 이용 가능성을 둘러싼 논란이 다시 불거질 것으로 전망된다. 워싱턴포스트(WP) 보도에 따르면 구글은 AI 윤리 지침을 보완하면서 기존에 명시돼 있던 “AI를 무기 개발 및 감시에 사용하지 않는다”는 제한 조항을 삭제했다.
제임스 마니카 구글 연구·기술·사회 부문 수석 부사장과 데미스 하사비스 딥마인드 대표는 “AI 주도권을 둘러싼 글로벌 경쟁이 점점 더 복잡한 지정학적 환경 속에서 진행되고 있다. AI 기술이 훨씬 더 널리 퍼졌으며, 민주주의 국가에 기반한 기업들이 정부 및 국가 안보 고객을 지원할 필요성이 커졌다”며 “우리는 자유, 평등, 인권 존중과 같은 핵심 가치를 지닌 민주주의 국가들이 AI 개발을 주도해야 한다고 믿는다”고 말했다. 구글 내부에서 우려의 목소리도 크다. AI의 윤리적 사용과 군사적 활용 사이에서 기업의 책임이 모호해졌고 구글이 스스로 설정했던 원칙을 철회하면서 기존 약속이 무력화됐다는 지적이 나온다. 캘리포니아대(샌디에이고) 교수이자 전 구글 직원인 릴리 이라니는 “구글의 전 CEO 에릭 슈미트는 수년간 미국이 AI 경쟁에서 중국에 뒤처질 위험이 있다고 경고해 왔다”며 “구글의 초기 AI 원칙 역시 국제법과 인권을 존중할 것이라고 명시했지만, 미국 정부는 이를 계속 어겨왔다. 이번 발표를 계기로 구글의 약속이 얼마나 공허한지 다시금 돌아봐야 한다”고 비판했다.
  

AI 뉴스 검색 “못 믿겠네”… 8개 엔진 모두 “인용 문제 심각”​

콜롬비아 저널리즘 리뷰의 타우 센터(Tow Center for Digital Journalism)가 진행한 연구에 따르면, 8개 생성형 AI 검색 도구를 테스트한 결과 모두 뉴스 콘텐츠를 인용하는 데 심각한 문제가 있는 것으로 나타났다. ​ ​
전통적인 검색엔진이 사용자를 뉴스 웹사이트로 안내하는 중개자 역할을 하지만, 생성형 검색 도구는 정보를 직접 요약하고 재구성해 원본 출처로 트래픽 흐름을 차단하고 있다. 이러한 채팅봇의 대화형 출력은 종종 정보 품질의 심각한 기본 문제를 가리는 경향이 있다.
연구진은 8개 생성형 검색 도구에 대해 각 20개 출판사의 10개 기사에서 발췌한 텍스트를 제공하고, 해당 기사의 제목, 원출판사, 발행일, URL을 식별하도록 요청했다. 총 1600개의 쿼리를 실행한 결과, 이 챗봇들은 전체 쿼리의 60% 이상에서 잘못된 답변을 제공했다. 플랫폼별로 오류율은 다양했는데, 퍼플렉시티(Perplexity)는 쿼리의 37%를 잘못 답변했고, 그록 3(Grok 3)은 훨씬 높은 94%의 오답률을 보였다. 더 우려되는 점은 이러한 도구가 부정확한 답변을 매우 확신에 찬 어조로 제시한다는 것이다. 예를 들어, 챗GPT는 134개 기사를 잘못 식별했지만, 200개 응답 중 단 15번만 자신감 부족을 표시했고, 답변을 거부한 적은 한 번도 없었다. 특히 퍼플렉시티 프로(월 20달러)나 그록 3(월 40달러) 같은 프리미엄 모델은 무료 버전보다 더 신뢰할 수 있을 것으로 기대됐지만, 테스트 결과 이들은 더 많은 오답을 제공했다. 이는 주로 정확하지 않은 정보라도 확신에 찬 어조로 답변하는 경향 때문이었다. AI 챗봇은 자신의 답변을 정당화하기 위해 종종 외부 소스를 인용하지만, 테스트한 생성형 검색 도구는 잘못된 기사를 인용하는 경향이 있었다. 예를 들어, ‘딥시크’는 200번의 쿼리 중 115번이나 잘못된 출처를 인용했다. 이는 뉴스 출판사의 콘텐츠가 대부분 잘못된 출처로 귀속되고 있음을 의미한다.

글‧사진​ / 김도현