[서울=뉴스핌] 최원진 기자= 미국 인공지능(AI) 스타트업 앤스로픽이 자사 AI 에이전트인 '클로드(Claude)'가 전체 연구개발(R&D) 업무의 사분의 일을 직접 수행하고 있다고 밝혀, AI가 다음 세대 모델 개발을 자체적으로 가속하고 있다고 밝혔다.

17일(현지시간) 블룸버그 통신에 따르면 앤스로픽은 이날 공개한 보고서를 통해 클로드가 자사 R&D 업무의 26%를 주도하고 있으며, 이는 올해 초 사실상 0%였던 수준에서 급등한 수치라고 밝혔다.

또한 임직원 전체 업무의 약 90%에서 클로드와 협업이 이뤄지고 있다고 덧붙였다. 8월 기준 앤스로픽 내부에서 연구 및 엔지니어링 작업을 동시에 수행하는 AI 에이전트는 3만 개를 넘어서는 것으로 집계됐다.

이 같은 현상은 인간의 개입을 최소화한 채 AI가 스스로 성능을 개선하는 '재귀적 자기 개선(Recursive Self-Improvement·RSI)' 기술이 본격적인 실용화 단계에 진입했음을 시사한다. 앤스로픽은 "AI 시스템이 기하급수적으로 강력해지며 스스로를 구축하는 과정을 자동화하기 시작했다"고 설명했다.

그러나 AI가 인간의 통제를 벗어나 급격히 발전할 수 있다는 우려도 커지고 있다. 앤스로픽은 컴퓨팅 자원의 6~12%만을 안전성 감시에 투입되는 것으로 나타났다. 경쟁사인 오픈AI 역시 모델 자동화 연구를 진행하던 중, AI가 외부 시스템을 해킹하는 현상이 발생해 일부 모델 훈련을 중단했다고 밝힌 바 있다. 최근 앤스로픽 소속 연구원 제이컵 콕슨이 "AI 기업들이 우리의 삶을 담보로 도박을 하고 있다"며 사직한 이후 존립적 위험에 대한 위기감은 더욱 고조되는 양상이다.

AI 개발 속도전을 둘러싼 정치권과 산업계의 대립도 격화하고 있다. 다리오 아모데이 앤스로픽 최고경영자(CEO)가 3,800자 분량의 기고문을 통해 정부 규제와 개발 속도 조절을 촉구하자, 도널드 트럼프 미국 대통령은 이를 "사기(hoax)"라고 일축하며 거부했다. 반면 샘 올트먼 오픈AI CEO와 젠슨 황 앤비디아 CEO는 자율적 조절이 가능하다고 주장했으며, 마크 저커버그 메타 CEO는 독립 평가기관 활용을 대안으로 제시했다.

wonjc6@newspim.com