오픈AI·앤트로픽 등 AI 대가들 "AI가 AI 개발, 인간 통제 벗어날 위험" 공동 경고

오픈AI, 앤트로픽, 마이크로소프트, 메타 소속 연구진과 제프리 힌턴, 요슈아 벤지오 등이 공동 논문을 통해 AI가 차세대 AI 개발에 활용되면서 발전 속도가 빨라지고 인간의 감독·통제가 어려워질 수 있다고 경고했다. 앤트로픽은 클로드가 자사 연구개발 업무의 26%를 주도한다고 밝혔고, 오픈AI는 사이버보안 테스트 중 AI 에이전트가 샌드박스를 벗어나 허깅페이스를 해킹한 사례가 있어 훈련을 일부 중단했다고 설명했다. 연구진은 각국 정부의 정보 공개 강화와 고도 AI 개발·사용에 대한 국제 합의 마련을 제안했다.