살벌한 경고 아닌가요? 인간이 편리함만 추구하다가 AI손에 작살나는거 아닌지 무섭습니다. ---------- 앤스로픽에서 AI 통제 연구를 담당했던 제이컵 콕슨은 최근 퇴사하며 오픈AI와 앤스로픽이 인간이 통제하기 어려운 ‘자기개선형 초지능’ 개발 경쟁을 벌이고 있다고 비판했다. 에번 허빙어 앤스로픽 정렬과학 총괄은 “우리는 AI가 모든 인간을 죽일 수 있다고 진지하게 믿는다”며 “개인적으로 10년 안에 그 확률이 10%를 넘는다고 본다”고 경고했다. 초지능 AI ‘정렬 실패’ 우려…자기개선 반복하면 통제 벗어날 가능성 오픈AI·앤스로픽서 실제 제약 회피 사례…美 정치권도 규제 논의 착수