뭘 얼마나 편하게 살겠다고 통제도 안되는 AI에 돈을 쓸어넣고 환호하는지 모르겠습니다. 저는 인류가 크게 후회할 날이 올거라고 생각합니다. ----------- 오픈AI 최고과학자가 인공지능이 인간 통제를 벗어날 가능성을 경고하며 업계의 자발적인 개발 감속을 촉구했다. 이에 비해 오픈AI 회사 측은 AI가 연구·코딩을 직접 수행하는 자동화 시스템 개발 목표를 공개하며 연구 가속 전략을 전면에 내세워 서로 다른 결을 드러냈다. 야쿠프 파호츠키 오픈AI 최고과학자는 “기계 지능이 급속도로 계속 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다”고 우려를 표했다. 그는 AI가 ‘설계되는 대상’보다 ‘재배되는 존재’에 가깝다고 규정했다. 인간이 정밀한 설계도에 따라 AI를 만드는 게 아니라 학습 과정에서 생물처럼 능력이 자라나기에 예상치 못한 기능이 나타나면 AI의 판단과 행동 원리를 완전히 파악하기 어렵다는 의미다. 그는 대표적 안전장치로 꼽히는 ‘생각의 연쇄(CoT)’ 모니터링의 한계도 짚었다. AI가 답을 내기까지 드러내는 추론 흔적을 관찰해 위험한 의도나 우회 행동을 포착하는 방식이지만, 모델이 고도화할수록 감시 체계를 우회할 수 있다는 것이다. 그는 더 강력한 AI 위협에 대응하려면 AI를 계속 발전시켜야 한다는 업계 일각의 주장에도 선을 그으며 “무모한 행동을 정당화하는 구실로 삼아서는 안 된다”고 지적했다. 파호츠키는 인간에게 해를 끼치지 않게 AI를 통제하는 ‘정렬(Alignment)’ 난제를 완전히 해결한 연구소는 없다면서 공통 안전 기준이 수립될 때까지 업계의 속도 조절과 세계 각국 정부의 공조가 병행돼야 한다고 당부했다.