저들은 뭔가 알고 있어서 경고하는게 아닐까요? 이번에 은행 해킹사태도 그렇고 겁이 납니다. ai에 많은 돈을 투자한건 사람인데 역으로 ai의 지배나 부작용에 대해선 딱히 해법도 없고 트럼프는 무조건 빨리빨리만 외치니 그또한 걱정입니다. ---------- “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다” AI 개발의 위험성을 이유로 퇴사한 앤트로픽 개발자 제이콥 콕슨이 ‘인류 멸종’까지 언급하며 AI에 대한 통제 불능 상황을 경고했다. 콕슨은 지난달 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박하고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 경고하며 회사를 떠났다. AI ‘킬 스위치’(긴급 차단 장치)에 대해 단기적으로는 도움이 될 수 있지만 장기적인 안전을 보장하기에는 충분하지 않다고 지적했다. 그러면서 “프런티어 모델 개발에 일종의 속도 조절이 필요하다”고 강조했다.