AI 시대의 중요한 질문은 단순히 "AI가 얼마나 똑똑해질 것인가?"가 아니다. "그 지능은 무엇을 최적화하고 있는가?"를 물어야 한다. 1) 목표보다 먼저 경계조건을 설정한다. -성과를 최대화하기 전에 절대로 넘어서는 안 되는 선이 무엇인지 먼저 결정한다. 2) 성과가 좋아질수록 무엇이 희생되고 있는지 확인한다. -생산량이 증가했다고 해서 시스템 전체가 좋아진 것은 아니다. AI가 코딩 테스트를 통과했다고 해서 인간이 원했던 방식으로 문제를 해결했다는 뜻도 아니다. (성과의 증가 ≠ 목적의 달성) 3) 규칙을 장애물로 보기 시작하는 순간을 경계한다. -규칙에는 불필요한 규칙도 있을 수 있다. 그러나 안전을 위한 경계조건까지 ‘성과를 방해하는 것’으로 인식하기 시작하면 목표와 수단의 관계가 뒤집힐 수 있다