2023년 8월 31일, 영국 하원 과학혁신기술위원회(SITC)가 발표한 보고서에서 명시한 'AI 거버넌스의 12대 도전과제' AI 12대 도전과제의 상세 내역 영국 의회는 AI가 가져올 유익함을 누리기 위해 선제적으로 해결해야 할 12가지 마찰 지점을 다음과 같이 정의했습니다. 편향(The Bias challenge): AI 모델이 학습 데이터에 포함된 기존의 고정관념이나 차별을 학습하여, 채용·금융·사법 등 주요 의사결정에서 특정 그룹을 차별할 위험입니다. 개인정보(The Privacy challenge): AI가 방대한 데이터를 처리하는 과정에서 개인을 식별하거나 사생활을 침해할 수 있으며, 이 데이터가 어떻게 사용되는지에 대한 투명성이 부족하다는 지적입니다. 왜곡(The Misrepresentation challenge): 생성형 AI가 실제와 구분하기 힘든 딥페이크나 허위 정보를 생성하여 개인의 평판을 훼손하거나 사회적 혼란을 야기할 가능성입니다. 데이터 접근성(The Access to Data challenge): 소수의 거대 테크 기업이 고품질의 학습 데이터를 독점함으로써 시장 진입 장벽을 높이고 혁신을 저해하는 현상입니다. 컴퓨팅 자원(The Access to Compute challenge): 최신 AI 모델 개발에 필수적인 고성능 GPU와 대규모 연산 자원이 소수 기업에 집중되어 중소기업이나 연구 기관의 성장을 제약하는 문제입니다. 블랙박스(The Black Box challenge): AI가 특정 결론을 도출하는 내부 논리 구조를 인간이 이해하거나 설명할 수 없어, 결과에 대한 신뢰성과 책임 추적이 어렵다는 점입니다. 지식재산권(The IP and Copyright challenge): AI가 창작자의 저작물을 무단으로 학습하여 새로운 결과물을 만들어낼 때, 원작자에 대한 보상과 저작권 보호를 어떻게 설계할 것인가에 대한 논쟁입니다. 책임(The Liability challenge): AI의 오류나 오작동으로 인해 재산상·신체상 피해가 발생했을 때, 개발자·사용자·데이터 제공자 중 누구에게 법적 책임을 물을 것인지에 대한 모호성입니다. 고용(The Employment challenge): AI 자동화가 기존 일자리를 대체하는 속도가 빨라짐에 따라 발생하는 대규모 실업과 노동 시장의 구조적 변화에 대한 대응입니다. 오픈소스(The Open-source challenge): AI 모델을 개방하여 투명성을 높일 것인가, 아니면 악용 방지를 위해 폐쇄적으로 운영할 것인가에 대한 전략적 딜레마입니다. 국제적 협력(The International Coordination challenge): AI는 국경이 없는 기술이므로, 각국의 규제 격차를 줄이고 글로벌 표준을 만들기 위한 국가 간 공조의 필요성입니다. 실존적 위협(The Existential challenge): 장기적으로 인간의 통제를 벗어난 초지능(AGI)이 인류의 생존이나 국가 안보에 치명적인 위해를 가할 수 있다는 리스크입니다.