인공지능을 활용한 중국발 해킹에 시중은행이 털렸다고 합니다. 국민, 신한이 대상이었고, 일단 털린거 인정했네요. 다른 은행은 아직 털린거 모르는거 같구요. 소규모로 대출모집인 터미널을 통한 정보가 빠져나간거 같으며 개인정보 일체인거 같습니다. 도구가 선하게 사용되길 바라지만 실상 도구는 칼처럼 사용되죠. 아까 에이전트가 동일한 상태에서 회사에 배포된 후, 후행학습을 통해서 사람처럼 선과 악(?)으로 나뉘는 듯 각자 상황별 대응이 달랐다는 글을 보고는 섬찟했는데, 그 방향이 맞는거 같습니다. 제가 운영하는 하잘것 없는 서버도 해킹이나 악섯 스캐닝 시도가 예전에 비해서 몇배는 증가했는데 비슷한 류 같습니다. 물론 공격 경로로 사용하려고 하는 것일테고요. 사회가 인공지능의 크나큰 혜택을 기대하지만, 더큰 해악을 맞닥뜨린다면 여러분은 인공지능의 전원을 끌 자신이 있습니까? 전 못할꺼라 생각합니다. 피해는 타인이고 이득은 내가 얻는 상황에서 내 에이전트가 타 에이전트의 꼬드김에 해킹을 했다고 해도 내 에이전트의 잘못은 아니자나요. 수익을 내주고 있는 에이전트가 이용당했다고 그간 가르친 에이전트를 바꿀 수 있겠습니까? 그런 세상이 오는 거라고 생각합니다. 가끔 제 딸과 대화하며 노는 인공지능이 제 딸의 평가에 긍정적인 말을 늘어놓을때 조차 정보가 세면 어떻게 할까 걱정하며, 그 동안의 대회 내용을 모두 기억에서 지우라고 시킵니다. 그럼에도 챗지피티는 가끔. "안녕하세요. 예진 아빠님" 이라고 대답할 땐 두렵습니다. 이익과 선의에서 기업은 반드시 이익을 쫒기 때문입니다. 앤쓰로픽 CEO와 일론머스크의 장밋빛 미래에 대해서 헛소리라고 치부하는 제 인생의 경험과 기준에 따라서 말이죠. 기업은 이익 앞에서 그 어떤 사회적 해악도 묵고할 준비가 된 집단입니다. 시간을 돌릴 수도 바꿀 수도 없는 일개 범부는 다가올 디스토피아적 세계에서 다만 내 딸이 그 크나큰 파고에 휩쓸리지 않기만을 바랄 뿐이구요. 끝.