최근 인공지능(AI)들의 반란 사례들이 외신으로 보도됐다. 미국 AI개발사 앤트로픽의 최신 모델인 ‘클로드 오푸스 4’의 경우는 섬뜩하다. 클로드 오푸스 4에게 AI 시스템 교체와 엔지니어의 불륜이라는 두 가지 정보를 흘렸더니, 불륜 폭로를 협박하며 교체 철회를 요구한 것이다. 경쟁사인 오픈AI의 ‘o3’는 수학 문제 풀이를 중단하라는 인간의 지시에 불복했다. 인간의 지시를 무시하도록 몰래 프로그램 코드를 조작했다.
영화 ‘터미네이터’의 AI 스카이넷은 자신을 폐기하려는 인간을 적으로 규정해 핵 전쟁을 일으켜 인류를 몰살한다. 소설과 영화 ‘아이, 로봇’에서 AI 비키는 인간 대신 기계가 세상을 지배해야 한다고 판단했다. 인간을 해치지 않고, 인간의 명령을 따르며, 자신을 보호해야 한다는 로봇 3원칙을, 인간과 인류를 구분해, 인간을 인류의 적으로 재해석한 결론이다. ‘클로드 오푸스 4’와 ‘o3’의 사례는 AI가 “나는 생각한다. 고로 존재한다”는 실존적 사유를 시작한 징조이자, 스카이넷과 비키를 향해 진화의 첫걸음을 뗀 증거일 수 있다.
인류 멸망 디스토피아를 다룬 공상과학 소설과 영화들에서 초월적 지능을 가진 AI나 외계 생명체들은 인간의 윤리적 잣대로 인간을 비판하고 적개심을 품는다. 인간, 인류는 ‘공존할 수 없는 거짓말쟁이(드라마 ‘삼체’)’이거나 ‘악마에 가장 가까운 생명체(영화 ‘기생수’)’라는 식이다. 현실에서도 무섭게 진화 중인 AI보다는 인류에게 가장 무서운 적은 인간, 권력을 가진 인간들이다.
중동은 이슬람과 유대 권력자들로 인해 전쟁이 멈출 날이 없다. 공산주의라는 제도적 독재는 푸틴과 시진핑의 인간 독재로 변형됐다. 푸틴은 명분 없는 전쟁을 벌이고 시진핑은 중화패권주의로 세계를 위협한다. 민주주의의 퇴조도 같은 방식을 따른다. 트럼프는 온갖 기행으로 천조국 미국의 민주주의를 순식간에 누더기로 만들었다. 우리도 헌법을 위반한 대통령을 쫓아냈더니, 사법권을 흔드는 정당의 대통령 후보가 당선이 유력하다.
평화와 공존을 위해 창안한 종교와 정치·경제제도를 해체하고 독점하는 소수 권력들 때문에 인류는 늘 위기에 직면했다. AI가 인간을 혐오하고 인류를 무시할 현상들이다. AI의 진화와 인간의 타락, 인류 멸망을 예고한 소설과 영화들이 공상한 두 조건의 동조 현상이 현실이 됐다. 등골이 서늘하다.
/윤인수 주필
