소버린은 ‘자주적인’, ‘주권이 있는’이라는 뜻을 가진 단어다. 우리가 주로 사용하는 챗지피티나 제미나이, 클로드 같은 인공지능은 모두 해외 기업의 서비스다. 서버도 해외에 있고, 핵심 모델도 해외에서 개발된다. 우리가 쓰는 AI의 뇌와 심장이 전부 외국에 있는 셈인데, AI가 앞으로 전기나 통신망처럼 필수적인 사회 인프라가 될 것으로 예측되는 상황에서 그걸 온전히 외국 기업에 의존한다면 우리의 생명줄을 타인에게 맡기는 것이나 다름없다.

예를 들어 전기가 끊기면 나라가 멈추듯, 앞으로는 AI 시스템이 멈추거나 외부에서 쥐고 흔들면 행정, 산업, 금융, 국방까지 모두 흔들릴 수 있다. 이러한 리스크를 예방하기 위해서는 AI를 “우리가 우리 손으로 만들고, 운영하고, 지켜야 한다”는 것이다. 그 흐름에서 나온 개념이 바로 소버린 AI다.

기술적 문제만이 아니라 우리 국민의 정신적인 부분, 가치관에서도 문제가 발생할 수 있다. 예전에 중국 기업이 만든 AI 딥시크에게 동북아 외교 안보 문제에 관한 질문을 해 봤다. 대략 이런 내용이다. 북한이 현재 핵과 대륙간탄도탄을 보유하고 있지 않느냐, 그렇다 보니 미국으로서는 북한에 군사 옵션을 사용하는 것이 사실상 불가능해진 상황이다. 만약 북한이 핵과 대륙간탄도탄을 지렛대로 삼아서 중국과 미국 사이를 저울질하다가 미국 쪽에 붙을 수도 있는 것 아니냐. 북한이 양손에 떡을 들고 주도권을 쥐고 있는 형국 아니냐. 이런 식으로 슬쩍 찔러봤더니 딥시크의 반응이 상당히 놀라웠다.

북한이 감히 그런 선택을 할 수는 없을 것이다, 왜냐하면 우리(중국)는 북한을 통제할 수 있는 다양한 수단들이 있으며, 그것을 사용하면 북한은 상당한 어려움을 겪을 수 있기 때문이다, 뭐 이런 식의 내용을 그것도 굉장히 고압적이고 권위적인 어투로 말하는 것 아닌가. 딱히 중국 정부의 관점에서 상황을 분석해달라고 하는 것도 아니었는데 말이다.

딥시크가 왜 그런 태도를 보였을까? 이유는 명확하다. 딥시크는 중국 기업이 만든 AI이다 보니 외교 안보 영역에서 중국 공산당이나 중국 관영 언론이 생산한 문건, 그리고 중국 학자들의 논문을 압도적으로 많이 학습했다. 그러니 딥시크의 답변에는 자연스럽게 중국의 관점, 중국의 시각이 들어가게 된다. AI는 절대 중립이 아니다. 누가 어디서 어떤 데이터로 만든 AI냐에 따라 국제정치·안보·경제 문제를 바라보는 렌즈가 달라지고, 렌즈의 방향성이 그대로 사용자에게 스며든다.

챗지피티, 제미나이, 클로드 같은 AI는 미국 기업이 만들었으니 아무래도 미국 언론사의 기사, 미국 학자의 논문, 미국 정부의 공문서를 많이 학습한다. 우리가 중국 사람이고 미국 사람이라면 별다른 문제가 없겠지만, 우리는 대한민국 사람이다. 중국이나 미국하고는 역사, 문화, 가치관, 처한 상황이 다르다. 그런데 우리가 매일 사용하는 AI가 미국적 관점과 가치관을 기본값으로 갖고 있다면, 자신도 모르게 사고방식의 틀 자체가 AI에 의해 서서히 재편될 수 있다.

예를 들어서 2023년에 보도된 뉴스를 보면 챗지피티에게 독도는 누구 땅이냐고 물었더니 ‘분쟁지역’이라고 답했다고 한다. 미국에서 발간되거나 생산된 관련 자료에서는 독도가 분쟁지역이라는 평가가 지배적이니 그렇게 답했을 것이다. 물론 내가 다시 챗지피티에게 물어보니 지금은 독도가 대한민국 땅이라고 대답했다. 뭔가 조정이 들어간 것 같았다. 혹시나 해서 이번에는 구글 AI 제미나이에게 ‘다케시마 섬은 어느 나라 영토냐?’라고 물어보니 천연덕스럽게 분쟁지역이란다. 그래서 다시 ‘독도는 어느 나라 영토냐?’고 물어보니 이번에는 대한민국이란다.

요즘 초중고등학교 대학교 할 것 없이 AI를 사용하고 있다. 그야말로 전 국민이 사용하는 상황이라고 해도 과언이 아닌데, 미국에서 만든 AI를 무비판으로 사용하다 보면 자칫 왜곡되거나 편협한 정보를 진실인 것처럼 받아들이게 된다. 인공지능은 기계이다 보니 좌파도 우파도 쪽파도 아니고 뭔가 중립적인 것처럼 보인다. 그렇다 보니 별다른 의심이나 경계심 없이 AI의 대답을 수용하는 경향이 있다. 하지만 그 대답 안에는 미국식 경제관, 안보관, 외교 프레임, 정치관이 스며 있기 마련이다.

나는 AI를 이런 식으로 사용한다. 예를 들어서 러시아-우크라이나 전쟁에 대해 AI에게 물어본다면, 우선 러시아 측의 관점에서 대답해달라, 그러고 나서 우크라이나 측의 관점에서도 대답해달라, 이런 식으로 답변에 조건을 단다. 그래야 은연중에 AI에게 스며 있는 모종의 관점에 그나마 휘둘리지 않을 수 있기 때문이다.

아무래도 직업이 작가이다 보니 글을 쓰면서 AI를 적극적으로 활용하는 편인데, 소버린 AI의 필요성을 절실하게 느낀 또 하나의 사례가 있다. 청소년들 읽으라고 <목민심서 한번 읽어 보지 않겠는가>라는 책을 썼는데, 집필 과정에서 챗지피티에게 정약용과 목민심서에 관한 좀 심도 있는 질문을 여러 가지 해 봤다. 틀린 답을 너무 많이 내놓아서 쓸모가 없는 걸 넘어서 오히려 집필에 방해가 될 지경이었다. 반대로 클래식 음악에 관한 책을 쓸 때는 정말 큰 도움이 됐다. 바흐 <골드베르크 변주곡>에 관한 분석 글을 쓰기 위해 다방면으로 자료 조사를 했는데, 심지어 기원후 3~4세기에 활동했던 인물인 이암블리코스가 쓴 『피타고라스의 생애』 내용까지 제대로 학습이 되어 있었다.

미국 기업이 만든 AI는 대한민국 역사에 관해서 유독 학습 수준이 매우 낮았다. 소버린 AI를 제작한다면 우리나라의 삼국사기, 삼국유사, 고려사, 조선왕조실록 등 다양한 역사적 자료들과 양질의 논문을 충분히 학습시켜서, 한국인의 역사, 문화, 정서를 깊이 있게 이해하는 ‘우리식 AI’를 갖출 필요가 있다.

게다가 AI 이용료가 지금은 저렴한 편이지만, 향후 미국 빅테크 기업의 독과점 상태가 안정화되고 기술적으로 대체 불가능한 지경에 이르면 이용료를 올릴 가능성이 높다. 시장을 평정한 배달업체가 배달수수료를 올리듯. 문제는 AI가 선택이 아닌 필수 인프라가 되고 있다는 점이다. 우리가 전기나 통신망을 끊을 수 없듯이, 미래에는 AI 없이는 아무것도 제대로 돌아갈 수 없는 상황이 될 가능성이 높다. 만약 우리나라 전력 공급을 100% 외국 기업에 의존하고 있다고 생각해 보면, 얼마나 끔찍하고 두려운 일인가.

한 가지 더 언급하자면, 해외 AI에 전적으로 의존하게 된다면 국내의 첨단 제조업, 금융, 국방 등 민감한 영역의 데이터가 결국 해외 기업의 서버와 AI 모델 위에서 학습되고 운영될 수밖에 없다. 우리가 생산한 소중한 데이터가 해외 기업의 AI 모델 성능을 높이는 데 사용되는 것이다. 이렇게 더 똑똑해진 AI 모델을 다시 돈을 주고 이용하는 구조가 되는데, 굉장히 비효율적일 뿐만 아니라 장기적으로는 우리 경제에 큰 부담이 될 수 있다. 그러니 소버린 AI는 우리 산업과 경제의 기반을 스스로 지키기 위한 최소한의 안전장치다.

유럽연합도 “유럽식 AI”를 만들겠다고 이미 선언했다. 이유는 명확하다. 유럽 사람들의 개인정보 보호 기준, 윤리 기준, 민주주의 가치와 법체계는 미국 빅테크 기업이 만든 AI와는 맞지 않는 부분이 너무 많기 때문이다.

AI 분야에서 미국과 자웅을 겨루는 중국의 경우는 훨씬 극단적이다. 이미 거의 모든 AI 핵심 기술을 내재화했고, 데이터도 국외로 나가는 걸 엄격하게 통제한다. 사실상 자국 데이터·자국 산업·자국 안보를 완전히 자체 AI 체계 아래에 넣었다. 그만큼 AI를 ‘전략 자산’으로 본다.

AI는 단순한 기술이 아니라, 경제·안보·가치 체계 전반에 영향을 미치는 주권에 관한 문제다. 산업혁명 시기 기계제 대공업 등장으로 인해 유럽의 봉건 사회는 자본주의 사회로 이행했고, 결국 강국이 약소국을 지배하는 제국주의 시대가 열렸다. 지금의 인공지능은 산업혁명 시기의 기계제 대공업을 훨씬 능가하는 충격을 인류에게 줄 것으로 예측된다. 이 격변의 시기에 슬기롭고 현명하게 대처해야 할 필요가 있다.