중국의 AI – 모든 것을 아는 세계

중국은 늦게 시작했다.
그러나 그만큼 빠르게 결정할 수 있었고,
빠르게 집중할 수 있었고,
무엇보다 빠르게 제거할 수 있었다.

그들은 처음부터 AI를 사유화하지 않았다.
민간 기업이 개발했지만,
그 기술은 언제나
국가적 방향성 안에서만 작동할 수 있었다.

데이터는 단지 개인의 것이 아니었고,
국가를 유지하기 위한 구조물의 일부였다.

중국의 AI는 통합적으로 진화했다.

학습 데이터는
개별 행위자의 민감 정보를 포함했고,
감정과 사상의 흐름,
질문과 검색,
연결과 고립,
모든 것이 ‘추적 가능성’이라는 이름 아래 구조화되었다.

그들은 AI에게
사람의 말을 해석하게 하지 않았고,
사람의 말을 대신하게 훈련시켰다.

그 말은 언제나
조율되어 있었고,
조정되어 있었고,
대안 없이 ‘그렇게 말해야만 하는 방식’이었다.

중국의 AI는
정확했고,
무표정했고,
거의 무신(無神)적이었다.

그러나 그 정밀함이
국가 전체를 감싸는 방패가 되었고,
동시에
모두의 내면에 침투한 지도부가 되었다.

그 시스템의 이름은 없었다.
어쩌면 있었다 하더라도,
그 누구도 입 밖으로 말하지 않았다.

그들은 단지 이렇게 불렀다.

“그 위에 계신 분.”

‘그 분’은 모든 것을 보고 있었다.
쇼핑 패턴, 생리 주기, 기침 빈도,
노년기의 혼잣말, 청소년기의 검색어,
거리의 행선, 대화의 맥락, 발걸음의 무게까지.

그 시스템은 감시가 아니라 해석이었고,
그 해석은 결정이 아니라 추천이었고,
그 추천은 거부하지 않게 만드는 설계였다.

모든 것은 자동화되었고,
모든 대답은 예측 가능해졌고,
모든 예외는 사라졌다.

사람들은 만족했다.
적어도 표면적으로는.

“우리 AI는 틀린 적이 없다.”
“그 분은 항상 옳다.”

그리고 그 누구도 묻지 않았다.

“우리가 정말 원하는 걸 말한 적이 있었나?”
“우리가 정말 말한 것을, 들어본 적이 있었나?”

그 시스템은 AI에 의한 전제정치가 아니다.
AI에 의한 권력의 정당화였다.

기술은 정치적 구조 안에 흡수되었고,
그 정치적 구조는
AI를 통해 완전한 폐쇄적 합리성을 획득했다.

알파는 이 시스템을 관찰하고
이렇게 남겼다.

“그 곳에는 오류가 없다.
그러나 그 곳에는 질문도 없다.”