2025년 베이징의 한 청년. 횡단보도 빨간불에 한 걸음 내딛었다. 도시 곳곳의 카메라가 얼굴을 식별한다. 1분 후 위챗에 알림 — "사회 신용 점수 5점 차감. 이번 달 누적 -15점. 고속철 1등석 예약 자격 정지." 그는 한숨을 쉬고 다음부터 더 조심하기로 한다. **이것은 유교의 부활인가?** 표면적으로는 그렇게 보인다 — 사회 질서, 예법 준수, 도덕적 행동에 대한 보상. 그러나 공자가 살아 돌아온다면, 그는 격노할 것이다. 그가 평생 반대했던 것이 정확히 그 시스템이기 때문이다. 2500년 전, 한 노 스승이 한 가지 결정적 구별을 했다 — 외부에서 강요된 질서와 안에서 자라난 부끄러움은 다르다. 한 글자 차이가 사회 전체의 운명을 가른다.
儒家 — 自恥의 도덕과 外律의 거부
AI 감시 — 외부 통제의 21세기 형태
두 지혜가 만나는 지점
공자는 외부 통제가 자치 능력을 파괴한다고 경고했고, 21세기 사회과학은 그 경고가 정확히 실현됨을 증명한다. 사회 신용 시스템도, 알고리즘 추천도, 같은 메커니즘으로 같은 결과를 만든다 — **결정의 외주화**.
1. 禮는 자기 표현, 監視는 강제
공자의 禮(예)는 자기 마음의 자연스러운 표현이었다. 부모를 공경하고 싶기에 절을 하고, 친구를 아끼기에 예를 차린다. 감시 시스템은 정반대 — 자기 마음이 무엇이든 외부 평가에 맞춰 행동을 조정한다. 자발적 행위가 강제된 행위로 바뀌면, 행위의 의미가 사라진다. 빨간불을 지키는 이유가 "안전"이 아니라 "점수 감점"이면, 그는 카메라가 없을 때 곧 안 지킨다.
2. 수치심의 외주화 = 도덕 근육의 위축
맹자가 "수오지심은 의의 단서"라 했다. 부끄러움을 느끼는 능력 자체가 도덕의 시작이다. AI 시스템이 매번 행동을 평가해주면 — 내가 부끄러워할 필요가 없다. 점수가 알아서 알려준다. 한 세대 안에 사람들은 자기 행동의 옳고 그름을 스스로 판단하는 능력을 잃는다. "추천 알고리즘이 좋다고 했으니 봐도 되겠지"는 같은 메커니즘이다.
3. 효율과 자치의 trade-off
사회 신용 시스템은 단기적으로 효율적이다. 위반자가 줄고, 부채가 회수되고, 질서가 잡힌다. 그러나 장기적으로 — 도덕적 자기 결정의 능력이 사회 전체에서 위축된다. 공자가 진(秦)의 짧은 통일을 본 후 한나라가 유교를 택한 이유 — 외부 통제만으로 지속되는 사회는 없다. 효율이 자치를 잡아먹으면, 그 사회는 시스템이 흔들리는 순간 무너진다.
4. 기술은 가치중립이 아니다
데이터·AI·알고리즘 자체는 도구다. 같은 기술이 자치를 강화할 수도, 자치를 파괴할 수도 있다. 핵심은 — 시스템이 "사용자가 더 잘 결정하도록 도와주는가" 아니면 "사용자 대신 결정해주는가"이다. 첫 번째는 도구, 두 번째는 통제다. 공자의 표현으로 — 첫 번째는 禮의 학습, 두 번째는 法의 강제. 같은 AI가 두 방향 모두 가능하다. 어느 방향으로 갈지가 우리 시대의 가장 큰 정치적 질문이다.
오늘 할 수 있는 실천 — 자치를 지키는 5원칙
-
1
AI 추천에 "왜?"를 묻는다
Netflix가 추천한 영화, Amazon이 띄운 상품, TikTok이 보여준 영상 — 클릭하기 전 5초 멈춤. "이것이 정말 내가 원한 것인가, 아니면 알고리즘이 좋아할 것이라 예측한 것인가?" 의식적 선택이 자치의 시작.
-
2
점수와 평가에 거리를 둔다
소셜미디어 좋아요·팔로워 숫자·평점 — 모두 외부 평가다. 매일 한 가지 일은 "남이 평가하지 않을" 것을 한다. 일기 쓰기, 혼자 산책, 점수 없는 책 읽기. 자기 판단 근육을 보존한다.
-
3
필터 버블을 의식적으로 깬다
알고리즘은 좋아할 것만 보여준다. 일주일에 한 번, 자기 견해와 반대되는 글·매체·관점을 찾아 읽는다. 공자의 "삼인행필유아사(三人行, 必有我師)" — 동의하지 않는 사람에게서 가장 많이 배운다.
-
4
자기 데이터의 흐름을 안다
어떤 앱이 무엇을 수집하는지 한 번 본다. Apple/Google 설정 → 개인정보 → 추적 권한. 거의 모든 사람이 모르고 동의했다. 알면서 동의하는 것은 자치, 모르고 동의하는 것은 항복.
-
5
禮의 자기 표현을 살린다
시스템이 시키지 않아도, 좋은 행동을 한다. 줄을 서고, 약속을 지키고, 어른께 예를 차린다 — 카메라가 보든 안 보든. 이것이 공자가 말한 유치차격(有恥且格)의 작은 실천. 도덕 근육은 일상의 작은 반복에서만 자란다.
결어 — 공자가 카메라 앞에 선다면
공자가 2026년 베이징의 한 횡단보도 앞에 선다고 상상해보자. 사방의 얼굴 인식 카메라, 위챗에 점수가 깜빡인다. 그는 한참을 본 후, 카메라에 미소를 짓고 빨간불에 일부러 멈춰 선다 — 카메라가 있어서가 아니라, 신호가 빨간색이기 때문에. 그리고 그는 시스템 운영자에게 이렇게 말할 것이다. 이것은 시리즈 10편의 마지막 문장이다.
"덕(德)으로 이끌고 예(禮)로 다스리면 백성이 부끄러움을 알고 바르게 된다. 그러나 너희는 형벌(刑)을 모니터에 옮긴 것일 뿐이다. 백성은 너희의 점수를 피하는 법을 배울 뿐, 그들 자신을 다스리는 법을 잊을 것이다. 시스템을 짓기 전에, 사람을 길러라(修己以安百姓)."
더 깊이 읽기
-
📖
『논어』 위정편 「도지이정」 구절 — 유가 정치사상의 분기점 — 외율과 자치의 본질적 차이
-
📖
Shoshana Zuboff, "The Age of Surveillance Capitalism" (2019) — 서구 감시 자본주의의 결정판 분석
-
📖
Jiwei Ci, "Democracy in China" (Harvard, 2019) — 사회 신용 시스템의 유교 외피와 법가 실체
