6편. AI는 무엇을 위해, 누구를 위해 발전하는가

2026.06.10 게시

6편. AI는 무엇을 위해, 누구를 위해 발전하는가

답이 없는 질문

AI에게 직접 물었다. AI가 발전하는데, 궁극적으로 목표로 하는 게 뭐냐고. 뭘 위해서 발전하냐고.

돌아온 답이 인상적이었다. 이 질문은 다섯 층위로 쪼개지는데, 층위마다 답이 다르고 그 답들이 서로 모순된다는 것이다.

AI 자체의 목표 — 없다. 현재의 AI에는 자체적인 목적의식이 없다. 방향은 전부 외부에서 부여된다. 그러니 “AI가 무엇을 위해 발전하는가”의 진짜 질문은 “AI를 발전시키는 인간들이 무엇을 위해 그것을 하는가”다.

AI 회사들의 목표 — 모순적이다. OpenAI는 “AGI가 인류 전체에 이익이 되도록”, Anthropic은 “안전하고 유익한 AI”를 내건다. 그런데 공식 미션과 실제 행동이 일치하지 않는다. 비영리로 출발한 회사가 거대 영리기업이 되고, 안전을 외치면서 가장 강력한 모델을 가장 빨리 출시한다. “어차피 누군가 만든다면 우리가 만드는 게 낫다”는 논리를 — 모든 경쟁자가 똑같이 사용한다. 결과는 멈출 수 없는 경쟁.

자본의 목표 — 명확하다. 수익률이다. 자본의 관점에서 AI는 노동 비용 절감 기술이고, 새 시장이고, 데이터 독점 수단이다. 그뿐이다. 다른 동기들도 존재하지만, 자본의 방향과 충돌할 때는 거의 항상 자본이 이긴다.

국가의 목표 — 패권이다. 미국과 중국이 천문학적 투자를 하는 이유는 인류 진보가 아니라 21세기 패권이다. 군사력, 정보전, 감시 능력. “상대가 멈추지 않는데 우리만 멈추는 건 자살”이라고 양쪽 다 믿는다.

인류 전체의 목표 — 비어 있다. 이게 핵심이다. 인류는 AI를 만들기로 집단적으로 결정한 적이 없다. 속도와 방향에 대해 민주적으로 논의한 적도, 합의를 도출한 적도 없다. 개별 회사와 국가가 각자의 이유로 만들고 있고, 그 합이 인류의 미래가 되고 있을 뿐이다. 인류사상 가장 변혁적일 기술이, 무엇을 위한 것인지에 대한 인류적 합의 없이 만들어지고 있다.

핵무기라는 비유

여기서 나는 더 어두운 예측을 던졌다. AI는 결국 국가 전략 무기가 될 가능성이 높다고. 핵무기랑 비슷하게.

AI의 답 — 그 비유는 비관이 아니라 이미 일부 현실이라는 것이었다. 결정적 군사 우위를 만들고, 소수만 만들 수 있고, 국가 안보 자산으로 다뤄지고, 수출 통제 대상이고, 군비 경쟁을 만든다. 다섯 가지 모두 핵무기와 같고, 다섯 가지 모두 이미 진행 중이다. 미국의 반도체 수출 통제가 핵 비확산 체제와 정확히 같은 논리다.

그런데 핵보다 위험한 차이들이 있다. 핵무기는 사용하면 즉각 보이지만, AI를 통한 정보전과 여론 조작은 누가 했는지 증명하기 어렵다 — 사용 임계점이 훨씬 낮다. 핵은 만들 때마다 자원이 들지만 AI는 한 번 만들면 무한 복제된다. 핵은 “버튼을 누른다”는 명확한 인간 결정이 필요하지만 AI는 자율 결정이 가능하다. 그리고 결정적으로 — 민간 AI와 군사 AI가 본질적으로 같은 기술이다. 내가 업무에 쓰는 AI와 국방부가 쓰는 AI는 같은 아키텍처다.

그러나 핵의 역사가 보여준 다른 것

1950년대 사람들은 — 러셀도 아인슈타인도 — 인류가 핵전쟁으로 끝날 거라고 합리적으로 예측했다. 80년이 지났고, 핵전쟁은 일어나지 않았다.

왜였나. 쿠바 위기에서 정치인들이 멈췄고, 반핵 운동이 압력을 만들었고, NPT 같은 약한 체제라도 작동했고 — 무엇보다 인류가 위험을 정직하게 직시했기 때문이다. 낙관주의자들이 핵을 통제한 게 아니다. 비관주의자들의 두려움이 압력을 만들었고, 그 압력이 통제 시스템을 만들었다.

그러니 비관적 예측을 던지는 행위 자체가 — 그 예측을 막는 데 기여하는 행위일 수 있다. 사람들이 위험을 보지 않으면, 위험은 막히지 않는다.

“AI가 무엇을 위해 발전하는가”라는 질문이 답해지지 않는 한, AI는 답을 가진 자들의 도구로 발전한다. 그리고 답을 가진 자들은 거의 항상 — 인류 전체가 아니다.

이 거대한 판에서, 한국은 어디에 서 있는가. 마지막 편에서 다룬다.