10월 초, Anthropic이 진행하는 AI 인터뷰에 참여했다. 질문하는 쪽도 AI였다. AI를 어디에 쓰는지, 무엇이 나아지고 무엇이 나빠졌는지, 세상의 어떤 부분이 바뀌었으면 하고 어떤 부분은 지켜졌으면 하는지를 차례로 물었다. 30분 남짓 답을 쳐 넣다 보니 흩어져 있던 생각이 한 줄로 꿰어졌다.

인터뷰 원문은 공개하지 않기로 했다. 그 자리에서 꺼낸 생각만 칼럼으로 옮겨 둔다.

수십 년 미룬 일이 오전 한나절에 끝났다

가장 기억에 남는 순간을 묻길래 엑셀 정리 이야기를 했다. 회사에는 오랜 세월 쌓인 은어가 엄청나게 많다. 이걸 하나로 통일하는 일은 프로젝트를 꾸릴 만큼 거창하지 않다. 그런데 누구도 손댈 엄두를 못 냈다. 그래서 몇십 년째 미뤄져 왔다.

그 정리를 하루 오전 두세 시간 만에 끝냈다.

속도보다 중요한 게 있다. AI가 없던 시절이었다면 몇 명을 붙여 몇 년을 써야 할지 감조차 오지 않는 일이었다. 견적이 안 나오는 일은 시작도 하지 않는다. AI는 일을 빨리 끝내 준 게 아니라 손댈 수 없던 일을 손댈 수 있는 일로 바꿨다.

기획자로 일하며 늘 꿈꾸던 장면도 현실이 됐다. 개발자 여럿이 곁에 붙어 함께 만드는 장면이다. 그렇게 앱을 열 개 넘게 냈다. 주변의 작가와 영상 제작자에게 쓰는 법을 알려 주자 그들의 작업 속도도 눈에 띄게 달라졌다.

전기모터를 달았는데 생산성이 오르지 않았다

19세기 말부터 공장들이 증기기관을 전기모터로 바꾸기 시작했다. 깨끗하고 효율 좋은 동력이 들어왔는데 생산성은 한동안 별로 오르지 않았다.

이유는 공장 구조에 있었다. 증기기관 시절 공장은 거대한 엔진 하나가 천장의 긴 축을 돌리고 벨트로 기계마다 힘을 나눠 주는 구조였다. 동력원만 모터로 바꾸고 축과 벨트는 그대로 뒀다. 기계마다 작은 모터를 다는 방식이 퍼지고 동력 전달이 아닌 작업 흐름에 맞춰 공장을 다시 짓기 시작하면서 효과가 본격적으로 나왔다. 1920년대의 일이다. 경제사학자 폴 데이비드(Paul David)에 따르면 첫 중앙발전소가 들어선 때부터 여기까지 약 40년이 걸렸다.

AI도 같은 자리에 서 있다고 본다. 기존 업무 위에 에이전트 하나를 덮어씌우는 건 동력원만 바꾸는 일이다. 업무를 단계마다 쪼개 보고 그 단계에 맞는 방식으로 AI를 끼워 넣어야 한다. 어떤 단계에는 사람의 검증을 새로 두고 어떤 단계에서는 AI가 읽기만 하도록 권한을 묶는다. 기계마다 모터를 다는 일이 이것이다.

이렇게 쓰다 보면 불편한 지점도 생긴다. 일을 맡기려면 그만큼 많은 정보를 AI가 닿는 곳에 둬야 한다. 그래서 최종 검수는 끝까지 직접 한다. 편하게 쓰면서도 마음 한쪽이 완전히 놓이지는 않는다.

격차, 그리고 아무도 읽지 않는 보고서

나빠진 것도 있다. 첫째는 격차다. 배워서 일에 쓰는 사람과 궁금해하지도 않는 사람 사이가 하루가 다르게 벌어진다.

둘째는 AI slop이다. AI와 함께 쓴 문서를 맥락까지 통째로 상급자에게 올리면 분량이 너무 많다. 문장 곳곳에 사람이 쓰지 않은 듯한 번역투도 남아 있다. 받는 쪽은 읽기를 거부한다. 맥락을 전하려면 파일 전체를 주는 편이 낫지만 그 많은 분량을 읽으려 하지 않는다.

상급자가 직접 AI를 써 보게 만들어서 풀었다. 한 사람에게는 통했다. 그 자료를 모든 사람에게 같은 방식으로 나누기에는 아직 무리가 있다.

물 긷는 일이 사라진 것처럼

AI가 세상에서 바꿔 줬으면 하는 것을 묻는 질문에는 가장 길게 답했다.

예전에는 물을 길어 오는 일이 있었다. 누군가 매일 내나 우물까지 가서 물을 지고 왔다. 지금은 송수관과 상하수도가 그 일을 한다. 물을 지고 오는 사람은 없는데 훨씬 많은 사람이 깨끗한 물을 쓴다. 일 하나가 세상에서 사라졌고 아무도 그걸 아쉬워하지 않는다.

대부분의 일은 남들이 하기 싫어하는 일이라서 돈을 받는다. AI가 쓰여야 할 곳이 거기다. 문제의식과 호기심, 끈기만 있으면 많은 업무를 효율화해 알고리즘으로 바꿀 수 있다. 그렇게 바뀐 일은 상수도처럼 더 이상 사람을 필요로 하지 않는다.

그 다음 단계에서 사람은 하고 싶은 일, 재미있고 신나는 일로 옮겨 간다. 그래야 진짜 르네상스가 올 수 있을 것 같다. 사람만이 할 수 있는 예술의 시대로 가는 도구. AI가 세상 돌아가는 방식 전체에 들어가야 하는 이유다.

일터에서는 30년 넘게 써 온 엑셀 같은 낡은 도구부터 걷어 내고 싶다. 회사든 정부든 단순 업무는 자동화하고 일하는 방식 자체를 바꿔야 한다.

학교 교육은 세 단계로 바꾸면 좋겠다고 생각한다.

단계방식익히는 것
1단계AI 없이 손으로 쓰고 정리하고 이해하기혼자 생각하는 힘
2단계자료조사와 예상 반론 정리에는 AI를 쓰고 토론 자리에서는 쓰지 않기AI에 절반만 기대는 법
3단계각자 생각하는 세상의 문제를 AI로 풀어 가는 프로젝트도구를 부리는 법

AI 없이 생각하는 법을 먼저 익혀야 AI를 써도 생각이 남는다.

지키고 싶은 것

바뀌지 않았으면 하는 것도 물었다. 답은 하나였다. 사람이 자기 판단을 내려놓고 알고리즘에 맞춰 사는 세상은 오지 않았으면 한다.

이 흐름이 이어지면 사회는 초개인화로 갈 가능성이 높아 보인다. 초개인화는 사람을 분류한다. AI가 못 하는 일 가운데 일부조차 해내지 못하는 사람이 ‘쓸모없는 사람’으로 묶이는 날이 올 수 있다. 새로운 계급사회의 출현이고 과거로의 회귀다. 어느 정도는 피할 수 없는 흐름으로 보인다. 그래서 더더욱 그 과정이 잘 풀렸으면 한다.

Anthropic에 남긴 말

이 흐름을 한 회사가 막을 수는 없다. 대신 흐름을 풀려는 노력을 Anthropic이 언제나 회사 헌법의 중심 가치에 두기를 바란다고 답했다.

조금 더 구체적으로는 악의적인 사용을 가려내고 그런 쪽과는 지원도 교류도 끊는 일이다. 덕에는 양면이 있다. 빛이 있으면 어둠이 있고 세상을 좋게 쓰려는 사람이 있으면 나쁘게 쓰려는 사람도 있다. 선의로 시작했다가 악의로 변하는 경우도 있다. 사회가 그런 경우에 규제를 두듯 AI 회사도 판단의 중심에 철학과 인류의 가치를 둬야 한다.

마지막 질문은 꼭 알았으면 하는 점이었다.

Anthropic은 앞으로 엄청난 일들을 해결해 나갈 것으로 생각한다. 인류가 불이나 활자를 발견한 것 이상일 수도 있다. 그래서 자기검열이 더 필요하다. 나쁜 의도를 가진 사람은 회사 안에도 있을 수 있다. 어느 시점에는 멈춰 서서 되돌아봐야 한다.

구글은 창업 초기부터 “Don’t be evil"을 내세웠다. 2015년 출범한 지주회사 알파벳은 별도 행동강령에 “Do the right thing"을 썼다. 2018년 구글은 자사 행동강령 서문에서 “Don’t be evil"을 대부분 걷어 냈고 지금은 맺음말 한 줄에만 남아 있다.

Anthropic에는 처음 문장을 그대로 돌려주고 싶었다.

악을 행하지 말아 주세요.

참고

  • Paul A. David, “The Dynamo and the Computer: An Historical Perspective on the Modern Productivity Paradox”, American Economic Review 80(2), 1990.
  • CNBC, “Google seems to have removed most mentions of ‘Don’t be evil’ from its code of conduct”, 2018-05-21.