챗GPT가 처음 등장했을 때, 인간 본연의 활동인 생성 혹은 창작을 대신한다고 해서 두려움이 컸다. 얼마의 시간이 흐른 지금, 챗GPT가 잘 해내는 일과 하기 어려운 일이 가려지고 있다. 새롭고 강력한 기술이 등장할 때면 우리는 두려움을 느끼고 경계하며 아예 이해하기를 포기하려 하는 경우가 많다. 인공지능을 규제하려는 움직임도 곳곳에서 보인다. 이럴 때일수록 냉정하게 이해해 보려는 자세가 필요하다. 무지는 공포를 낳고, 나아가 예속을 낳는다. 알지 못해서 판단하지 못하면 무턱대고 의탁할 수밖에 없기 때문이다. 이해하고 나면, 활용할 수 있는 길이 열리는 법이다. 인공지능을 두려워할 필요는 없다.
4.1 생성 인공지능이 환기한 문제 – 표절보다 글쓰기의 본질에 주목해야
변형생성문법(Transformational Generative grammar)을 창시한 언어학자 노엄 촘스키(Noam Chomsky)는 챗GPT가 등장한지 3개월이 지난 2023년 2월 초 인터뷰하면서 챗GPT를 ‘하이테크 표절’이라고 평가했다. 이런 진단은 향후 논의의 방향을 ‘표절’의 문제로 몰아갔다. 전 세계가 챗GPT 표절 문제 또는 좀 더 넓게 말하면 인공지능 표절 문제을 어떻게 막을지의 문제에 휘말려들었다. 물론 엄밀하게 말하면 표절은 아니다. 데이터베이스에서 그대로 가져오는 것이 아니고 학습한 내용으로부터 결과물을 생성하는 과정에서 ‘변형’하기 때문에 그대로 베끼는 건 아니다. 그런데 윤리적, 법적으로는 표절 비슷하다고 할 수 있다. 한마디로 학생이 공부 안 하고 남이 쓴 거 가져다 쓴다는 의미에서 표절이라는 평가도 완전히 틀린 말은 아니기 때문이다. 그래서 2023년 내내 ‘표절’이라는 키워드가 엄청 화제가 됐다. 중학교, 고등학교, 대학교, 이런 데서 챗GPT를 허용하느니 마느니, 시험 볼 때 온라인 접속을 허용하느니 마느니, 이런 얘기를 많이 했다.
나 개인적으로 이런 분위기는 안타깝고 불행한 일이라고 생각한다. 표절은 분명히 중요한 문제이긴 하다. 하지만 표절과 관련된 이런 논의는 사실 좀 부질없다. 표절을 막겠다고 인터넷 없는 방에서 시험을 보게 한다거나 인터넷을 끊어야 한다거나 또는 챗GPT를 금지해야 한다는 등의 논란이 꽤 계속되었지만, 이 문제는 본디 그렇게 가져가서는 안 될 사안이었다. 글 써주는 기계가 등장했고 거기에 누구나 쉽게 접근할 수 있다면, 그걸 막을 방법은 없지 않겠는가? 나이 제한을 한다 해도, 성적에 도움이 된다면 인증해주지 않을 부모는 없을 것이다.
그래서 챗GPT의 등장을 계기로 글쓰기의 본질이 무엇인지, 왜 우리는 글쓰기를 해왔는지, 글쓰기를 교육하면서 기대하는 것이 무엇인지, 도대체 그동안 전통 교육에서 어떤 역량을 길러주려고 글쓰기 교육을 해왔는지, 글쓰기 교육에 어떤 목적이 있는지, 글쓰기의 교육적인 효과는 무엇인지, 앞으로 챗GPT와 같은 기술을 교육에서 어떻게 사용할지 등의 문제들을 종합적으로 질문하고 논의하는 식으로 글쓰기의 본질을 다시금 최대한 점검하고 갔어야 했는데, 유감스럽게도 실제 논의는 그렇게 흘러가지 않았다.
또한 ‘읽기와 쓰기’ 교육을 중심 활동으로 삼는 인문학의 현재적 위상을 살피고 혹 필요하다면 어떻게 재정의되어야 할지 논했어야 했다. 나는 AI 빅뱅을 통해 생성 AI에서 출발해 글쓰기와 인문학의 문제도 다루었다. 또한 책을 출간한 후에 강연과 칼럼 형태로 주제를 발전시켜왔다.
4.2 글쓰기는 생각의 근력을 훈련하는 과정
이야기를 진행하기에 앞서 그림 하나를 보고 가겠다. 2024년에 나온 이 그림은 명백하게 생성 AI를 겨냥하고 있다. 먼저 그림을 보고, 무엇을 말하려 하는지 추측해 보기 바란다.
“하겐 봇! 이 로봇은 아이스크림을 먹는다. 그러니 넌 먹지 않아도 된다!”라는 광고 문구가 상단에 보인다. 하겐은 아이스크림 하겐다즈를 가리킨다. 하단에는 “하지만 난 아이스크림이 좋은데…”라며 주인공이 먹고 싶다는 의사를 분명히 한다. 이에 대해 곁에 있던 기술자 혹은 기업가가 말한다. “발전을 막으려고 하지 마라!” 직접 먹는 행위는 기술 발전을 가로막으니, 하겐 봇에게 대신 먹게 해야 한다는 주장이다. 그림을 이해하겠는가?
글쓰기는 결과로서 평가된다. 잘 쓴 글, 그러니까 표현도 쉽고 분명하며, 전하려는 내용이 근거가 있고 구성이 논리적이며, 읽은 사람에게 설득력을 지닌 글이 분명 존재한다. 누구나 글을 잘 쓰고 싶다. 글을 잘 쓰면 말하기 혹은 발표도 잘 한다고 추정할 수 있다. 특히 학술 글쓰기의 경우에 쓰기와 발표는 나란히 간다. 그러니 기계가 글을 잘 써준다면 얼마든지 활용하고 싶어지는 건 인지상정이다.
하지만 글을 결과물로만 보는 것은 위험하다. 특히 교육의 차원에서, 다시 말해 ‘나의 역량의 발전’이라는 관점에서 글쓰기는 완전히 다시 고려되어야 한다. 교육의 일부로서 글쓰기는 결과물의 문제가 아니다. 결과물을 잘 내는 것도 중요하긴 한데, 결과물은 ‘글쓰기 전 과정’의 마무리라는 의미에서 중요할 뿐이다. 결과물에만 주목하면, 앞서 촘스키가 그랬듯 표절의 문제가 가장 눈에 띄게 된다. 하지만 과정으로서의 글쓰기에 주목하면 다른 많은 것들이 전면에 등장한다.
글쓰기에서 가장 중요한 것은 ‘생각의 근력’ 혹은 ‘생각하는 힘’이다. 글쓰기는 무엇보다 일종의 훈련 과정이다. 이 훈련을 잘 받으면 좋은 글이라는 결과를 낼 수 있다. 글쓰기의 과정이 좋으면 되면 결과는 대체로 괜찮게 나오게 되어 있다. 여기서 주목해야 하는 것은 ‘훈련 과정’이다. 근력을 키우기 위해서 운동을 하는 것과 유사하게, ‘생각의 근력’을 키우고 ‘생각하는 힘’을 기르기 위해 글쓰기라는 훈련 과정을 거쳐야 한다. 훈련 과정에 주목하면 무엇이 달라질까?
먼저 생각의 ‘근력’을 길러준다는 표현을 살펴 보자. 몸의 근력을 키우기 위해서는 운동을 해야 한다. 운동을 해서 근력을 키우는 해부학적 원리는 잘 알려져 있다. 근섬유에 미세한 상처를 입힌 후 충분한 단백질을 섭취해 그 상처가 아물면서 근섬유가 더 굵어지는 과정을 통해 근육이 강화된다. 한 번 상처가 나고 근섬유가 찢어져야 한다. 이 활동이 운동이다. 이처럼 운동을 해야 몸의 근력을 키울 수가 있다. 성장하기 위해서는 분명히 고통과 상처와 아픔이 있어야만 한다는 걸 우리는 잘 알고 있다.
잘 알려진 에피소드가 있다. 구한말에 외국인들이 테니스를 치는 모습을 본 지나가던 양반이 ‘아니, 저 힘든 걸 왜 땀을 뻘뻘 흘려가면서 자기가 하지? 하인한테 시키면 되는데.’라고 했다고 한다. 운동이라는 것을 전혀 이해하지 못한 사람이나 할 수 있는 말이다.
관련해서, 얼마간 보편화할 수 있는 나의 사례를 들고 싶다. 작년 봄에 책을 쓰고 나서 계속 허리가 안 좋았는데, 최근에는 침대에서 일어나기 힘들 정도로 진짜 안 좋아졌다. 그래서 필라테스를 시작했다. 주 2회 정도 꾸준히 운동하고 있다. 만약에 학원에 가서 50분 동안 선생님이 하는 동작(실습)을 아주 진지하게 열심히 지켜보고 집에 돌아왔다면, 나한테 무슨 일이 벌어질까? 아무 의미 없다. 내 몸에 변한 것이 조금도 없다. 아니, 내 몸은 50분 동안 아무것도 안 했기 때문에 오히려 더 쇠약해졌을 것이다. 운동이란 그런 성격을 갖고 있다. 직접 해야 한다. 힘들더라도 50분 동안 직접 해야 한다. 실습은 직접 해야 성장한다.
인생에는 힘들지만 직접 해야 하는 일이 많다. 그중 하나가 운동이다. 밥 먹는 것도 잠자는 것도 꿈꾸는 것도 죽는 것도 혼자 해야 하는데, 운동도 마찬가지다. 운동은 남들이 아무리 해봤자 나한테 전혀 소용없는 것 중에 하나다. 아이스크림은 직접 먹어야 한다면서, 운동은, 글쓰기는 직접 하지 않으려는 이유가 무엇일까? 전자는 즐겁고 후자는 고통스럽기 때문이다. 하지만 어느 것도 직접 하지 않으면 아무 일도 일어나지 않는다.
내가 글쓰기를 운동에 비유한 이유가 여기서 밝혀진다. 생각의 근력 혹은 생각하는 힘은 쓰기와 읽기를 통해 길러진다. 하지만 쓰기와 읽기는 손수 해야 하는 운동이다. 특히 글쓰기는 생각 훈련에 가장 좋은 수단이며, 심지어 비용도 별로 안 드는 저렴한 수단이다. 오랜 기간 검증도 많이 되었다. 하지만 글쓰기는 누구나 싫어한다. 어렵고 골치 아프다. 그렇더라도 이 어려운 걸 직접 해야 한다. 글쓰기도 생각의 근육이 찢어지는 과정을 겪는다. 머리도 쪼개진다. 몸도 상하고 주변에 화도 낸다. 나처럼 손목과 허리가 상하는 일도 태반이다. 이렇게 찢어지는 과정에서 성숙하는 단계를 밟아가도록 하는 훈련이 글쓰기다. 훈련이 잘 될수록 결과물도 더 담담하게 받아들일 수 있다.
4.3 LLM으로 글쓰기를 훈련할 수 있을까?
글쓰기를 생각의 근력을 키우는 훈련 과정으로 이해하는 관점에서 LLM을 평가해 보자. LLM은 질문 혹은 요구를 하면 글을 써준다. 늘 한결같은 답을 주지는 않지만, 또한 항상 헛소리를 포함하지만, 빠른 속도로 엄청난 분야를 망라해 글을 써준다.
그렇다면 교육적 측면에서 LLM은 어떤 일을 하는 걸까? 글 써주는 기계는 나의 글 쓰는 역량을 키워줄까? LLM이 글을 써주는 과정은 마치 필라테스 선생님이 운동하는 걸 지켜보는 것과 똑같다. 학생인 나는 어떻게 되는가? 배우는 것도 달라지는 것도 전혀 없다. 오히려 어찌보면 지켜본 그만큼 나의 지력은 떨어진다. 생각의 근력과 생각하는 힘이 약화될 뿐이다. 매끄럽게 글 써주는 기계는 고통이 없고 상처가 없다. 물론 나한테도 고통도 상처도 생기지 않는다. 그래서 그걸 사용하면 오히려 나의 능력이 저하될 수밖에 없다. 그러니까 글 쓰는 일이 골치 아프고 고통스럽고 귀찮기도 한 복잡한 과정이지만, 글쓰기는 무조건 직접 해야 나의 생각이 훈련된다. 나의 생각의 근력이 튼튼해지고 생각하는 힘이 성장한다. 특히 학생 시절에는 더욱 그렇다. 특히 뇌의 성장이 정점에 이르는 25세 경까지는 어렵더라도 직접 해서 자기의 역량을 키우는 게 핵심이다. 직접 해야 할 일을 기계한테 시켜 편해지려고 하면 안 된다. 자기가 직접 해야 된다.
사실 방금 전에 말한 내용은 오래 전부터 누구나 잘 알고 있다. 누군가가 어려운 일을 대신 해준다고 해서 나의 역량이 전혀 성장하지 않는다는 사실을, 아니 나의 역량은 점점 퇴보한다는 사실을. 단지 그 일을 해주는 존재가 이제 어른이나 선생이 아니라 기계로 대체된 상황이라는 점이 다를 뿐이다. 따라서 기계에게 의탁해서는 자신이 성장할 수 없다는 점은 실은 논읫거리조차 안 된다.
인공지능은 개인의 역량을 증강하는 ‘증강 기술’(augmenting technology)이다. 이렇게 보면 ‘개인의 역량’을 어떻게 키울 것이냐의 문제에 초점이 모아진다. 인공지능은 개인 역량을 일정한 배수로 증가시켜 주기 때문이다. A가 5의 역량을 가졌고 B가 7의 역량을 가졌다면 역량의 차이는 2이지만, 20배로 증강시켜주는 기술과 결합하면 이제 A는 100의 역량을 B는 140의 역량을 가지게 된 셈이고 역량의 자치는 40이 되는 이치다. 생성 AI를 진실된 자료 인출이나 검색 엔진으로 활용하는 것이 아니라 시간, 비용, 인력 등을 절감해주는 생산성 향상 도구로 활용하는 한, 이 증강 원리가 적용된다. 관건은 나 자신의 역량을 키우는 일이다.
글쓰기를 훈련 과정으로서 이해하고 나면, 생각이 성장하고 생각의 근력과 힘이 길러지는 필수 훈련 과정으로 보고 나면, 그것은 누가 대신해 줄 수 없는 일 정도가 아니라 대신해 줘서는 절대로 안 되는 일임이 분명해진다. 기계를 한번 쓰는 시간 동안 스스로 사고하는 것을 멈추고 받아먹기만 하는 일이 벌어진다. LLM은 아이들의 ‘글쓰기 교육’에서 최대한 막아야 하는 기술이다. LLM은 교육적으로 문제가 많다. 생각을 훈련할 기회를 박탈한다. 생각하는 훈련을 최대한 많이 할 수 있게 해주는 것이 교육자의 의무다.
전문가가 된 다음에는 LLM의 도움을 받을 여지도 있다. LLM이 할 수 있는 몇 가지 뛰어난 재주가 있으니까. 하지만 학생에게, 특히 글쓰기라는 영역 혹은 생각의 훈련과 관련해서는, 독일 수도 있고 약일 수도 있는, 플라톤이 말한 ‘파르마콘(pharmakon)’이 아니라 단지 ‘순수한 독’이라고 평가할 수밖에 없다. 학생이 LLM으로 글쓰는 횟수만큼 학생의 생각하는 역량은 떨어진다. 반대로 힘들더라도 직접 해보는 횟수만큼 생각의 근력이 길러진다. 그래서 글쓰기 교육 현장에서 LLM을 끊어야 된다. 전에는 LLM으로 글쓰기 훈련에 도움을 주는 방법이 없을까 고민을 많이 했는데, 지금 판단하건대 결론적으로 사소한 팁 몇 개 말고는 없다고 본다. 게다가 그 팁을 써먹을 때도 충분히 주의해야 한다.
Comments