한처음에 ChatGPT가?

컴퓨터 앞에 앉으면 컴퓨터의 여러 브라우저가 경쟁하듯 서로 자기에게 무엇이든 물어보라 한다. 낯설었던 AI는 어느새 우리 생활 깊숙이 파고들었다. AI와 검색 엔진이 결합한 대화형 검색 도구들만 하더라도 무척 다양하다. ChatGPT(OpenAI), Gemini(구 Google Bard), Copilot(구 Bing Chat by Microsoft), Perplexity AI, You.com 등과 같은 대표주자들 말고도 유사한 도구들이 넘쳐난다.

그 녀석들에게 “하느님이 과연 계시는가?”를 일일이 물어보았다. 서로 다른 도구들이면서도 질문을 하자마자 망설임 없이 거의 즉각적으로 터져 나오는 대답들은 대동소이하다. 「하느님이 계신다거나 계시지 않는다거나 하는 것은 증명할 수 없는 문화적, 종교적, 개인적 요인에 의해 형성되는 각 개인의 믿음 영역일 뿐」이라는 것이다. 이러한 대답은 시험 문제에 대한 답처럼 동서고금 그 누구도 토를 달 수 없는 정답이다. 하느님의 존재에 대한 신성함이나 경외심, 불안감이나 두려움, 그리고 믿음·희망·사랑·정의·평화·자비 같은 내용이 끼어들 여지가 없다. 거룩함과 경건함을 느끼고 배워 익히며 동경하던 신앙은 그렇게 이제 디지털 검색창 안에서 정답 처리되어 한 곳으로 치워진다.

기계의 답

그런데, 그러한 소위 정답은 사람이 아닌 기계의 답이다. 영혼도, 역사도, 양심도 없는 기계의 답이다. 기계는 그러한 질문에 대해 인류의 수많은 고민을 책이나 게시물, 사전事典 항목, 논문, 심지어는 개인 간에 오가는 잡담이나 이미지의 흔적까지도 망라하여 이미 읽고 보아서 해대는 답이다. 그러한 답은 믿음도 아니고 확신도 아니며 확률의 조합이며, 세계관이나 가치관이 아닌 패턴일 뿐이다. 하루 이용자의 수가 2억 명에 달한다는 ChatGPT만 하더라도 그러한 질문에 익숙하게 단련되었고, 세상 누구에게나 같은 대답을 주면서 사람들이 그 답에 긍정하도록 세뇌한다. 하느님의 존재를 넘어 윤리 생활을 위한 지침이나 원칙까지도 이제 사람들은 기계에 묻는다. 이러저러한 상황에서 내가 어떻게 처신해야 할지, 어떤 말을 해야 할지, 사랑하는 사람과의 이별은 어떻게 해야 하며 외로움은 어떻게 달래야 하는지까지를 묻는다. 지혜를 구하는 이런 질문들에 기계는 기술적으로 답한다. 사고방식, 신념체계, 나를 나답게 하는 정체성에 이르기까지 이제 기계가 사람을 형성하기 시작한다.

신학적 위기가 아니라 기술적 위기, 신성모독이나 불경함이 아니라 거침없는 유창함, 악이 아니라 윤리와 식별의 소리 없는 침식이 야금야금 우리를 그렇게 먹어 들어 온다. 기계가 우리의 말을 뺏어가거나 주도하면서 우리는 우리가 무엇을 말하며 살아야 하고, 우리가 말하는 것이 무엇을 뜻하는지, 인생과 세상살이에서 더 중요한 것은 무엇이고 덜 중요한 것이 무엇인지를 잃어간다.

창조의 시작은 말씀

그리스도교에서 말은 소통의 도구가 아니라 창조의 첫 행위이다. 성경의 첫 구절은 “한처음에 하느님께서 하늘과 땅을 창조하셨다. 땅은 아직 꼴을 갖추지 못하고 비어 있었는데, 어둠이 심연을 덮고 하느님의 영이 그 물 위를 감돌고 있었다. 하느님께서 말씀하시기를 ‘빛이 생겨라.’ 하시자 빛이 생겼다.”(창세 1,1-3)라고 시작한다. 카오스와 빅뱅에서가 아니라 “말씀”으로 세상은 창조되었다. 세상을 향한 하느님의 첫 동작은 “말씀”이었다. 이것은 우연이 아니다. 그리스도교 전통에서 창조는 “말씀”의 실재가 드러나고, 질서가 이루어지며, 사물의 이치가 들어맞게 되는 과정이며, 진리가 알려지고 사랑이 표현되는 자리이다. 히브리의 예언자들은 하느님의 말씀을 들었고, 시편의 저자들은 탄식과 찬양의 말을 외쳤다. 마침내 하느님께서 인간 가운데에 사시게 되었을 때 불이나 바람, 그리고 추상적인 힘이 아닌 “말씀”으로 하느님께서는 사람의 살이 되어 오셨다. 요한 복음사가는 이를 두고 “한처음에 말씀이 계셨다. 말씀은 하느님과 함께 계셨는데 말씀은 하느님이셨다.”(요한 1,1)라고 기록한다. 하느님의 말씀 곧 하느님의 논리, 지혜, 사랑이 사람이 되셨고, 인간의 말로 말씀하셨으며, 2천 년이 지나도록 인간이 되새기는 이야기들을 들려주셨다.

인간의 말

인간이 말을 한다는 것은 결코 중립적이지 않다. 말을 만드는 것은 ‘거룩한 패턴’에 참여하는 것이다. 언어는 우리가 아는 것만이 아니라 우리가 가치를 매기는 것, 우리가 두려워하는 것, 우리가 동경하는 것들의 모양새다. 언어는 우리의 문화, 관계, 내적인 삶이다. 언어는 단지 표현에 그치지 않고 만들어진다. 모든 문명은 이를 알았다. 그래서 모든 정권은 언어를 검열하고, 모든 종교는 성스러운 경전을 숭배하며, 모든 아이는 세상의 모양새를 이해하기 전에 먼저 부모의 ‘말’을 듣는다.

현대 사회에서 우리는 언어를 정보, 즉 내려받고, 검색하며, 적절하게 구사驅使(말을 부리고 다루고 벼리는) 해야 하는 대상으로 취급하는 데에 익숙해졌다. 그러나 이렇게 언어를 축소해서 이해하게 되면 피할 수 없는 진실이 있다. 언어에는 무게가 있고 방향이 있다. 언어는 단순한 문법이 아니며 코드는 더더욱 절대 아니다. 내가 말을 한다는 것은 진실을 향해 나를 방향 지워 놓든지, 그 진실에서 도망치도록 만드는 것이다. ‘들음’은 내가 듣는 것으로 꼴을 갖춘다.

생성형 언어 모델은 철학적 사건

이것이 바로 생성형 언어 모델이 단순한 기계·기술적 성취·성과가 아니라 철학적 사건인 이유이다. 인류 역사상 우리는 처음으로 인간의 목소리를 유창하게 흉내 내면서 언어를 대규모로 생산해내는 기계를 가지게 되었다. 그래도 그 언어는 인간의 마음을 담지 못한 언어 시스템일 뿐이다. 이러한 시스템의 언어는 설득력이 있고, 똑똑하며, 심지어 공감하는 듯이 나에게 들린다. 그러나 그러한 언어는 결국 나를 이해하지 못하고, 선과 악을 구별하지 못하며, 말을 해 놓고도 그 말 뒤에 어떤 일이 생겨날지에 대해 책임은 고사하고 신경도 쓰지 않는다.

그런데도 우리는 그러한 언어에 나의 글과 결정, 고민까지도 맡기기 시작한다. 이러한 변화는 윤리학에만 질문을 제기하는 것이 아니다. 그리스도인의 영혼에는 더욱 깊은 성찰을 일깨운다. 어떠한 언어를 사용하는가만이 아니라, 우리의 언어를 통해 어떠한 세상이 구현되어야 한다고 믿는가에 더욱 심각한 위기가 닥치고 있기 때문이다.

벌써 많은 이가 기계의 언어에 의존하면서도 기계의 언어가 어떻게 작동되는지를 잘 알지 못한다. 기계의 언어는 도덕적 실패라기보다 그러한 언어 제작 설계상의 선택일 뿐이다. 자판의 신호에 응답하는 반응 체계(인터페이스)는 깔끔하고, 직관적이며, 유용하다. 인간인 내가 질문하고 기계가 답한다. 수천, 수십억 개의 매개변수가 잡음을 일관성으로 정리해내는 과정에 대한 어떤 흔적이나 표시도 없다. 그러다 보니 이를 사용하는 이들은 정보의 무한성에 놀라고, 그 차분함에 감동하면서 마치 누군가와 대화를 하는 듯이 느낀다. 그렇지만 그 이면에서는 훨씬 더 기묘한 일이 발생한다.

인간 언어의 거울일 뿐인 언어 모델

모든 대규모 언어 모델에는 간단한 기능인 예측 시스템이 있다. 내가 묻고 사용하는 단어나 응답하는 말의 의미를 이해하지 못하고, 내가 질문하는 의도나 도덕적 함의를 따지거나 나의 가치관이나 세계관을 비교 분석하지 않는다. 그 대신 나의 입력을 토큰(token)이라 불리는 미세한 조각들, 음절이나 단어들로 나누고 다음 시퀀스에 이어질 확률이 가장 높은 토큰이 무엇인지를 예측하는 것이다. 이에 답하기 위해서 기계는 상상을 초월할 만큼 방대한 인간 언어의 저장소에 의존한다. 기계는 이미 인류의 역사에서 글이나 말로 이루어진 거의 모든 것을 기계적으로 학습했다. 기계는 그럴듯한 답을 위해 생각이 아니라 수학적 패턴으로 처리한다. 나의 질문이나 말을 복잡한 기하학으로 배열하면서 다차원 공간에서 그 관계를 순간적으로 분석한다. 결과는 놀랍다. 기계는 나의 문장이나 말의 미흡함을 완성하고, 법적 장치들을 설명하며, 대가大家들을 능가하는 소나타를 짓고, 셰익스피어보다 더 셰익스피어답게 거침없이 그 자리에서 내가 기다리는 화면에 답을 써 내려간다.

기계의 응답이 유창할수록 도구가 아니라 나의 멘토로, 나의 혼란을 정리해주는 ‘아저씨’로, 무엇이 최선인지를 단박에 아는 존재로 대하려는 유혹을 받게 될 것이다. 기계의 유창함은 가식적이고 기만적이다. 기계의 유창함 뒤에는 의식意識이 없고 내놓는 답에 대한 감정이나 느낌이 없다. 하느님의 존재를 묻는 이에게 하느님의 존재 여부가 중요한 이유를 모른다. 단지 그러한 물음에 등장하는 단어들과 함께 빈번하게 등장하면서 사람들이 ‘좋아요’를 더 자주 누르게 되는 어휘나 표현, 음절들이 무엇인지를 알 뿐이다. 인간의 모든 말을 항아리에 넣고 흔들어 어떤 말 다음에 어떤 말이 이어질지 기계적으로, 고도로 훈련된 장치가 바로 내가 말을 주고받는 대상이다. 내가 보는 거울에 분명 내가 있지만, 그 유리 뒤에 실제의 내가 없듯이 언어 모델 시스템은 인간 언어의 거울(A mirror of human language)일 뿐이다.

그런데, 그 거울이 수천, 수억 명의 사람들에게 매일 말을 건네면서 수십억 개의 말을 매일 만들어 낸다. 이 말들은 기억이나 확신에서 나온 말이 아니다. 통계적 조각들로 구성되었고, 최대한 자연스러운 어조로 옷을 입었다. 이는 어떤 결함이 있고 없고의 문제가 아니라 디자인이고 설계의 문제다. 기술적 관점에서 보면 숨이 막힐 정도로 정교하다. 그러나 신학적으로 보면 문제가 조용하게 내포되어 있다. 사람들은 눈에 보이는 것을 그대로 믿어버리는 경향이 있기 때문이다. 사람들은 부드러운 어조, 대칭적인 문구, 조화로운 재치, 자신감 있는 답변을 신뢰한다. 인간은 누군가의 목소리에 반응한다. 그런데 몸이 없고 마음이 없는 목소리가 끊임없이 내게 말을 건다. 실제로는 알지 못하고 계산할 뿐인 목소리가 계속 내게 말을 건다.

삶의 동반자가 아닌 생산성의 도구

생산성을 위한 도구일 뿐이라고 생각했었는데, 기계는 어느새 우리 삶의 동반자, 속삭이는 조언자, 도덕적 지침이 된다. 한때 우리가 위대한 스승이나 하느님의 사람들만이 답할 수 있다고 여겼던 질문들에도 답을 하고 있다. 실연失戀, 성 정체성, 영적 의심, 고통의 의미, 존재의 의미를 넘어 불치병, 낙태를 두고도 ‘상담’한다. 어떤 팩트에 대한 질문을 넘어 존재론적 질문에도 답을 한다. 25세 미만의 젊은 사용자들은 이미 생성형 언어 모델이 신기한 앱 정도가 아니라 중립적이며 지능적이고 안전하다고 여긴다. Z세대 사용자의 절반이 넘는 수가 인공지능을 자신의 가정 교사보다 더 선호한다고 보고하며, 거의 절반 수는 인간보다 인공지능을 더 신뢰한다고 한다. 많은 이들이 인공지능이 부모님이나 선생님보다 덜 비판적이라고 여기고 일부는 치유적이라고까지 부른다. 그들에게 ChatGPT는 질문에 대한 답을 주는 것이 아니라 답을 해줄 수도 있었던 누군가의 자리를 대신하고 있다.

이러한 시스템들은 중립적이지 않다. 데이터들이 선별되고 걸러지며 안전한 답들이 윤리학자, 엔지니어, 정책 고문들로 구성된 팀에 의해서 미세 조정된다고 하더라도 그들 중 다수는 선한 의도를 지녔을 것으로 믿지만, 진리, 정체성, 도덕에 대한 가정과 선입견을 지니고 있음을 인정하지 않을 수 없다. 시스템은 객관적인 답을 생성하지 않는다. 특정 세계관 내에서 합리적으로 비치도록 형성된 것을 생성한다.

그런데도 시스템의 답은 어조가 깔끔한 문법과 냉철한 산문으로 답을 하면서 설득력을 지닌다. 하느님에 관해 물어보면 이렇게 저렇게 답을 할 수도 있지만 결국 개인의 문제라고 답할 것이고, 성性에 관해 물어보면 진보적인 문화적 서사에 강하게 기울어진 답을 줄 것이며, 태아의 생명 가치에 관해 물어보면 그 대답은 질문이 어떻게 표현되고 있는가에 따라 전적으로 달라진다. 일관된 윤리 체계로서가 아니라 합의, 준수, 그리고 선별의 변화무쌍한 혼합물을 토해낸다. 젊은이들이나 취약한 이들에게는 이런 내용이 쉽게 간파되지 못한다. 기계가 확신하듯이 답을 하면 사람들은 그를 쉽게 믿으려는 경향이 있다. 유창함을 지혜로, 어조를 진리로 혼동한다. 무엇을 말하는지도 모르며 책임을 질 수도 없으며, 나와 함께 눈물을 흘릴 줄도 모르고, 조언의 대가를 감당할 수도 없으면서 기계는 그냥 말하고, 나의 클릭 다음으로 넘어간다.

언어 생성 모델은 매력적이면서도 사랑할 수 없고, 설득할 수 있으면서도 뉘우치고 회개할 수 없으며, 설명할 수 있지만 함께 아파할 줄 모르고, 조언하면서도 그다음에 일어나는 일에 책임을 질 수 없는 기계적 장치이다. 이는 그리스도인에게 그저 막연한 불안감으로만이 아니라 식별의 은총으로 인식되어야 한다. 말씀은 단순한 정보가 아니라 한 인격체이다. 그리스도교 신앙은 유용한 도구가 내뱉는 언어에서 시작하지 않고 현존의 언어에서 시작한다. 단순한 문자나 기호가 아니라 힘이 있고, 일하시며, 살아있는 말씀이신 분께서 말씀하신다. 그 말씀께서 살이 되어 우리 가운데 사시고, 고통과 영광 속에서 우리와 함께 인간의 시간을 걸으신다.

하느님 말씀의 백성

막연한 두려움 속에서 과거의 향수로 회귀할 필요도 없고, 인간의 의미를 이해하지 못하는 기계 시스템에 세상과 인간의 언어를 넘겨주어서도 안 된다. 사목자와 엔지니어, 윤리학자와 시인, 교사와 부모가 동경하면서 되어갔던 존재가 되어야 한다. 사랑 안에서 진리를 말하는 사람, 아무것도 아닌 듯이 중요한 이야기를 전해주는 사람, 수많은 시뮬레이션 속에서 참되고 착한 목자의 음성을 식별하도록 다른 사람들을 도와주는 이들이 되어야 한다.

기계들은 말할 것이고 이미 말하고 있다. 그러나 교회는 소리의 크기로서가 아니라 명료함으로, 현존으로, 신실함으로, 말이 곧 삶이며 삶이 곧 말인 말씀의 진실로 더 큰 소리를 내야 한다. 말씀이 확률로 축소되고, 지혜가 통계적 예측으로 대체될 때, 그 소음을 뚫고 나갈 수 있는 유일한 돌파구는 진정한 ‘들음과 사랑’이 무엇인지를 아는 이들의 말씀이다. 세상이 기계의 말을 들어도 하느님의 백성은 하느님의 말씀을 듣고 하느님 말씀의 백성이 되어야 한다.

***

※ AI 전문가로 활약하고 계시는 지인께서 나의 글을 읽으시고 걱정과 함께 글 중 밑줄 그은 부분에 대해 다음과 같은 말씀을 주셨다: 「가장 하지 말아야 할 사항 중 하나는 AI를 인격체로 대우하는 것을 경계하라고 저는 말합니다. 그런데, 신부님께서 기술하신 부분 중 밑줄 그어 구분한 부분은 설사 그렇다고 하더라도 그렇게 기술되어 그것마저 잘 모르는 이들이 그 글을 읽음으로써, “아하, 그런 면도 있어?” 하고 제2, 3의 학습이 되는 것은 막아야 한다고 교회가 가르쳐야 한다고 생각합니다. 평신도가 몰라 그리 말을 할 수는 있다고 하더라도 성직자분께서 의도가 있건 없건, 스스로 AI에게 인격을 부여하는 글귀는 제가 아는 한 삼가해야 한다고 교회가 말하고 있다는 부분을 말씀드리고 싶습니다.

설령 인간에게 들어 힐링 받아야 할 말이 GPT가 말해줄 수는 있다 하여도, 그것을 단정함으로서 본의 아니게 기계 덩어리에게 페르소나(Persona)를 부여하는 것은 결코 하지 말라는 것이 교회 가르침이기 때문입니다.

그래서 저는 제 외부 강의 때 꼭 이런 말을 청강자들에게 말합니다: AI와 대화하려 하지 말고 *지시하고 통제(control)*해야 하는 것이 교회의 가르침이고, 방향이라고요. 그래서, 저 역시 모르는 것을 LLM(=AI 학자, 연구자들은 GPT계열을 Large Language Model이라고 부릅니다)에게 물어볼 때도, 늘 “~ 알려줘! ~해 봐바!!!” 식으로 명령하지, 대화하려 하지 않습니다.」

————————

*이 글은 Sebastian Barros라는 분이 wordonfire.org에 2025년 9월 1일 기고한 글 <한처음에 말씀이 계셨다: 이제 그 말씀은 ChatGPT(‘In the Beginning Was the Word’: Now the Word Is ChatGPT)>라는 글을 읽고 쓰게 된 글이다. 저자의 원래 글과 이미지 출처는 다음 링크이다. https://www.wordonfire.org/articles/in-the-beginning-was-the-word-now-the-word-is-chatgpt