🎓챗GPT로 인스피아를 쓸 수 있을까?

챗GPT로 인스피아를 쓸 수 있을까?

Can Kim-Supi write INSPIA with ChatGPT?

저자 김스피

(Authors) Kim, Supi

출처 인스피아 저널, (73), 2023.2.8, 1-8 (8pages)

(Source) Journal of the Inspia

지난회차 https://page.stibee.com/archives/107426

(Archive)

웹에서 보기 Web link

키워드: 챗GPT, 생성형AI, 글쓰기, 팩트체크, 퀄리티

1.머리말

2.‘어떤 글’들이 이슈인가?

3.(질문1) “틀려도 괜찮은가?” #팩트체크

4.(질문2) “긴 글이 좋은가?” #복붙의_역사 #양보다_질

5.(질문3) “누가 쓰든 상관없나?” #김스피st

6.맺음말

【1.머리말】

안녕하세요. 연구자님. 느릿하게 해찰하며 걷는 것을 좋아하는 김스피입니다.👤

2개월 전 출시된 오픈AI사의 ‘챗GPT’는 큰 충격을 주고 있습니다. 뉴스에서도 온통 이에 대한 이야기들이죠. 챗GPT가 감쪽같이 학교 과제를 해주어서 일부 학교에선 아예 이를 금지하기도 했고요. 순식간에 코드와 가사를 쓰고, 의사와 변호사 시험을 통과하고 맞춤법이 완벽한 글을 눈 깜빡할 사이에 써냅니다. 어떤 사람들은 “드디어 AI의 특이점1)이 왔다!”고 외치기도 했죠. 챗GPT는 런칭 불과 40일만에 1000만사용자를 모았고, 지난 1일 일부 유료화 방침을 내놓았습니다.(링크)

<fig.1> 오픈AI가 지난 11월부터 서비스를 시작한 챗GPT는 인스타그램, 유튜브, 틱톡 등을 훨씬 뛰어넘는 속도로 빠르게 이용자수를 늘려가고 있습니다.

그간 연구자님 가운데 챗GPT에 대해 다루어보면 좋겠다고 하신 분들이 많았는데요. 챗GPT가 ‘텍스트 생성 AI’인만큼 이와 관련된 분야는 실로 방대합니다만, 저는 글쓰는 김스피이기 때문에 주로 ‘글쓰기’에 초점을 맞추어 해찰을 해볼까 합니다.

조금 더 구체적으로는, “인스피아에 챗GPT를 활용할 수 있을까?” “(아직은) 아닌 것 같다”라는 응답을 얻기까지의 해찰의 궤적입니다.

당장 챗GPT4가 2023년 1분기 내 출시 예정(링크)이고, 구글 등 역시 발등에 불이 떨어져 당장 자체 내부 테스트, 개발 중인 AI를 대거 출시 예정인만큼(링크) 이런 생각은 향후 바뀔 수 있습니다.

즉 오늘의 레터 내용은 현시점에 국한한 제 나름의 해찰입니다만, 최대한 진심을 쏟아 질문을 던지고 영감을 얻은 레퍼런스들을 밝혀적어 연구자님들도 함께 각자의 자리에서 해찰을 하는 데 도움이 되실 수 있도록 얘기해보겠습니다.

1)특이점(singularity) = 미래학자 레이 커즈와일이 그의 저서 <특이점이 온다>에서 제시해 유명해진 개념입니다. 과학기술, 인공지능이 꾸준히 성장하다가 어느 순간엔 통상 법칙을 벗어나 기하급수적인 성장을 한다는 것인데요. 이 순간을 특이점이라고 부릅니다.

【2.‘어떤 글’들이 이슈인가?】

현재 챗GPT는 대중적으론 주로 ‘글쓰기’ 차원에서 큰 주목을 받고 있습니다.

우선 “왜?”라는 의문이 듭니다. 챗GPT와 유사한 AI 모델은 지금까지도 많았고, 이미 출시된지도 꽤 되었는데요. 챗GPT가 유독 난리인 이유는 이용자의 입장에서 오픈AI가 출시한 챗GPT가 써내는 글이 ‘진짜 사람같기’ 때문입니다. 사람 손길이 포함된 새로운 학습 방법의 영향이 큽니다. (링크)

챗GPT는 꽤 유려한 “글”을, 거의 모든 분야에 대해, 표절 없이2) 무제한으로 써준다는 부분이 많은 사람들을 흥분시켰습니다. 비즈니스용 메일 답장, 회의 발표 PPT, 학교용 숙제 에세이 등 뭐든지 척척박사죠. 요새 문해력 관련 논란이 많았는데, 챗GPT는 얼마나 똑똑한지 인간과는 달리 맞춤법을 틀리는 일도 거의 없습니다.

챗GPT 플랫폼에 접속해 다양한 대화를 나누다보면 정말로 나만의 SF 속 비서가 곁에 온 것 같은 기분이 들기도 합니다.

<fig.2> 챗GPT가 주제만 던져주면 에세이를 훌륭하게 써내서 학교 현장에선 발등에 불이 떨어졌습니다. 일부 학교에선 챗GPT 사용을 금지하기도 했죠. (왼쪽) <아이언맨> 시리즈의 로봇 비서 자비스. 출처 WSJ 영상 갈무리(링크)

저는 그간 다양한 챗GPT에 대한 기사들을 보며, 주로 ‘챗GPT 글쓰기’와 관련해 주목받는 글들의 특징을 취합해 보았습니다. 이는 다음과 같습니다.

1) 틀려도 크게 상관 없는 글(=그럴듯한)
2) 많은/길수록 좋은 글(=산출량이 많을수록 대체로 이득인)
3) 누가 쓰든 관계 없는 글(=형식이 정해져있는 글)

우선 1.은 사실관계를 틀려도 크게 문제가 없거나 혹은 학습자료로 거의 완벽한 데이터셋이 이미 확보되어 있는 글, 인간이 금방 확인해 바로잡을 수 있는 종류의 글입니다. 현재 버즈피드 등 몇몇 언론사들도 일부 생활 기사 등에 챗GPT 활용 결정을 발표하고있는데요(링크). 소설, 에세이 등 창작에도 영감을 제공하는 방식으로도 활용되고 있습니다.

2.에 대해선 챗GPT는 현재 블로그 등 ‘n잡 부업’이라는 키워드와 함께 올라오는 경우가 많습니다. 기존 블로그에 각종 정보, 홍보글을 올려두고 구글 애드센스를 부착하거나 혹은 상식에 대한 유튜브를 제작해 ‘콘텐츠 부업’을 하는 사람들이 많았는데요. 무한에 가까운 그럴듯한 글을 키워드만 넣어주면 뚝딱 만들어내는 (심지어 표절 위험도 없는) 챗GPT는 마치 퍼도퍼도 끝이 없이 금이 나오는 ‘화수분’처럼 여겨집니다.

3.의 경우는, 형식이 대체로 정해져있어서 누구나 약속을 익히면 무난히 쓸 수 있는 글들인데요. 예를 들면 비즈니스용 메일이나 보고서, 기사 도입부 등이 이에 해당합니다. 실제로 많은 언론들은 챗GPT가 이슈가되자 눈길을 끌어모으는 방법으로 일부 기사에 “여기까지는 챗GPT가 쓴 글이다”라는 표현을 넣곤 했죠.

최근 CNN의 간판 앵커 앤더슨 쿠퍼 역시 챗GPT에 대한 리포트를 하면서 도입부에 챗GPT가 작성한 텍스트를 활용하기도 했습니다.(링크) 그는 다소 멋쩍게 이렇게 덧붙였죠. “실은 지금 이 스튜디오에 있는 누가 쓰든 쓸 수 있었을 거예요.”

<fig.3> 앤더슨 쿠퍼는 "CNN의 앤더슨 쿠퍼가 스콧 갤러웨이 교수와 챗GPT에 대한 뉴스를 진행한다면 도입부를 어떻게 쓸까?"라는 질문을 넣었더니 나온 텍스트를 활용해 뉴스 도입부를 썼다고 말했습니다. 그가 이 뉴스에서 ChatGPT를 소개하면서 예로 든 글들은 소네트, 에세이, 뉴스도입부 등이었죠(왼쪽) 챗GPT를 만든 회사 openAI와의 협업으로 지난달부터 서비스되고 있는 셔터스톡의 자체 AI 이미지 생성기

위의 세가지 특징은 비단 텍스트(챗GPT 등) 뿐 아니라, 이미지나 음악 분야의 생성형 AI 창작물 역시 비슷합니다.

셔터스톡은 지난달 25일, 오픈AI의 이미지 생성 AI 프로그램인 DALL-E 2와 손을 잡고 아예 ‘자체 AI 이미지 생성기’(링크)를 도입하기도 했고요. 언론사들 가운데서도 AI 일러스트를 삽화로 활용하는 경우가 늘고 있습니다. 이 밖에도 게임 음악 등도 AI에 의해 크게 대체될 수 있다는 우려가 나오고 있는 상황입니다. 이런 이미지나 음악이야말로 누가 찍거나 그려도 별 상관 없고(③), 예술성과 책임감이 크게 요구되지 않으며(①) 생산량에 비례해 많은 수익(②)을 낼 수 있습니다.

그렇다면 저는 이 세가지 특징을 각각 뜯어보며, 챗GPT와 같은 텍스트 생성형 AI를 인스피아의 글쓰기에 왜 적용하기 어려운지에 대해 궁리해보겠습니다.

2)챗GPT 등 생성AI와 '표절'의 키워드 역시 향후 뜨거운 감자가 될 가능성이 높습니다. 기존엔 표절을 구분하는 중요한 요소 중 하나로 '의도성'을 꼽았는데, 기계엔 의도성이 없기 때문입니다. 또한 챗GPT는 생성형 모델로서, 중복 표현을 피해 표절(유사성) 테스트를 가뿐히 통과할 수 있지만 과연 모든 문맥을 변형했어도 핵심 아이디어는 그대로 기존의 텍스트를 베낀 글이 과연 표절이 아닌가?의 문제도 있습니다. 셔터스톡의 '자체 AI 이미지 생성기'의 경우 학습 데이터로 사용된 그림의 창작자에겐 일부 사용료를 지불한다는 방침입니다.(링크)

【3.(질문1) “틀려도 괜찮은가?” #팩트체크】

(응답1) “괜찮지 않다.”

연구자님은 챗GPT와 대화를 해보셨나요? 챗GPT와 대화를 하다 보면 마치 ‘척척박사 비서’와 대화를 하는 느낌입니다. 무슨 키워드를 물어보든 모르는 것이 없고요. 신뢰할 수 있는 정보만을 제공받는다는 느낌입니다. 문제는 그것들이 대부분 ‘그럴듯해보이는 아무말’이라는 점이죠.

실제 오픈AI 공식 블로그에도 챗GPT의 한계(링크)와 관련하여 첫번째 항목에서 이렇게 설명하고 있습니다.

“ChatGPT는 때때로 그럴듯하게 들리긴 하지만 부정확하거나 무의미한 답변을 작성한다. 다음과 같은 이유로 이 문제를 해결하는 것은 어렵다. (1) RL 훈련(*Reinforcement Learning 강화 학습·행동심리학 원리에 착안해, 주어진 조건에서 보상을 강화하는 방식의 기계 학습 방식) 중에는 현재 진실의 출처가 없다. (2) 모델을 더 신중하게 응답하도록 훈련하면 모델은 자신이 명확하게 응답할 수 있는 능력이 있는 질문에 대해서도 대답을 거부할 가능성이 있다...”

개리 마커스 뉴욕대 교수는 챗GPT가 ‘지식’ 프로그램이 아닌, ‘언어’ 프로그램이라는 데 집중합니다. 단어 뭉치를 학습해 그럴듯해 보이는 말을 지어낼 뿐 그 내용에 대한 가치 판단이나 진실성에는 아무런 관심이 없다는 것이죠. 마커스 교수는 말합니다.(링크)

“(챗GPT와 같은) 플랫폼들은 세계가 어떻게 작동하는지에 대한 모델이 아니라, 단어 연쇄(Sequence) 모델이다[...]실제로 세상과 그것이 작동하는 방식에 대해 추론하지 않는다. 따라서 그들이 말하는 바의 정확성은 어느 정도 확률의 문제가 된다.”

실제 저는 챗GPT에 과거 제가 인스피아에서 다루었던 주제들에 대한 책과 인용구를 뽑아달라고 부탁했습니다. 챗GPT는 순식간에 이런저런 책 제목과 인용구까지 완벽하게 뽑아냈습니다. 매우 인상적이었습니다.

단 한 가지 문제는 책 제목과 인용 내용이 상당수 엉터리였다는 것이었죠. 더 골치아픈 건 출처가 정확하지 않기 때문에 챗GPT가 말하는 내용의 진위 여부를 확인하려면 결국 제가 바닥부터 다시 검색을 해서 확인해야 한다는 것입니다. 기자 업무로 치면 동료 김곰돌씨와 함께 취재를 하는데, 김곰돌씨가 엄청 그럴듯한 취재일지를 A4용지 20장 분량으로 건넸는데 출처를 제대로 안써놔서 결국 이게 맞는지 체크조차 불가능한 상황입니다. 이럴 때 김곰돌씨가 뿌듯한 표정으로 “200장 후딱 더 써줄까?”라고 묻는다면 화난 표정으로 “필요 없어요”라고 말할 수 밖에 없을 것입니다.

문제는 챗GPT의 강점인 ‘그럴듯함’ 때문에 한층 더 사람들이 찰떡같이 믿어버린다는 것이죠. 보통 일반적인 사람들은 태연한 표정으로 유창하게 남에게 아무말대잔치를 하진 않으니까요.3)

저는 그간 챗GPT에게 글쓰기, 진위여부, 팩트체크 등과 관련된 질문을 여러번 다양한 각도에서 던져왔습니다만, 조금이라도 민감한 질문에 닿으면 항상 챗GPT의 말은 이렇게 시작했습니다.

“언어 AI 모델로서의 저는(As an AI language model)...”

챗GPT는 어떤 단어엔 맥락상 어떤 단어가 오면 ‘그럴듯할지’에 따라 단어를 고리사슬처럼 ‘착착’ 꿰어 배열할 수는 있지만, 그렇게 배열해낸 글이 사실일지에 대한 판단 능력은 없습니다. 또한 챗GPT는 시스템이 만들어낸 문장의 ‘알맹이’와 관련한 별도의 검색 및 검증 능력이 없습니다.

‘에이 그것쯤이야. 인간이 좀 재검증하면 되지’라고 생각할 수 있습니다. 실제로 AI와 인간의 협력을 강조하는 의견들은 이런 ‘조금 불완전한 부분’을 인간이 보완해서 시너지를 내자라고 주장합니다. 하지만 고퀄리티의 정보일수록 ‘그럴듯해보이는’ 것보다는 ‘팩트체크’ 쪽이 더 본질적입니다. 그렇다고 할 때 결국 인간이 본질적인 팩트체크를 도맡아야 한다고 하면 배와 배꼽의 문제를 떠올리게 되는 것입니다.

<fig.4>지난 5일 오픈AI 미라 무라티 최고기술책임자(CTO)는 TIME지와의 인터뷰(링크)에서 "챗GPT도 다른 AI 언어모델과 마찬가지로 사실을 지어낼 수 있다는 문제가 있다"고 경고했습니다(왼쪽) 닐 스티븐슨 <스노 크래시> 표지 이미지

고퀄리티 정보일수록 팩트체크는 굉장히 중요합니다. ’메타버스’라는 단어를 처음 만들어낸 소설 <스노 크래시>(1992)에는 이미 구현된 기술들과 구현되지 못한(않은) 기술들이 등장하는데요. 보통 옛날 SF를 읽을 땐 구현되지 않은 장면에 흥미를 느끼곤 합니다. 그것이 사람들의 긍정적인 희망과 현실 사이의 괴리를 보여준다고 생각하기 때문입니다.

이 책에서 인상깊게 봤던 대목은 주인공이 메타버스에서 ‘정보상 사이드잡’을 하는 대목이었습니다. 주인공인 히로 프로타고니스트는 바 옆자리에 앉은 사람들의 말을 건너 듣고, 그걸 녹음해서 ‘도서관(빅보드)’에 그 내용을 업로드해 돈을 법니다. ‘한 유명 영화감독이 바주카포가 쾅쾅 하는 장면을 신작에 넣고싶어한다’는 정보였는데요. 분명 시나리오 작가에겐 돈을 지불하고라도 듣고싶은 유용한 정보겠죠.

나중에 목소리를 변조한 후 해당 영화감독의 이름을 검색어로 달아 도서관에 자료로 올릴 작정이다. 그러면 인정을 받아보려는 시나리오 작가들이 백 명은 달려들어 해당 대화 파일을 조회하고 내용을 외울 때까지 반복해 들은 다음 히로에게 대가를 지급할 것이다. 그리고 몇 주도 지나지 않아 그 감독의 사무실에는 바주카포 장면으로 가득 찬 시나리오가 물밀듯 밀려들 것이다. 콰쾅!
-닐 스티븐슨, <스노 크래시1>

오늘날로 치면 ‘증권가 찌라시’가 이와 비슷할텐데요. 이런 정보 과금 모델이 불특정 다수를 향해 운영되는 서비스가 되는 게 어려운 이유는 정보에 대한 과금이 어렵다는 이유도 있지만, 동시에 플랫폼 관리자 차원에서, 소비자 차원에서 이 소식이 진실인지 검증할 수 있는 방법이 없기 때문입니다. 자칫하면 위조, 명예훼손 등 송사에 휘말릴 가능성이 높죠. 이 내용이 ‘콰쾅대는 영화를 만들고 싶어하는 영화감독’에 대한 내용 정도이니 그렇다쳐도, 만약 투자 호재 소식이라든지 어떤 장관의 입지가 불안하게 될 수준의 ‘정보‘라면 여전히 입에서 귀로만 전달되는 이너서클(inner circle) 구조입니다.

그만큼 믿을만한, 높은 가치의 정보는 옛날이나 지금이나 쉽게 얻을 수 없습니다. 사람이 직접 면밀하게 사람들을 만나 두루 맥락을 파악하고, 캐묻고, 기다리고, 확인하고, 최종적으로는 해당 정보에 대한 법률적 책임까지도 져야 하죠.

챗GPT의 경우 ‘텍스트’와 ‘정보’를 다루긴 하지만 반드시 리스크가 낮은, 인간이 반드시 따로 팩트를 체크해야 하는 수준의 정보를 전달합니다. 이는 뒤에서도 말하겠지만, 언어 생성형 AI인 챗GPT가 ‘개선해야 할 한계’라기보다는 애초에 챗GPT의 소관이 아닙니다. 챗GPT에 이런걸 묻는 건 마치 젓가락에게 ‘넌 왜 국물을 못 뜨니?’라고 묻는 것이나 마찬가지일 수 있습니다.

요약하자면, 언어생성형 AI인 챗GPT는 레퍼런스 제공이나 팩트체크 기능을 제공하지 않습니다.4) 하지만 대부분의 고퀄리티 정보는 글의 ‘껍데기’보다도 ‘알맹이’(팩트체크)가 중요합니다.

꼭 고퀄리티의 정보가 아니더라도(?), 만약 연구자님이 여기까지 레터를 열심히 읽었는데, 제가 “여러분 지금까지 한 말은 다 근거가 없습니다! 링크도 다 뻥이예요! 근데 꽤 그럴듯했죠?”라고 외치면 연구자님은 화가 날 것입니다. 그래서 저는 현재로선 챗GPT에 큰 관심이 없습니다.

3)Martin Potthast 외, 「The Dilemma of the Direct Answer」(2020) (링크)

4)8일 구글은 서치 기능을 추가한 LaMDA 기반의 인공지능 챗봇 '어프렌티스 바드'에 대한 프레젠테이션을 진행할 예정입니다(링크) 챗봇에 검색 기능이 덧붙는다해도 '검색이 되는 정보'의 범위가 어디까지일 것이며 그 가운데 유용한 정보가 얼마나 포함돼있을지, 알고리즘 우선순위 등의 문제가 지적되고 있습니다. 또한 아무리 챗봇이 서치엔진 결과를 공유한다고 하더라도 "검색으로 찾을 수 없는 정보"(아즈마 히로키·💌"검색이 데려가지 않는 세상")는 여전히 얻을 수 없다는 점은 바뀌지 않습니다.

【4.(질문2) “긴 글이 좋은가?” #복붙의_역사 #양보다_질】

(응답2) “길기만한 글이 좋은 것 같지는 않다.”

(응답2)의 내용은 (응답1)의 연장선상이라고 볼 수도 있겠는데요.

우리는 통상 ‘긴 글’을 정보가 많고 알찬 글이라고 생각해왔습니다. 그리고 챗GPT는 긴 글을 빠르게 많이 만들어내는 데 특화돼있습니다. 인간이 10시간짜리 교향곡을 쓰는 건 어렵지만, 생성형 AI는 100시간짜리 교향곡도 반복되는 프레이즈 없이 뚝딱 만들어낼 수 있듯요.

많은 사람들은 특히 챗GPT가 ‘그럴듯한 긴 글’을 뚝딱 만들어낼 수 있다는 점에 감동하고 있습니다. 옛날엔 문법에 맞고 정리된 긴 글을 쓰려면 한참이 걸렸는데 이젠 쉽게 쓸 수 있게 되었으니까요. 그렇게 각종 목적으로 (블로그 부업, 학교 에세이 등) 사람들은 챗GPT의 도움을 받아 긴 글을 많이 씁니다. 이 때문에 사람들은 챗GPT가 생산해낸 글이 무진장 늘어나 인터넷 생태계를 엉망으로 만들지 않을까 걱정합니다.

다만 이런 현상이 챗GPT가 몰고 온 최근의 문제만은 아닙니다. 이미 이런 지푸라기로 가득찬 빵빵한 베개같은 글들은 10년 넘게 인터넷의 글 생태계를 어지럽혀왔거든요. ‘복붙’이라는 신박한 방법을 통해서요.

<fig.5> 스택오버플로우에서 만우절 장난으로 만들었다가 실제 판매까지 이어진 'Ctrl/C/V'버튼만 있는 복붙 전용 키보드(왼쪽) 인기 배우 송중기의 결혼 관련 비슷한 기사들이 잔뜩 올라와있는 포털 뉴스창. 네이버 실시간 검색어가 있던 시절에도 이런식으로 비슷비슷한 복붙기사들은 넘쳐났습니다. Stackoverflow, 포털 화면 갈무리

인터넷을 통해 언제든 실시간으로 방대한 정보에 접근할 수 있게 되면서, 남의 글을 실시간으로 확인해 ‘복붙’하는게 너무 쉬워졌습니다. 이로 인해 인터넷 세계의 정보양은 기하급수적으로 늘어갔습니다. (이 때문에 과거 교수님들 가운데서는 꼭 에세이를 타이핑이 아닌 손으로 쓴 것만 받기도 했습니다. 아무래도 손으로 베껴쓰면 ‘복붙’보다는 남의 글을 그대로 베낄 가능성이 줄어들테니까요.)

이런 ‘복붙’ 생태계는 많은 언론사에도 타격을 주었습니다. 어떤 기사를 쓰든 순식간에 복제가 되면서 이 소모적인 경쟁에서 이기기 위해 그저 서로 ‘복붙’으로 더 많은, 더 길고 ‘그럴듯한’ 기사를 생산하게 되는 악순환이었죠. 독자들은 수많은 텍스트들 중 가치 있는 글이 뭔지 알 수 없게 되어버려서 화가 났습니다. 그러면서 인터넷의 텍스트 생태계는 ‘깨진 유리창’처럼 되고 말았죠.
이런 글들은 대체로 단지 클릭을 목적으로 할 뿐인, 직접 읽히는 것이 중요하지 않은 빵빵한 지푸라기 베개같은 글입니다. 복제하는 데 드는 수고가 직접 원고지로 쓰던 시절에 비해 확연히 줄어들었기 때문에 가능한 일이었죠. 사람들은 그래서 그냥 글을 안읽게 되었습니다.

챗GPT를 통해 이제 텍스트 생산을 ‘더 낮은 비용으로’ 무한대에 가깝게 할 수 있게 되었으니 인터넷 세상엔 신나는 별세계가 올까요? 저는 회의적입니다. 단지 ‘그럴듯하기만 한’ 지루한 글의 생산 비용이 예전보다 더 낮아져서 지루한 글이 예전보다 훨씬 더 많아지게 될 것 뿐이죠. 즉, 글을 많이 써내는 것이 개개인에겐 약간의 이득일지 몰라도 전체 생태계에는 그닥 좋은 영향을 미치지 않을 가능성이 높습니다. 안그래도 ‘정보의 홍수’인데 혼란은 더 가중되겠죠.

또한 긴 글은 어떤 경우엔 ‘자신감 부족’ 혹은 ‘무지를 그럴듯하게 눙치려는 의도’에 지나지 않기도 합니다.(이는 인간 필자의 경우에도 마찬가집니다) 구독자 139만여명의 TechLead 유튜브를 운영하는 - 전직 구글, 페이스북 프로그래머 Patrick Shyu는 최근 한 영상(링크)에서 이렇게 말합니다.

“인간 AI훈련사는 (챗GPT에) 긴 응답 모델을 제공하려는 경향이 있다. 왜냐면 긴 대답은 더 옳은 것처럼 보이기 때문이다. 심지어 간단하게 '응/아니'로 끝날 문제에 대해서도 말이다[...]그래서 챗GPT는 똑똑해보이기 위해 짧은 대답보다는 늘어지고 지루한(long-winded) 응답을 제공할 가능성이 높다[...]챗GPT는 모든 종류의 질문에 대해, 알든 모르든 일단 대답한다. 마치 우리 아빠처럼.”

저는 이 대목을 보며 챗GPT에 민감한 질문들을 제기했을 때 왠지 속 시원한 대답을 듣지 못했던 이유가 어렴풋이 이해가 되는 기분이었습니다. 난감한 문제에 대해 두루뭉술한 레퍼런스만 잔뜩 제공함으로써 일단 자리를 모면하는 것이죠.

예를 들어 “아빠가 좋아 엄마가 좋아?”라는 질문을 들었을 때, “아빠란 무엇인가” “엄마란 무엇인가”부터 시작해 두꺼운 백과사전을 줄줄 읽으면서 질문자를 도망가게 만들듯요. 그런데 저 질문의 의도에 맞는 핵심 응답은 사실 두 글자면 끝입니다.

<fig.6> 챗GPT의 한계에 대해 다양한 측면에서 설명하고 있는 Patrick Shyu(왼쪽) Axios는 어렵고 복잡한 정치 기사를 우선 '핵심만' 간결하게 제시해준 뒤, 더 깊게 읽고 싶은 사람들은 '깊게 읽기Go Deeper'를 눌러 더 읽는 방식의 모델을 도입해 큰 호응을 얻었습니다. 간결함과 전문기자들의 깊은 취재가 맞물린 모델이죠.(링크)

사람들이 무조건 더 많은 글, 더 길기만한 글을 원하지 않는다는 징조는 이미 챗GPT 이전부터 나타나고 있었습니다. 오늘날의 양식있는 독자들은 ‘양보다 질’을 원합니다.

사람들은 내가 읽을만한 가치가 있는 글, 어디서나 볼 수 있는 그저그런 지푸라기로 가득 채운 베개같은 글이 아닌 간결하게 핵심을 찌르고 영감을 주는 글을 원합니다. 이 때문에 국내에서도 ‘하루에 한편만 읽을 수 있는 콘텐츠 구독 서비스’가 주목을 모았고, 미국의 언론 악시오스는 핵심만 찌르는 짧고 쫀쫀한 요약으로 눈길을 모았죠. 앞으로도 한층 더 사람들은 집중해서 자신이 볼만한, 독창적이고 검증된 엑기스 정보를 모은 콘텐츠에 지갑을 열게 될 것입니다.

또한 긴 글일수록 저작권 침해, 오류의 위험성이 높고(Gary Marcus, “그들은 적은 양의 텍스트는 관리할 수 있을 것이다, 하지만 텍스트가 커지면 거기엔 더 큰 문제가 포함될 가능성이 높아진다”), 플랫폼의 저신뢰가 수익성에 엄청나 해가 되기 때문에 향후 추적 시스템, 생성형 AI로 양산된 ‘그럴듯하기만 한 오류’ 혹은 정크 메시지들을 적발하고 배제하는 시스템은 훨씬 정교해질 것입니다. 자동화된 블로그 수익화가 현재는 가능하지만 그런 모델은 아주 잠깐일 것입니다.4)

사족이 좀 길었습니다만, ‘긴 글이 무조건 좋은 글이 아니’라는 말은 새삼스러운 말도 아니고 앞으로도 더욱 그럴 것이라는 말을 하고 싶었습니다.

‘적당히 길기만한 글’이 필요한 건 ‘읽지 않을 사람’을 상대로 했을 때만입니다. 그런데 거꾸로 글을 읽지 않을 사람을 상대로 하는 글을 도구까지 써가며 열심히 만든다는 것 자체가 이상한 일입니다.

그렇기 때문에 글의 질과는 상관 없이 단지 글을 많이, 길게 쓸 수 있게 도와준다는 챗GPT의 이점은 아직까지는 제게는 그다지 큰 매력으로 다가오지 않았습니다.

4)플랫폼의 알고리즘은 콘텐츠 생산자들에게 엄청나게 큰 영향을 미칩니다. 2018년 페이스북의 알고리즘 변화(링크·공식 언론사 페이지 도달율 대폭 저하)는 당시 대부분의 언론사들에 엄청난 재앙이었습니다.

【5.(질문3) “누가 쓰든 상관없나?” #김스피st】

(응답3) “곤란하다.”

인스피아는 김스피 개인의 질문과 경험, 해찰이 큰 지분을 차지하고 있습니다. 즉 개인화된 글이라는 것이죠.

매 회차 인스피아에서 다루는 해찰들은 우선 제가 이런 ‘책과 글’들을 읽었기 때문에 쓸 수 있었던 글들입니다. 하지만 매번 인스피아에서 다룰 주제를 선정하고, 책을 다루는 과정은 ‘투입→산출’의 단순한 과정은 아닙니다.

어떤 콘텐츠를 주기적으로 생산하기 위해서는 항상 평소에 ‘안테나’를 세우며 텍스트를 볼 때마다 그것에 대한 나의 고민, 질문, 감상 등을 메모해서 모아놓아야 하죠. 거꾸로 그런 질문에 텍스트가 달라붙기도 하고요. 이런 해찰들이 모여 한 사람을 이룹니다. 거꾸로 생각해보자면 이런 ‘투입’이 없다면 그 사람의 생각을 온전히 나타낼 수 없겠죠.

같은 텍스트를 읽더라도 결코 주목하는 대목이 모두 같을 수 없습니다. 투입, 텍스트가 나를 통과하는 과정이 해찰입니다. 저는 포털 사이트보다도 늘상 제 독서노트의 많은 해찰들, 메모노트들을 뒤적이며 인스피아를 쓰고 있습니다.

<fig.7> 독일 사회학자 니클라스 루만의 제텔카스텐 메모. 그는 평소 엄청난 양의 개인화된 아이디어 메모들을 정리하는 습관을 가지고 있었습니다. 그가 죽고 나서도 활용되지 않은 메모들만 모아서 수권 분량의 유작이 나왔을 정돈데요. 여기서 과연 핵심은 '책쓰기'일까요? 아니면 '개인 메모'일까요? 개인의 아카이브가 과연 오픈소스 백과사전으로 대체될 수 있을까요?

제게 있어 챗GPT의 가장 큰 한계 중 하나는 사용자 개인이 필요에 따라 머신을 트레이닝 시킬 수 없다는 것이었습니다. 이하 챗GPT와의 대화를 간략하게 요약했습니다.

김스피: “나는 개인적인 글쓰기에 너를 활용하고 싶습니다. 내가 나의 데이터로 너를 교육할 수 있습니까?”
GPT: “언어머신으로서 저는 제공된 거대한 말뭉치에서 배울뿐, 사용자가 개인적인 교육을 하도록 할 수는 없습니다.”
김스피 : “비용 문제입니까? 개인 트레이닝을 통한 언어 모델에는 큰 돈이 들지만, 그런 개인화된 트레이닝에 대한 비용을 부담해야하는 것은 개인이니까요.”
GPT: “그렇습니다.”

확실히 미래에는 이런 형태의 비서AI가 나오거나 혹은 나름대로 커스텀할 수 있을 것이라는 생각이 들기도 합니다만. 챗GPT가 ‘말했’듯 어느정도 개인화된 트레이닝은 가능해도 이를 정교하게 맞춤형으로 구현하는 것은 굉장히 값이 비쌀 가능성이 높습니다.

하지만 ‘대체로 쓸만한’ 범용 AI란 과연 어디까지 효과적일 수 있을까요?

Wired의 초대편집장인 케빈 켈리는 책 <5000일 후의 세계>(2022)에서 “범용 AI는 존재하지 않는다”고 강조합니다. 제가 이 책에서 인상깊게 읽은 대목 일부를 인용해보겠습니다.

“나는 범용AI를 믿지 않으며 신화에 지나지 않는 이야기라고 생각한다. 이는 인간의 자기중심적인 발상 탓이며 지능에 대한 잘못된 이해에서 비롯되었다[...]우리가 범용의 신체를 갖고 있지 않은 것과 마찬가지다[...]지구상에 있는 모든 동물의 몸은 살아남기 위한 것으로 상당히 개별적이고 특이하다. 이러한 특성은 우리의 지능도 마찬가지다[...]그리고 앞으로 만들어지는 AI도 각각 단기능이 될 것이다. 물론 많은 일을 처리할 수 있는 범용적인 물건도 만들 수 있겠지만, 부엌에서 사용하는 조리기구처럼 칼이나 주걱 등의 기능을 모두 할 수 있는 기구를 만들었다고 해도 개개의 기능은 특별난 게 아니듯이 진정한 범용 AI가 아니다. 예컨대 AI가 더욱 똑똑해지면 주식 시장에 큰 영향을 미칠지도 모르지만 누구나 AI에 접속할 수 있게되면 그 효과는 상쇄될 것이다.”
-케빈 켈리, <5000일 후의 세계>(볼드 효과는 원문)

챗GPT는 굉장히 인상적인 기술입니다만, 챗GPT 역시 ‘생성Generate’에 특화된 ‘단기능 AI’라고 보아야 더 본질에 가까운 것은 아닐까 하는 생각입니다. 그리고 글쓰기란 본질적으로 ‘단기능’이 될 수 없는 작업이라는 생각이 듭니다.

물론 ‘단기능 AI’들을 글쓰기에 활용할 수는 있겠지만(AI는 아니지만 우리는 이미 많은 ‘기술’들을 글쓰기에 활용하고 있습니다. 대표적으로는 검색 엔진, 맞춤법 검사기 등이요), 남에게 읽히는 글쓰기를 하겠다는 생각이 있다면 글쓰기 작업 자체를 자동화하는 것은 별로 좋은 방법은 아닌 것으로 보입니다.

즉, 요약하자면 제가 현시점에 챗GPT 글쓰기에 대해 부정적인 이유는 이것이 지나치게 ‘누구에게나 만능처럼 보이기’ 때문입니다.

【6.맺음말】

인스피아는 ‘복붙’의 시대에 “읽을 수 있는 글, 읽을만한 가치가 있는 글, 읽는 재미가 있는 글”을 목표로 기획했습니다. 다소 불안정해도 스스로 질문을 던지고, 나의 경험을 기반으로 책을 읽고, 책의 핵심 내용이 아닌 주변 내용에서라도 영감을 얻어 엉뚱한 해찰을 해보자는 것이었죠.

그러다보니 사실 글을 ‘쓰는 것’ 자체는 크게 어렵지 않습니다.

매 회차마다 머리를 쥐어뜯게되는 이유는 대체로 마땅한 질문이 마음에 불붙어오지 않기 때문이었습니다. 책을 읽으면서 ‘걸려 넘어질만한’ 대목이 눈에 띄지 않거나요.

물론 향후 오늘 제가 다룬 문제들 가운데 일부는 보완된 모델이 곧 나올 것입니다. 그렇다고해도 이 시점에서 챗GPT에 대한 저의 해찰을 모호하게나마 남겨두는 것이 의미가 있을 것 같아서 제가 공부한 결과를 연구자님들과 공유합니다. 연구자님들도 각자의 위치와 분야에서 챗GPT에 대해 해찰한 내용을 아래 ‘편지보내기‘ 버튼을 통해 피드백을 공유해주시면 고맙겠습니다.

그리고 챗GPT를 한번 켜서 오늘 레터의 제목과 비슷한 “챗GPT를 글쓰기에 활용할 수 있을까?”라는 질문을 넣어보시길 권합니다. 적어도 오늘의 제 레터가 그 답변보다는 연구자님들께 불완전하나마 어떤 작은 영감의 조각이라도 제공드릴 수 있었다면 만족입니다.

✏️

“마치 스타트렉 같은 SF 영화에 나오는 것처럼 무엇이든 질문을 던지면 답을 주는 ‘척척박사’ 컴퓨터는 우리가 제공할 수 있는 것도 아니고 우리에게 필요한 것도 아니다[...]나는 모든 질문에 답하는 AI를 꿈꾸는 것 자체에 문제가 있다고 본다. 우리가 정보를 얻는 방식을 단순히 전문가에게 질문을 던지고 답을 얻어내는 것이라고 말하는 것은 우리를 무시하는 것이다.”-Emily M.Bender(링크)

※이번 회차는 최신 트렌드를 다루었기 때문에 주로 영상과 그곳에 달린 댓글, 기사 등에서 영감을 얻었습니다. 이하 제가 봤던 글이나 영상들 중 인상깊었던 것들을 간단히 소개합니다.

※아래 주요 레퍼런스들을 모아놓았기 때문에 이번 레터에선 '글 속 한문장'은 따로 적지 않도록 하겠습니다.

신문과 방송, 2023년 2월호 (PDF링크)

-강승식, 자연어처리와 트랜스포머 딥러닝 기술 이용해 인간 수준의 문장 생성 능력 갖춘 챗GPT
-김성우, 글쓰는 인공지능을 둘러싼 쟁점: 저자됨, 정체성, 글쓰기의 윤리
-구본권, 챗GPT가 기사 쓰는 시대 온다면 사실 검증자로서 언론 역할 더 중요해져

카와조에 아이, 윤재 옮김, 『게으른 족제비와 말을 알아듣는 로봇』, 니케북스, 2019.

-언어학습모델에 대한 기초적인 지식을 알기쉽게 풀어놓은 책입니다. 오늘 다룬 내용과 밀접한 관련은 없지만, 언어학습모델 AI의 기본적인 개념을 잡기 위해 읽었습니다. 기계가 말을 알아 듣고, 대화를 나누고, 질문에 바르게 답하고, 말과 바깥 세계를 연결하게 하는 등의 과정을 재미난 우화를 읽으며 살펴볼 수 있습니다.

(영상 등)

<챗GPT 개괄>
▲언더스탠딩, 챗GPT의 원리는 이겁니다 (솔트룩스 이경일 대표), 62min (링크)

▲CNBC, Why OpenAI’s ChatGPT Is Such A Big Deal, 12min(링크)

▲DW News, Could ChatGPT and other AI Chatbots replace human jobs | DW Business Special, 16min (링크)

▲CNN, Hear professor's prediction on the future of AI tools, 6min (링크)

<인터뷰 등>
▲CNN,He loves artificial intelligence. Hear why he is issuing a warning about ChatGPT,5min(링크)

▲NYT, THE EZRA KLEIN SHOW Transcript: Ezra Klein Interviews Gary Marcus (팟캐/기사링크)

-VOX 편집장 출신의 젊은 칼럼니스트 에즈라 클라인이 게리 마커스 뉴욕대 교수를 인터뷰한 팟캐스트입니다. 해리 프랭크퍼트의 '개소리(Bullshit)'과 '모작' 등이 주요 키워드입니다. 전반적으로 진보적인 기술비관론자의 논지를 신랄하게, 그리고 잘 요약해서 보여주는 느낌입니다.

▲Edukitchen, Chomsky on ChatGPT, Education, Russia and the unvaccinated, 66min(링크)
-세계적인 언어학자 노엄 촘스키의 챗GPT 관련 인터뷰입니다. 챗GPT에 대한 내용은 주로 전반부에 있고, 이후 미국 교육 시스템, 정책 비판으로 흘러갑니다. 주로 챗GPT 파트도 교육 차원에서 다뤄지고 있습니다. 챗GPT로 인해 교육현장이 '붕괴'된다는 것은 애초에 학교에서 학생들의 배우고자하는 욕구를 제대로 북돋지 못했기 때문이며, 이는 챗GPT의 문제가 아닌 교육 시스템의 문제라는 일침이 인상적입니다.

▲Ben Shapiro, Ben Shapiro Breaks AI Chatbot (with Facts & Logic), 15min (링크)
-미국의 젊은 우파 스타 논객 벤 샤피로와 AI 챗봇의 티키타카를 볼 수 있는 영상입니다. 챗봇이 과연 '중립적'일 수 있는가에 대한 여러 생각을 하게 만듭니다. (+그리고 만약 '중립적'이어 보인다면, 과연 그것은 유용한 정보를 우리에게 주고 있는 것일까?)

▲CNN, Plagiarism expert warns new AI app will be a game changer for cheaters, 4min(링크)

Greylock, OpenAI CEO Sam Altman | AI for the Next Era, 35min (링크)

-오픈AI CEO 샘 알트먼의 대담입니다. 말이 잘 안들리고 중언부언하는 부분이 많아서 누가 요약 좀 안해주나...싶어하며 봤는데, 재밌게도 댓글에 누군가가 유튜브 스크립트를 긁어서 챗GPT로 요약해놓은 댓글을 달아놨습니다. 제가 인스피아 준비하면서 긴 인터뷰를 자주 보는 편인데, 이 기능(?)은 앞으로도 아마 종종 활용할 듯 싶습니다.

▲Forward with Andrew Yang, Why Google is freaking out about ChatGPT | Stephen Marche + Andrew Yang | Forward Podcast, 54min (링크)

-앤드루 양이 스티븐 마르셰 교수를 인터뷰한 내용입니다. 챗GPT 이후 19세기 옥스퍼드에서처럼 에세이 시험 대신 구두 평가를 진행하고 있다는 점이 인상적이었습니다.

▲TechLead, ChatGPT is so dumb... Fooled by Patterns., 14min (링크)
-본문에도 링크를 걸었던 짧은 영상인데요. 전 페이스북, 구글 프로그래머 출신 139만 유튜버가 비판적인 관점에서 챗GPT를 이모저모 까는 내용입니다. 이런저런 영감을 얻을 수 있었습니다.

👥지난 회차의 반응

지난 회차(‘‘외로움 산업’의 소비자 : 함께, 외로운 사람들’)에 대한 연구자님들의 반응을 모아 소개합니다. 편지로 다양한 의견을 보내주셔서 감사합니다. 아래 버튼을 누르면 연구자님들의 반응을 읽을 수 있습니다.

👥지난 회차의 반응 및 피드백

1. 오늘 레터는 어떠셨나요? 아래 ‘💌편지보내기’ 버튼을 눌러서 오늘 레터에 대한 감상이나 질문 등을 보내주세요. 간단한 한줄 감상도 좋고, 연구자님이 떠올리신 독특한 해찰거리도 좋습니다 :) 레터를 통해서 보내주시는 작은 격려와 의견들이 레터를 쓰는 데 큰 힘이 됩니다. 흥미로운 해찰은 레터를 통해 함께 공유하도록 하겠습니다.

인스피아에서 차후 다뤄볼만한 주제나 좋은 콘텐츠 등의 추천도 감사히 받고 있습니다.

1.혹시 지난 회차 가운데서 '아, 이 회차에서 이 책(혹은 영화 등)을 다뤘었으면 좋았을텐데, 아깝다!'라는 생각이 드신다면 지난 회차의 주제에 대한 책이라도 추천해주시면 검토 후 레터에서 공유하도록 하겠습니다. 신간도 구간도 상관 없습니다. 회차명과 책 이름, 그리고 짤막한 추천 이유를 적어서 아래 '💌편지 보내기' 버튼을 통해 보내주세요. 지난 회차의 레터 내용은 아카이브 페이지(💬링크)를 참조해주세요.

SNS나 커뮤니티 등을 통해 주변에 레터를 추천해주시면 창작에 큰 힘이 됩니다. 친구에게 레터를 소개해주시려면 '구독하기' 버튼을 눌러 나오는 주소를 복사 붙여넣기 하시면 됩니다.

오늘도 레터를 읽어주셔서 고맙습니다. 다음주에 뵙겠습니다.👥

🌼구독하기

💌편지 보내기

👥레터 소개 및 피드백 페이지

인스피아INSPIA

khnewsletterkh@gmail.com

수신거부 Unsubscribe