쏟아지는 AI 뉴스를 바라보는 세 가지 시선
지금을 읽고 싶은 사람들의 미디어 이야기, 어거스트

안녕하세요! 에디터 찬비입니다.


요즘의 따뜻한 날씨 잘 만끽하고 계신가요? 저는 올 상반기 목표인 운전을 위해서 지난 2주간 운전 연수를 마치고 일요일에는 고속도로를 뛰고 왔어요. 벌써 1분기가 지난 지금, 여러분은 어떤 마음으로 봄을 맞이하고 있으신지 궁금합니다.

오늘은 1월에 발행한 올해 주목할 기술은 AI? (feat. 챗GPT) 레터의 속편입니다! 최근 일론 머스크가 서명했다는 것으로 이슈가 된 'AI 실험을 일시 중단하자'는 공개서한과 함께 생각해볼 만한 아티클 3개를 추천해보았어요. 쏟아지는 AI 관련 뉴스를 흘려보내기만 하셨다면, 멈춰서서 한 번쯤 생각해보는 시간이 되었으면 좋겠습니다.
👋 오늘의 에디터 : 찬비
운전 이거이거 쉽지 않네요 🚘
오늘의 이야기
1. 여러분 AI 개발을 일시 중단해봅시다
2. 챗지피티가 정말 그렇게 대단할까요?
3. 두려움과 잠재성을 공평하게 바라보자
4. AI는 우리의 상상보다 더 이상할 것이다

여러분 AI 개발을 일시 중단해봅시다

3월은 휘몰아치는 AI의 달이었어요. 지난 달 14일, 챗지피티를 공개해 화제가 되었던 오픈AI는 가장 최신 버전의 AI 모델인 GPT-4를 출시했습니다. GPT-4는 미국 변호사 시험이나 생물 올림피아드, AP와 SAT 등 다양한 시험에서 우수한 성적을 얻었다고 하고요, 이전의 챗지피티보다 좀 더 안전을 기했다고 해요. 아직 공개되지 않은 기능이지만, 손으로 한 스케치를 웹사이트로 구현하는 것까지 해냈다고도 합니다.


그리고 일주일 뒤인 21일, 구글은 새로운 AI 챗봇인 Bard(이하 바드)를 미국과 영국의 제한된 사람들에게 공개했어요. 구글은 2015년부터 바드를 계속 개발해왔음에도 신중하게 공개 시기를 조정하고 있었는데요, 이번 챗지피티의 공개로 공개 시기를 앞당겼다는 분석이 많아요. 바드에 대한 반응은 폭발적이진 않았는데요, 그럼에도 구글의 CEO 순다 피차이는 뉴욕타임스 팟캐스트 하드포크에서 구글의 다양한 부분에 바드를 도입할 것이 기대된다고 밝히기도 했어요.

아쉽게도 아직 한국에선 바드를 써볼 수 없대요 (출처: Bard)  

피차이는 같은 팟캐스트에서 빠르게 공개해야 한다고 이야기하는 쪽과 기술 공개에 신중해야 한다는 쪽 사이에서 위플래시와 같은 느낌을 받는다고도 이야기했는데요, 현재 테크 쪽에서는 AI 흐름을 잡을 수 있도록 빠르게 공개해야 한다는 흐름이 있다고 해요. 신뢰할 수 있는 AI(Responsible AI)를 만들고자 하는 팀과 학계에서는 이런 현상에 대해 우려를 표하고 있습니다.


비슷한 시기에 미국 비영리단체 ‘삶의미래연구소'(FLI)는 ‘거대 AI 개발을 일시 중단하자'라는 제목의 공개서한을 발표했습니다. 이 서한에서는 ‘GPT-4보다 강력한 모델에 대한 AI 시스템 개발을 적어도 6개월간 중단하자’며, ‘일시 중단하는 동안 AI 랩과 독립적인 전문가들이 외부 전문가의 감독하에 ‘고급 AI 설계 및 개발을 위한 프로토콜'을 공동으로 구현해야 한다’는 내용이 담겼습니다.


서명했다고 공개된 사람 중 실제로는 서명하지 않은 것으로 밝혀진 사람들도 있었고, FLI가 일론 머스크의 재정 지원을 받은 것으로 밝혀지기도 했으며, 서명한 사람 중에서는 실리콘 밸리 기술 엘리트들이 지지하는 종교의 일종인 장기주의(longtermism)와 관련된 사람들도 많다고 하지만! 챗지피티 이후로 다양한 AI 연구소 및 테크 기업들이 AI 제품 및 서비스를 경쟁적으로 공개하고 있는 이 상황에서 어떤 식으로든 안전을 도모할 수 있는 제재 혹은 규제들이 필요하다는 것은 적절한 것 같습니다.

현재의 AI 언어 모델의 이상한 특징 중 하나는 연구원들이 예상하지 못한 행동을 하거나 프로그램되지 않은 스킬을 알게 된다는 거라고 해요. 이런 것들을 '창발적 행동(emergent behavior)'라고 한다고 하는데요, GPT-4를 공개하기 전에도 오픈AI 내 안전 리서치 그룹에서 다양한 위험한 답변과 행동들을 제한한 것으로 알려졌어요. 주방에서 쉽게 구할 수 있는 재료로 위험한 화학물질을 만드는 법이나 무허가 총기를 온라인으로 구할 수 있는 방법을 요청했을 때 아주 쉽게 답변했다고 해요. 모델을 공개하기 전 수많은 테스트를 했다고 해도, 분명 짚어내지 못한 문제들이 있을테니까요.

유럽에서는 벌써부터 AI를 제재할 수 있는 법 제정을 준비 중이라고 하고, 이탈리아에서는 일시적으로 챗지피티 사용을 막기도 해요. 이렇듯 AI에 대한 하입으로 많은 것이 빠르게 변하고 있는 것 같네요.

그렇기 때문에 AI에 대해 열광하거나 걱정하기 전, AI를 어떻게 바라보면 좋을지에 대한 생각이 정립되면 좋겠다고 생각했습니다. 아래의 세 개 아티클은 각각 굉장히 다른 시선으로 AI를 바라보고 있는데요, 원문까지 읽어보시고 함께 생각해보면 좋을 것 같아서 추천해보았습니다.

챗지피티가 정말 그렇게 대단할까요?

(출처: New Yorker)  
 ChatGPT is a Blurry JPEG of the Web은 SF 작가인 테드 창의 뉴요커 기고문으로, 챗지피티가 중요한 기술 진보라고 극찬하는 사람들에게 한 번쯤 멈춰 더 생각해보라는 신중한 태도를 담고 있어요. 글은 2013년 제록스 복사기가 사용했던 손실 압축방식에 대한 일화로 시작합니다. 한 독일 건설사에서 제록스 복합기로 설계도를 인쇄할 때, 설계 시에는 크기가 각각 달랐던 방이 모두 같은 크기의 정사각형으로 인쇄가 되어버린 거예요. 이는 제록스 복사기가 비슷한 형태의 도형을 한 가지로 대체하는 방식으로 압축하여 프린트하도록 했기 때문이었는데요, 2014년에 이를 보완하는 패치를 배포했다고 합니다.

손실 압축이란 말 그대로, 압축 과정에서 원본에서의 정보가 일부 손실되는 압축 방식이에요. 그리고 아시다시피 이 아티클 제목에 있는 JPEG은 이미지 손실 압축 방식의 하나예요. jpg 확장자의 이미지를 크게 확대했을 때 화질이 떨어지는 경험을 다들 한 번쯤은 해보셨을 텐데요, ‘손실'이 있는 압축방식이기 때문에 전반적인 느낌만 비슷할 뿐 실제로 세부적으로 바라봤을 때는 원본 파일과 차이가 있을 수밖에 없습니다. 창은 JPEG처럼 챗지피티가 웹 텍스트에 대해 손실 압축을 한 형태에 불과하다고 이야기해요. 모든 디테일을 다 챙기지 못하기 때문에 어떤 질문엔 올바른 답변을, 어떤 질문에는 그럴듯한 오답을 한다고요.


JPEG은 이미지 형식이기 때문에 화질이 깨지는 것을 눈으로 확인하기 쉬운데요, 챗지피티는 텍스트 형식이기 때문에 이 부분을 확인하기가 어려워요. 거기에 챗지피티는 웹의 텍스트를 그대로 전달하는 것이 아니라 단어를 재구성해서 이야기하기 때문에 마치 챗지피티가 이해했다는 인상을 줍니다. 실제론 이해한 것이 아닌데도요. 챗지피티는 ‘공급이 낮다'가 ‘수요가 오른다'와 함께 자주 언급되면 둘이 관련이 있다는 것을 파악할 뿐, 경제학에서의 수요와 공급의 법칙을 완벽하게 이해한 건 아니거든요. 만약 수요와 공급의 법칙을 완벽하게 이해할 때에서야 챗지피티가 관련 웹 텍스트를 모두 대체할 수 있을 만큼 ‘무손실 압축'을 해냈다고 볼 수 있게 되는 거겠죠.


2월 초에 발행된 아티클이라 이미 많은 곳에서 언급되었는데요, 여기저기에서 동의와 비판의 이야기를 많이 해주셨더라고요. 특히 원문의 마지막 질문은 여러 가지 울림을 줍니다.


‘So just how much use is a blurry jpeg, when you still have the original?’ 

우리가 원본을 아직 볼 수 있는데, 흐린 JPEG 이미지가 얼마나 쓸모가 있을까?


창은 원본에서 훨씬 더 풍부한 정보를 얻을 수 있는 현재 상황에서 챗지피티가 유용할 수 있을까?를 의미하고 던진 질문인 것으로 보여요. 저는 아직 챗지피티가 나아가야 할 길이 멀다는 생각이 듦과 동시에 우리가 원본 파일이 있음에도 JPEG 파일을 쓰듯이 기술을 어떻게 쓰느냐에 따라서 유용성은 각자에게 다를 수 있겠다 싶더라고요. ‘AI는 모든 걸 가능케 한다'는 식의 만능주의는 지양해야겠지만요.


대신 ‘챗지피티로 작문의 시작점 도움을 받을 수 있는가?'에 대한 이야기는 마음에 많이 와닿았어요. 창은 많은 작가가 오리지널한(혹은 대단한) 글을 쓰기 전까지 매우 진부한 이야기들을 많이 쓴다고 이야기합니다. 그런데 이 진부한 이야기를 쓰는 과정은 쓸모없는 시간의 허비가 아니라, 더 좋은 글을 쓰기 위한 발판이 되기도 합니다. 또한 오리지널한 아이디어가 있더라도 글 퀄리티가 별로여서 고통받을 때도 있는데요, 오랜 시간 퇴고하면서 더 좋은 단어와 문장을 찾아가는 것이 더 좋은 글을 만들어준다고요. 글을 쓰면서 생각이 정리되기도 하고요. 과연 진부한 아이디어를 담은 시작점에서 좋은 글을 쓸 수 있는지 잘 모르겠다고 이야기합니다. 이는 어쩌면 최근 많은 분들이 강조한 질문의 중요성'과도 연결될 것 같아요. 기술을 잘 활용하는 것이 결국 나의 오리지널한 아이디어에서부터 출발할 수도 있다는 거죠.


아티클에 대해 리서치하면서 썸원레터에서 발행한 노안주 번역가의 번역본을 발견했는데요, 한글로 읽는 게 편하신 분들을 위해 링크를 달아두겠습니다.

두려움과 잠재성을 공평하게 바라보자

(출처: GatesNotes)  

챗지피티 및 GPT-4 개발사 오픈AI와 긴밀한 관계인 MS의 창업자인 빌 게이츠의 글, The Age of AI has begun 입니다. 첫 번째 문장이 아무 임팩트 있는데요 ‘내 인생에서 혁명적이라고 생각한 기술 시연은 두 번 있었다.’ 한 번은 GUI였고 두 번째는 AI였다고 해요. 현재 자선사업에 매진하고 있기 때문에 AI 기술이 어떻게 전 세계의 가난한 아이들을 구하고 좀 더 공평해질 수 있을지에 대해서 중점적으로 이야기합니다. 항상 느끼지만, 게이츠의 글은 매우 긍정적이에요. 위의 창의 글을 읽고 읽는다면 더더욱 그렇게 느껴질 거예요.


마지막 부분에서 게이츠는 ‘어차피 AI에 대한 공공 담론이 당분간은 많이 이루어질 것'이라고 하며 이런 대화를 할 때 세 가지 원칙에 주의해서 이야기하면 좋겠다고 이야기해요.


  1. AI의 부정적인 면에 대한 두려움과 사람들의 삶을 개선할 수 있는 면을 함께 보려고 노력할 것. 새로운 기술이 많은 능력을 지닌 만큼 너무 두려움에만 매몰되진 말자는 의미로 받아들였어요.
  2. 시장의 힘으로는 AI 제품과 서비스가 가난한 사람들을 돕게 만들 수 없기 때문에, 정부와 자선사업이 나서서 AI를 활용해 가장 큰 문제(즉, 전 세계의 보건과 교육)을 해결할 수 있도록 할 것.
  3. AI의 발전은 이제 시작점에 있다는 것을 받아들일 것. 지금의 한계는 얼마 지나 사라질 수도 있으니까요.


저는 항상 긍정적인 것보다 부정적인 것에 주목하게 되더라고요. 게이츠의 원칙을 보면서 조금 더 입체적으로 생각해보는 게 중요하겠다고 다시 한번 다짐하게 되었어요. 3번에 대한 이야기가 더 와닿았던 것이, 창의 글에서 챗지피티는 다섯 자리 숫자의 사칙연산에 오류가 많다고 이야기한 부분이 있는데, 지금은 전혀 오류가 없다고 하네요! 기술은 정말 빠르게 발전할 수 있고, 그렇다면 빠르게 한계와 방향성을 잡는 것이 더 중요할 수도 있겠습니다.

AI는 우리 상상보다 더 이상할 것이다

(출처: “Artificial intelligence as imagined by Samuel Madden.” Bing Image Creator. (Semafor))

위 둘과 또 조금은 다른 방향의 아티클인데요, 짧지만 재미있었어요. Semafor에서 발행된 AI will be weirder than we can imagine 입니다.


1733년 새뮤얼 매든이라는 한 아일랜드 성직자가 1733년에 출판한 책 ⟪20세기 회고록(Memoirs of the Twentieth Century)⟫은 1997년에서 쓴 편지가 발견되는 형식의 사변 소설이라고 해요. 무려 250년이나 지난 미래를 매든은 어떻게 상상했을까요? 재미있게도 매든이 생각한 1997년에서 기술적인 진보는 거의 없었다고 해요. 가장 큰 메시지는 가톨릭교회가 세계의 대부분을 통제할 수 있다는 것이었지만, 실제의 1997년은 1733년엔 상상할 수 없었을 정도로 많은 일들이 일어났죠.


최근 AI 관련 이슈는 뉴스를 뒤덮으면서 검색엔진이나 코딩 방식, 예술까지도 광범위하게 영향을 미치고 있어요. 허위 정보에 기반한 가짜뉴스를 유포하기도 하고요. 하지만 아마도 미래의 AI는 현재 우리가 예측하고 걱정하는 것보다 훨씬 더 이상할 거예요. 아마 미래의 우리는 ‘2023년에 챗지피티가 나왔을 때 별것도 아닌 걱정을 했더랬다~’ 라고 얘기하고 있을지도 모른다는 거죠. 그렇다면 지금 우리가 이야기하는 AI 기술의 한계와 두려움을 조금 더 확장해 생각할 필요가 있겠다는 요지의 이야기입니다.


지금의 뉴스들을 따라가다 보면 이 AI에 대한 열광(hype)과 두려움이 동시에 생길 수밖에 없을 것 같아요. 저 역시도 마찬가지인데요, 가끔은 멈춰서 생각해보고 상상해보고 하면 좋을 것 같다는 생각이 들더라고요. 10년 뒤, 20년 뒤 우리는 AI를 어떻게 활용하고 있을까요? 어쩌면 스마트폰이 우리 신체의 일부처럼 느껴질 만큼 필수적으로 변한 것처럼, AI란 말 자체를 쓰지 않을 정도로 삶에 녹아버릴지도요.

 💭  오늘의 콘텐츠 추천

돌돌콩 | 최선을 다했지만 실패한 당신에게 들려주고픈 이야기

에디터 <찬비>의 코멘트

제가 좋아하는 유튜버의 인터뷰 콘텐츠를 추천해보려 합니다 ❤️ 저는 코로나 시절 미라클모닝으로 유튜버 돌돌콩님을 알게 되었는데요, 미라클모닝을 하게 되진 않았지만(^^) 자신을 끊임없이 돌아보고 반성하면서도 자신만의 속도로 앞으로 나아가는 것이 멋져서 좋아하게 되었어요. 오늘의 실패가 언젠가의 성공으로 돌아올 것이라는 메시지가 이 레터를 읽는 분의 하루를 조금 더 낫게 해주기를.

☕️ 오늘의 레터가 좋았다면 커피값 후원하기
💌 오늘의 레터를 피드백해주세요! 
💜  어거스트 구독하 : 어거스트 구독 링크를 복사해 친구들에게 알려주세요!
💌  협업문의  augustletter08@gmail.com
Edited by  Zoe • 한새벽 • 구현모 • 후니 • 찬비 • 구운김 • 식스틴 • 나나
Copyright © AUGUST All rights reserved. 수신거부