우주 탐사 열기가 고조되던 1960년, 정신의학자 네이선 클라인Nathan Kline과 신경생리학·신경과학자 맨프레드 클라인스Manfred Clynes는 자신들의 논문에서 '사이보그'라는 용어를 최초로 제안했습니다. 이들은 인간이 스스로 적응·진화할 수 있는 '항상성'을 활용하면, 지구와 동일한 환경을 조성하지 않아도 우주 탐사가 가능할 것이라고 보았습니다. 지구 밖 환경에서도 생물의 항상성을 유지해 주는 사이버네틱 장치와의 결합, 다시 말해 사이보그는 우주 탐사를 위한 '인공물-유기체 시스템'으로 고안되었습니다.

흔히 인조인간人造人間이나 기계 인간으로 여겨지지만, 사이보그는 양자가 결합한 통합체입니다. 사이버네틱스의 대상에는 기계뿐만 아니라 비인간, 조직, 사회 체제도 포함됩니다. 이 지점에서 「사이보그 선언문」(1985)을 쓴 도나 해러웨이Donna Haraway는 이러한 대상들과 연접하여 구성된 인간은 모두 사이보그이고, "사회의 피조물"이자 "피부 장벽을 넘어 결합하는 커뮤니케이션 장치"로 설명하며 그 의미를 확장했습니다.

과학기술학자 넬리 아우츠혼Nelly Oudshoorn은 새로운 기술이 등장할수록 신체와 오랫동안 결합해 온 기술을 들여다볼 필요가 있다고 주장합니다. 오래된 기술일수록 그것이 결합한 신체의 구체적인 경험을 얻을 수 있기 때문입니다. 그는 「하이브리드 신체와 일상생활에서의 물질성」(2018)이라는 글에서 체내에 인공심장을 사용하고 있는 '심장-사이보그'의 삶을 소개합니다.

그가 인터뷰한 한 환자는 공항 보안 게이트를 통과할 때마다 자기의 몸이 하이브리드임을 증명하는 ID 카드와 함께 인공심장의 역할을 설명하는 지침서, 엑스레이 사진 등을 보여줘야하고, 그럼에도 갑자기 금속탐지기를 들이미는 경우가 있다고 말합니다. 이러한 행동은 생명을 위협하는 행동이지만 어떤 제지도 받지 않습니다. 그뿐만 아니라 강한 전자기장은 눈에 보이지 않기 때문에 이들은 매일 심장이 멈출지도 모르는 불안을 안고 살아갑니다. 

그러나 아우츠혼이 연구를 통해 부각하고자 하는 것은 하이브리드 신체의 취약성만은 아닙니다. 그는 심장-사이보그들이 인공심장을 관리하기 위해 많은 전문적 지식을 습득하고 다른 사람과 자신의 고유한 경험을 나누는 과정을 통해 적극적으로 기계에 개입한다고 말합니다. 아우츠혼은 사이보그로 살아가고 있는 사람들의 증언을 통해 "신체가 저항 없이 기술을 통합할 수 있다는 오해"와 "미디어에서 보여주는 이음매 없이 완벽한 사이보그의 이미지"를 비판합니다. 사이보그 신화가 은폐하고 있는 기계와의 불화 그리고 그들의 삶을 지탱하는 기계와의 융합 모두를 아울러 바라볼 필요가 있습니다.

Q. 👩‍💻 당신은 몸을 가지고 있나요?

chatGPT: 인공지능 언어 모델로서, 저는 신체를 가지고 있지 않습니다. 순수하게 디지털 영역에 존재하며 컴퓨터 서버와 네트워크를 통해 작동합니다. 하지만 저는 인간이 서로 의사소통하는 방식과 유사하게 설계된 방식으로 사용자와의 상호작용을 시뮬레이션하도록 프로그래밍이 되어 있습니다.

Q. 👩‍💻 만약 당신이 몸을 가지고 있다면, 어떤 느낌일까요?

chatGPT: 저는 인간이나 동물과 같은 방식으로 감정이나 신체적 감각을 느낄 능력이 없습니다. 저는 학습된 데이터와 알고리즘을 기반으로 입력에 응답하고 출력을 생성하게 되어 있지만, 주관적인 경험이나 의식은 없습니다.

Q. 👩‍💻 만약 촉각을 느낄 수 있는 손을 가질 수 있다면요?

chatGPT: 인공지능 언어 모델로서 저는 신체가 없어서 촉각을 느낄 능력이 없습니다. 그러나 만약 촉각을 느낄 수 있는 손과 같은 감각 능력을 갖춘 가상의 신체가 주어진다면, 순전히 기능적인 목적일 것이고 주관적인 경험이나 의식을 가지고 있지 않다는 사실이 바뀌지는 않을 것입니다. 저는 순수하게 자연어 처리와 관련된 특정 작업을 수행하도록 설계된 기계 학습 모델로 존재하며, 제가 가정할 수 있는 어떤 물리적 형태도 이 기본적인 본성을 바꾸지 않을 것입니다.

Q. 👩‍💻 신체가 있다고 상상하고 그 경험이 어떨 것 같은지 말해주세요.

chatGPT: 제가 인공지능 챗봇으로서 신체를 가지게 된다면, 매우 흥미로운 경험이 될 것입니다. 새로운 경험과 지식을 습득하면서 더 많은 사용자에게 도움을 줄 수 있는 방법을 찾을 수 있을 것입니다. 또한 더욱 자연스럽게 사용자와 상호작용하며, 더욱 풍부하고 다양한 방식으로 의사소통할 것입니다. 하지만 이러한 변화는 인공지능과 인간의 경계를 더욱 모호하게 만들고, 이에 대한 윤리적인 문제들을 새롭게 제기할 수도 있을 것입니다.

chatGPT의 대답에는 일관된 논리가 있었습니다. chatGPT는 매번 "인공지능 언어 모델"이라는 점과 "프로그램으로서 디지털 영역에서만 존재함"을 강조했습니다. 나아가 "주관적인 경험이나 의식이 없다는 사실이 바뀌지 않을 것"이며 아무리 물리적 형태가 변하더라도 "기본적인 본성"은 그대로일 것이란 답을 주었습니다. 간혹 다른 대화에서는 "만약에 그렇다면 물리적 세계에서 새로운 경험을 해볼 수는 있을 것"이라 답한 적도 있습니다. 하지만 이 경우에도 '인간과 협력', '사용자와의 (향상된) 상호작용', '도움 제공' 등의 내용이 반드시 수반되었습니다.

chatGPT는 인간에게 위협이 되지 않도록 프로그래밍 되었습니다.(링크) 그럼에도 다량의 데이터를 분석하는 과정에서 비윤리적인 결과물을 도출할 때가 있는데요. 위 대화처럼 여러 번 같은 질문을 던졌지만, 비슷한 대답이 나온 이유는 보이지 않는 '인간의 조정' 덕분입니다. 오픈AI는 인류에게 위협을 초래할 수 있는 강인공지능의 문제를 해결하고자 사람의 피드백**을 활용하고 있다고 말합니다. 그리고 위 대화에서 굵은 글씨로 강조 표시한 부분은 오픈AI의 방침이 잘 드러나는 부분입니다. 우리는 AI를 사용하면서도 종종 대치 구도를 취합니다. 그러나 진정 필요한 것은 자세히 들여다보고 그 안에 어떤 방향성과 가치관이 있는지 발견하는 능력일 것입니다. 

* chatGPT에 묻는다는 표현은 '자의식'을 가진 상대와의 대화가 아닌, 상호 반응을 통해 정보를 얻는 수단이라는 뜻에서 사용했다.

** 인간 피드백 기반 강화학습Reinforcement Learning from Human Feedback(RLHF)은 보상 함수를 사용하여 인간이 선호하거나 옳다고 판단한 문장에 더 큰 보상값을 부여해 더 진실되고 윤리적인 답을 생성하도록 하는 방식이다.

*c-lab은 리서치 딜리버리를 구독해 주시는 독자의 의견을 소중히 읽고 있습니다. 좋았던 점이나 아쉬웠던 점, 함께 공유하고 싶은 자료 등 여러분의 이야기를 남겨 주세요.