ㅈ) 케이트의 AI론은 우리가 흔히 접하는 AI론과는 결을 완전히 달리 하는데 그 다름이 나타나는 곳이 바로 4장 분류론이었던 것으로 보입니다. 어쩌면 이 책 전체를 요약한다고도 볼 수 있는 문장이 152쪽에 나오는 명제 "분류는 권력의 행위다"였다고 생각합니다.
ㅂ) 네, 이어서 이 장의 목적을 "인공지능이 어떻게 분류를 이용해 권력을 은밀히 행사하는지 살펴볼 것"(153쪽)이라고 말하고 있었습니다.
ㅈ) 그 권력이 국가권력과는 달리 사회 위로 솟구쳐 오르는 것이 아니라 "하부구조 속으로, 습관 속으로, 당연시 되는 것들 속으로" 숨어 들어간다는 것에 놀라운 점이 있다고 생각합니다.
ㅈㄱ) 178쪽 프레데릭 더글라스의 말을 인용한 부분이 눈에 띄었습니다. 어떤 권력과 신앙주의자들의 싸움이 그리 중요할까 의문이 든 부분이었습니다.
ㅈ) 권력은 요구 없이는 양보하지 않는다는 더글러스의 말은 항의행동이 왜 필요한가를 강조하는 중요한 생각인 것 같습니다.
ㅂ) "권력을 은밀히 행사"한다는 표현도 인공지능 권력의 특징, 즉 습관 속으로 숨어들어가는 특징을 강조하는 표현인 것 같아요.
ㅈ) 네 그 은밀성이 주의깊음을 요구하는 지점이라고 생각됩니다. 우리 자신이 무엇을 행하고 있는지를 우리가 모를 가능성이 높기 때문이지요. 인간과 동물을 나누고 남성과 여성을 나누고 흑인과 백인을 나누고 국민과 비국민을 나누는…당연시되는 저 분류의 습관들 속에서 권력이 행사되고 있다는 생각은 랑시에르의 "감각적인 것의 나눔"으로서의 치안이론(그리고 그것의 재분배로서의 정치론)이나 미시파시즘이론과 곳곳에서 연결되는 생각이기도 합니다.
ㅂ) 158쪽에 권력을 집중시키는 분류 행위를 "어떤 차이가 '차이'를 만드는지 결정하는 권력"이라는 표현이 있었는데요, 문장이 잘 이해되지 않아서 이 문장을 다른 분들은 어떻게 읽으셨는지 궁금합니다.
푸코의 '미시권력'도 생각났습니다. 푸코가 말하는 지식권력, 인공지능권력 모두 미시적으로 작동한다는 면에서 통한다는 생각도 들었어요.
ㅈ) 우리가 차이와 차별을 구별하면서 차이를 차별로 만드는 것이 권력이라고 하는데 앞의 작은 따옴표 속의 '차이'를 차별로 읽으면 뜻이 통하지 않나요?
차이는 무한한데 다른 차이를 추상하고 특정한 차이를 선택하여 차이점으로 규정하여 그것을 기준으로 분류할 때 이미 권력이 작동하기 시작한다는 의미에서입니다. 158쪽에서 그 행위를 하는 것이 "설계자들"이라고 말합니다.
ㅂ) 말씀하신대로 '차이'를 차별로 읽으니 잘 이해가 됩니다. 관련해 케이트가 '차이'를 외부자, 타자성 등으로 연결시켜 풀어가는 대목도 있었던 게 기억이 나고요.
ㅈ) 그런 방식으로 차이화=차별화함으로써 분류행위는 결국 이 세계를 만드는 역할(world-building, 162쪽)을 하게 된다는 것이 중요한 비판적 메시지라고 생각합니다.
그러한 세계건설은 복잡한 관계를 양화하는 하향식 원리를 따른다는 주장(172쪽)은 지금 우리의 국가, 기업, 학교, 교회, 군대 등 여러 동형적 사회조직들의 구성원리를 이해하는 데 도움을 주는 설명이라고 생각됩니다.
ㅈㄱ) 차이를 유한하게 하여 구별할 수 있다고 하는 것은 우선적인 한계를 인정하거나 수용한다는 말과 같지 않나 싶습니다. 이런 권력은 선차의 구별을 통해 어떤 효용성을 목표로 해야 그 한계에 대한 발전을 이룰 수 있다는 것 같고요.
ㅂ) 이미지넷의 기이한 범주들에 관한 이야기도 재밌었어요. 이미지넷의 최상위 범주 9가지는 "식물, 지층, 자연물, 운동, 인공물, 균류, 사람, 동물, 기타"라고 하는데요, 이러한 범주가 생긴 원인 혹은 기준 같은 것이 궁금했는데 책에서 직접 이야기해 주지는 않더라고요, 뭘까요?
ㅈ) 케이트는 175쪽에서 "기계학습 시스템은 관계에 따라 달라지는 것들을 고정된 범주로 분류하려 들며 그렇기에 과학적 윤리적 측면에서 문제가 있다는 정당한 비판이 제기된다"고 쓰는데 객체지향철학이 여기서 비판되고 있는 사고법대로 사고하는 것은 아니지만 맥락적 상관성이 있는 이런 문장을 어떻게 분석적으로 독해하고 어떻게 반응할지 궁금하기도 했습니다.
ㅂ) 164쪽에 나오는 내용입니다. 이 아홉 가지의 최상위 범주는 워드넷에서 가져온 것이라고 하네요.
ㅈ) 연어(連語)관계에 따라 도출된 범주들인 것으로 보이는데 그러한 범주에 이르게 된 메커니즘은 모르겠습니다. 워드넷↗
ㅂ) 객체지향철학 특히 하먼은 모든 걸 '관계'로 이야기하는 것(환원하는 것)을 굉장히 경계하지만, 하먼(Harman)도 인공지능의 무지막지하게 환원주의적인 하향식 원리의 범주는 반대할 것 같긴 한데요, 객체지향철학 입장에서의 기계학습시스템에 대한 정당한 비판은 어떻게 나올 지 궁금해지네요.
ㅈㄱ) 어떤 극한 상황에 대해 개별 입장이 다를 수 있겠지만, 당장의 불만들이 어떤 시스템 바깥에서 잘 응집되지 않도록 하는 것이 신앙주의자에게는 한편의 목표 같은 것일 수도 있겠다는 생각을 해봅니다.
ㅈ) 179쪽에서 케이트는 AI 분류에 대항하는 "집단적인 정치적 대응"이 필요하다고 말합니다. 그러한 집단적 정치적 대응의 방식들이 무엇일지에 대한 연구들이 있다면 추후에 살펴보면 좋겠습니다.