차별하는 데이터 : 상관관계, 이웃, 새로운 인식의 정치 – 웬디 희경 전 지음

빅데이터 시대, 숨겨진 차별을 마주하다: "차별하는 데이터" 깊이 읽기

우리는 흔히 빅데이터와 알고리즘을 객관적이고 중립적인 도구라고 생각합니다. 하지만 웬디 희경 전의 저서 "차별하는 데이터"는 이러한 통념에 강력한 질문을 던지며, 기술 속에 깊숙이 내재된 차별 구조를 날카롭게 파헤칩니다. 이 책은 단순히 데이터의 편향성을 지적하는 것을 넘어, 차별이 어떻게 데이터, 알고리즘, 그리고 우리의 인식까지 스며들어 작동하는지 꼼꼼하게 분석합니다.

우생학의 그림자: 상관관계와 동종선호

저자는 ‘상관관계’와 ‘동종선호’라는 개념이 우생학에서 비롯되었음을 밝히며 논의를 시작합니다. 상관관계는 특정 집단의 특성을 다른 집단과 연결 지어 차별을 정당화하는 데 사용될 수 있습니다. 예를 들어 특정 인종이나 성별과 특정 능력을 연결 짓는 방식은 과거 우생학자들이 사용했던 논리와 유사합니다. 동종선호는 비슷한 배경을 가진 사람들끼리 모이려는 경향을 의미합니다. 이러한 경향은 알고리즘에 반영되어 사회적 불평등을 심화시키는 결과를 초래할 수 있습니다.

책에서는 알고리즘이 사회적 현실을 그대로 반영하는 것이 아니라, 오히려 기존의 편견을 강화하고 재생산할 수 있음을 보여줍니다. 특히 대리체(proxy)를 통해 미지의 것을 재구성하는 과정에서 발생하는 문제는 심각합니다. 대리체는 직접적으로 측정하기 어려운 변수를 대신하여 사용하는 지표를 의미합니다. 예를 들어 신용 평가 시 학력이나 소득 수준을 사용하는 것이 대표적인 대리체의 활용입니다. 하지만 이러한 대리체는 특정 집단에 불리하게 작용하여 차별을 고착화할 수 있습니다.

알고리즘 진정성 이데올로기: 표면에 드러나지 않는 차별

저자는 알고리즘의 객관성과 중립성을 맹신하는 "알고리즘 진정성 이데올로기"를 비판합니다. 알고리즘은 설계자의 가치관과 의도에 따라 얼마든지 편향될 수 있으며, 이러한 편향은 표면적으로 드러나지 않기 때문에 더욱 위험합니다. 알고리즘이 내린 결정은 종종 ‘객관적인 데이터’에 근거한 것으로 포장되어 비판적인 검토 없이 받아들여지기 쉽습니다. 이러한 과정에서 차별은 더욱 은밀하게 작동하고 강화됩니다.

책은 알고리즘이 채용, 대출, 형사 사법 등 다양한 분야에서 어떻게 차별을 심화시키는지 구체적인 사례를 통해 보여줍니다. 예를 들어 채용 알고리즘은 과거의 성공적인 지원자 데이터를 학습하여 특정 성별이나 출신 학교 출신 지원자를 선호하는 경향을 보일 수 있습니다. 이러한 알고리즘은 겉으로는 객관적인 기준으로 평가하는 것처럼 보이지만, 실제로는 기존의 차별을 강화하는 역할을 수행합니다.

인식을 인식하기: 차별을 직시하는 새로운 틀

"차별하는 데이터"는 기술 속에 숨겨진 차별을 직시하고, 이를 해소하기 위한 새로운 인식의 틀을 제시합니다. 저자는 우리가 데이터를 단순히 객관적인 정보로 받아들이는 것이 아니라, 사회적 맥락 속에서 비판적으로 분석해야 한다고 강조합니다. 또한 알고리즘의 작동 방식을 이해하고, 그 안에 내재된 편향을 밝혀내기 위한 노력이 필요하다고 주장합니다.

이 책은 기술과 문화의 교차 지점에서 차별을 인식하고, 다름을 존중하는 사회를 만들기 위한 중요한 첫걸음을 제시합니다. 우리가 기술을 사용하는 방식, 데이터를 해석하는 방식, 그리고 서로를 대하는 방식을 근본적으로 변화시킬 것을 요구합니다.

마무리하며

"차별하는 데이터"는 빅데이터 시대에 우리가 간과하기 쉬운 차별의 문제를 깊이 있게 다루는 책입니다. 이 책을 통해 우리는 기술이 가진 가능성과 동시에 위험성을 깨닫고, 보다 공정하고 평등한 사회를 만들기 위한 노력을 시작해야 합니다. 단순히 기술적인 해결책을 찾는 것을 넘어, 우리 자신의 인식과 가치관을 되돌아보고 변화시키는 것이 중요합니다. "다름 안에서 살기" 위한 끊임없는 성찰과 실천이 필요한 시점입니다.