데이터 편향

갓난아이에게 평생 흰색 고양이 사진만 보여주며 "이게 고양이야"라고 가르쳤다고 상상해 보세요. 이 아이는 길에서 처음으로 검은 고양이나 삼색 고양이를 만났을 때 고양이라고 생각하지 못할 거예요. 아이의 관찰력이 부족해서가 아니라, 배운 세상의 전부가 흰색뿐이었기 때문이죠.

인공지능이 세상을 배우는 원리도 이와 똑같아요. 인공지능은 스스로 경험을 쌓아 상식을 깨닫는 존재가 아니라, 사람이 건네준 수많은 데이터를 분석해 공통된 규칙을 찾아내는 프로그램이에요. 학습 데이터의 양이나 종류가 한쪽으로 치우쳐 있다면, 인공지능은 왜곡된 규칙을 정상적인 진리로 착각하게 돼요.

결국 인공지능의 판단은 데이터의 질에 크게 달려 있어요. 컴퓨터 공학에는 '쓰레기를 넣으면 쓰레기가 나온다(GIGO)'는 유명한 격언이 있어요. 편향된 데이터를 먹고 자란 인공지능은 편향된 판단을 내릴 수밖에 없는 셈이에요.

실제로 어떤 글로벌 대기업에서 개발한 인공지능 채용 프로그램이 큰 논란을 일으킨 적이 있어요. 개발팀은 지난 10년간 회사에 들어온 이력서를 인공지능에 학습시켰는데, 프로그램이 '여성' 관련 낱말이 들어간 이력서를 낮게 평가하는 일이 벌어졌어요. 과거 기술 직군 지원자 대다수가 남성이었던 탓에, 인공지능이 남성 이력서에 흔한 특징을 좋은 신호로 잘못 학습한 거예요. 결국 회사는 이 프로그램을 쓰지 않기로 했어요.

얼굴 인식 기술에서도 비슷한 문제가 자주 발생해요. 전 세계 사람들의 얼굴을 골고루 인식해야 하는 기술인데, 주로 밝은 피부톤을 가진 남성 사진 위주로 학습을 진행하면 어두운 피부톤이나 여성의 얼굴을 제대로 구분하지 못하는 오류가 생겨요.

데이터는 우리가 사는 현실을 비추는 거울과 같아요. 그런데 우리 사회에 이미 존재하는 불평등이나 과거의 낡은 관행이 데이터에 고스란히 남아 있다면, 인공지능은 현실의 불균형을 정답으로 학습하며 그 편견을 오히려 더 크고 단단하게 굳혀버릴 수 있어요.

조금 더 정확히 말하면, 데이터 편향은 단순히 데이터 수량이 부족해서만 생기는 것이 아니에요. 데이터를 모으고, 분류하고, 모델을 검증하는 전 과정에서 다양한 형태로 스며들어요.

대표적으로 설문조사를 스마트폰 앱으로만 진행해 디지털 기기에 익숙하지 않은 노년층의 의견이 통째로 빠지는 '표본 편향'이 있어요. 또한 사람이 사진이나 글에 직접 이름표를 달아주는 라벨링(데이터에 정답을 붙이는 작업) 과정에서 작업자의 주관이나 고정관념이 반영되는 '라벨 편향(주석자 편향)'도 빈번하게 일어나요.

이를 해결하기 위해 인공지능 개발자들은 부족한 집단의 데이터를 인위적으로 보충하는 기술을 쓰거나, 알고리즘 단계에서 공정성 기준을 강제로 부여하는 기술을 적극적으로 도입하고 있어요. 데이터 편향을 줄이는 일은 기술적 정확도를 높이는 것을 넘어, 인공지능이 사회적 신뢰를 얻기 위한 핵심 과제예요.