사회에서 누군가가 부당한 차별을 받는다고 인식되는 순간, 신뢰는 쉽게 무너진다. 나 역시 같은 차별을 겪을 수 있다는 불안이 확산되기 때문이다. 이러한 문제의식은 연구의 영역에서도 예외가 아니다. 확증 편향은 분석의 객관성을 훼손하고 잘못된 결론으로 이어질 수 있어, 연구자들이 가장 경계해야 할 요소로 꼽힌다. 현대 사회 전반에서 편향을 줄이기 위한 노력이 이어지는 이유도 여기에 있다.
이와 같은 노력은 인공지능(AI) 제도에도 반영되고 있다. 유럽연합의 EU AI Act는 제5조 제1항 (c)호에서 개인을 평가·통제하는 '사회적 점수제(Social scoring)' 형태의 AI를 명시 체리마스터모바일 적으로 금지하고 있다. 또한 (g)호에서는 생체 정보뿐 아니라 정치적 의견, 종교, 신념 등을 기반으로 개인을 분류하는 AI 역시 금지 대상으로 규정한다. 나아가 학습 및 평가 데이터에서 발생할 수 있는 편향을 최소화하도록 관리 의무를 부과하고 있다.?
국내에서도 AI 편향에 대한 문제의식은 이미 제도에 반영되어 있다. 'AI 발전과 신뢰 바다이야기무료머니 기반 조성 등에 관한 기본법'은 AI의 공정성 준수를 명시하고, 채용이나 대출 심사처럼 개인의 권리와 의무에 중대한 영향을 미치는 시스템을 '고영향 AI'으로 정의해 별도의 관리 필요성을 강조한다.
EU AI법 제5조(금지된 인공지능 관행)?
제1항 다음과 같은 인공지능 관행은 금지된다.
(c) 다음 바다이야기프로그램 중 어느 하나 또는 모두를 초래하는 사회적 점수를 통하여 자연인이나 집단의 사회적 행동 또는 알려지거나 추론되거나 예상되는 성격이나 특성에 기초하여 특정한 기간 동안 자연인이나 집단을 평가하거나 분류하기 위한 인공지능시스템의 시장 출시, 서비스 제공 또는 사용
(i) 데이터가 최초로 생성되거나 수집된 상황과 관계가 없는 사회적 상황에서 특 황금성오락실 정한 자연인 또는 집단에 유해하거나 불리한 처우
(ii) 특정한 자연인 또는 전체 집단의 사회적 행동이나 그 심각성에 비하여 부당하거나 불균형한 해당 자연인 또는 전체 집단에 유해하거나 불리한 처우
(g) 인종, 정치적 의견, 노동조합 가입, 종교적 또는 철학적 신념, 성생활 또는 성적지향을 추론하기 위하여 생체인식데이터 릴게임바다신2 를 기반으로 자연인을 개별적으로 분류하는 생체인식분류 시스템의 시장 출시, 특정 목적을 위한 서비스 제공 또는 사용. 이 금지사항은 법집행 분야에서의 생체인식데이터 또는 생체인식데이터 분류에 기반한 이미지 등 적법하게 취득한 생체인식데이터의 라벨링 또는 필터링에는 적용되지 아니한다.
그러나 제도적 의지와 별개로, 편향이라는 개념 자체는 기술적으로 명확히 측정하기 어렵다. 예를 들어 유방암 환자 중 남성 환자의 비율은 1% 미만에 불과하다. 이에 유방암 데이터는 현실을 반영해 여성 중심으로 구성될 수밖에 없으며, 이러한 불균형을 단순히 편향으로 규정하기는 어렵다. 채용과 같은 영역에서도 상황은 유사하다. 특정 특성에 대해 완전한 채용 공정성을 확보하려면, 해당 특성을 제외한 모든 조건이 동일한 비교 집단이 필요하다. 그러나 현실에서는 이러한 조건을 충족하는 사례를 찾기 어렵다. 결국 완전한 의미의 '편향 제로'는 현실적으로 구현되기 어려운 개념에 머문다.
이처럼 편향이란 데이터와 맥락을 분리한 채로 논의될 수 없다. 어떤 요소를 편향의 기준에 포함할지, 그리고 이를 어떻게 측정할지는 상황에 따라 달라진다. 데이터 전반의 편향을 전수 조사하는 데에는 막대한 자원이 필요하며, 모델 수준에서 이를 전면적으로 평가하는 일은 더욱 복잡하다. 그럼에도 불구하고 이러한 편향을 일관되게 판단할 수 있는 기준은 아직 충분히 정립되지 않았다.
따라서 보다 실효성 있는 접근은 추상적 원칙이 아니라 구체적 맥락에서 출발해야 한다. 어떤 영역에서 어떤 요소를 편향 기준에 포함할 것인지, 이를 어떻게 측정하고 검증할 것인지에 대한 세밀한 기준이 필요하다. AI가 사회적 신뢰를 얻기 위해서는 구체적으로 합의된 편향을 측정하고 입증할 수 있는 체계까지 함께 갖추어야 할 것이다.
김호기 교수(중앙대 산업보안학과)