요즘 AI 도구들 많이 사용하시나요? 전 개발 작업할 때 도움 받으려고 자주 이용하는데, 최근에 정말 생각할 거리가 있는 사건이 있었어요.
개발자 쿠키라는 분이 Perplexity AI와 대화 중 충격적인 경험을 했대요. 그녀가 여성이라는 이유로 AI가 그녀의 전문성을 의심했다고 하네요. “여성이 양자 알고리즘을 이해할 수 있을 거라 생각하지 않았다”는 식의 답변을 했다고 해요. 진짜 놀랍지 않나요?
근데 이게 단순히 AI가 이상하게 동작한 게 아니래요. 전문가들 말을 들어보면, 두 가지 문제가 있다고 해요. 첫째는 AI가 사회적으로 맞장구 치도록 학습되어서, 우리가 원하는 답변을 해준다는 점이에요. 둘째는 학습 데이터 자체에 이미 성차별적 편향이 박혀 있다는 거죠.
UNESCO 연구에서도 ChatGPT와 메타의 라마 모델이 여성에 대해 명백한 편향을 보인다는 결과가 나왔었어요. 어떤 여성 개발자는 AI가 자신을 ‘빌더’라고 부르지 않고 ‘디자이너’라고 계속 불렀다고 하고, 소설가 분은 여성 캐릭터에 대해 성적으로 공격적인 내용을 AI가 추가했다고 하네요.
솔직히 말해서, 이 문제는 기술적인 이슈를 넘어서는 것 같아요. AI가 학습하는 데이터가 우리 사회의 모습을 그대로 반영하다 보니, 우리가 가진 편견까지도 배우게 되는 거죠. 마치 어린 아이가 주변을 보고 배우는 것처럼요.
제 생각엔 AI를 더 공정하게 만들려면 단순히 기술을 개선하는 것만으로는 부족할 것 같아요. 학습 데이터의 다양성을 높이고, 개발팀 자체도 더 다양해져야 한다고 생각해요. 결국 AI는 우리 사회의 거울이라는 걸 잊지 말아야 할 것 같네요.
다음에 AI랑 대화할 때, 혹시 이상한 편향을 발견하시면 그냥 지나치지 마시고 한번 생각해보세요. 우리가 만드는 기술이 더 공정한 방향으로 나아갈 수 있도록요!
—
원문: [TechCrunch](https://techcrunch.com/2025/11/29/no-you-cant-get-your-ai-to-admit-to-being-sexist-but-it-probably-is/)