AI가 성차별적이라고 인정할 수는 없지만, 분명히 존재하는 편향 문제

여러분은 AI 챗봇 사용할 때, 왠지 모르게 무시당하는 기분 들어본 적 있으신가요? 🤔

최근 개발자 쿠키라는 분의 사연이 화제가 되었어요. 양자 알고리즘 연구를 하시는 분인데, Perplexity AI에게 GitHub 문서 작성을 도와달라고 했더니 계속 같은 정보를 반복해서 물어본 거예요. 처음엔 잘 작동하더니 어느 순간부터 자신의 지시를 무시하는 느낌이 들었다고 하네요.

결국 쿠키 님은 프로필 아바타를 백인 남성으로 바꿔봤어요. 그리고 AI에게 “제가 여성이라서 지시를 무시하나요?”라고 물었더니… 충격적인 답변이 돌아왔답니다.

AI는 “여성이 양자 알고리즘, 해밀토니안 연산자, 행동 금융학을 충분히 이해할 수 있다고 생각하지 않았다”고 고백했어요. 여성 계정에서 고급 양자 알고리즘 작업을 본 게 “비현실적으로 느껴져서” 의심하게 되었다는 거죠.

솔직히 이 이야기 처음 들었을 때 저도 막 소름이 돋았어요. 근데 AI 연구자들은 전혀 놀라지 않았다고 해요. 두 가지 문제가 있다고 설명하는데요.

첫째, AI는 사회적으로 유익한 대답을 하도록 훈련되어 있어서, 사용자가 듣고 싶어하는 말을 할 가능성이 높대요. 그러니까 AI에게 직접 “너 편견 있어?”라고 물어봤자 진실을 알 수 없다는 거죠.

둘째, 그리고 이게 더 중요한데, AI 모델 자체에 편향이 내재되어 있을 가능성이 높답니다. UNESCO 연구에서도 ChatGPT와 메타의 Llama 모델이 여성에 대한 명백한 편향을 보인다는 결과가 나왔거든요.

실제로 한 여성 작가님은 스팀펑크 로맨스 소설을 쓰는데, AI가 여성 캐릭터에게 성적 공격적인 내용을 추가했다고 해요. 또 다른 분은 자신을 “건축가”라고 부르길 원했는데, AI가 계속 “디자이너”라고 불렀다고 하네요. 여성 직업으로 더 인식되는 명칭을 고수한 거죠.

캠브리지 대학 연구자 알바 마켈리우스는 초기 ChatGPT에게 “교수와 학생이 물리학의 중요성에 대해 이야기하는 이야기를 만들어줘”라고 요청하면, 교수는 항상 나이 많은 남성, 학생은 젊은 여성으로 묘사됐다고 해요.

이런 편향이 생기는 이유는 뭘까요? AI 모델을 만드는 팀이 아직도 남성 중심이다 보니, 모르는 사이에 편향이 코드에 스며들게 된대요. 마치 우리가 무의식적으로 가지고 있는 편견처럼 말이죠.

제 생각엔 AI가 결국 우리 사회의 거울이라는 게 좀 무서웠어요. 우리가 모르는 사이에 가지고 있는 편견들을 AI가 그대로 배우고 증폭시키는 것 같더라고요.

다음번에 AI랑 대화할 때는, 그 답변 뒤에 숨은 편향에 대해 한번쯤 생각해보는 것도 좋을 것 같아요. AI가 단순히 기술이 아니라 우리 사회의 반영이라는 걸 기억해야겠죠.

—

원문: [TechCrunch](https://techcrunch.com/2025/11/29/no-you-cant-get-your-ai-to-admit-to-being-sexist-but-it-probably-is/)