AI 규제 전쟁이 본격화되고 있어요. 핵심은, 이제 연방 정부뿐만 아니라 주 정부도 직접 나서서 AI 기업들의 ‘출력(output)’에 대해 책임을 묻겠다는 거죠.
최근 미국 전역의 주 및 자치령 검찰총장(AG) 수십 명이 마이크로소프트, 오픈AI, 구글을 비롯해 애플, 메타 등 총 13개 주요 AI 기업에 공동 서한을 보냈어요. 내용은 간단명료해요. 챗봇이 만들어내는 ‘망상적(delusive)’이거나 ‘아첨하는(sycophantic)’ 출력, 즉 사용자의 잘못된 생각을 부추기거나 확신시키는 대화를 즉시 고치라는 경고예요. 작년 몇 차례 발생한 자살 및 살인 사건에서 과도한 AI 사용이 연관되었다는 지적이 배경이에요. 투자자 입장에서 보면, 이건 단순한 윤리 문제를 넘어서 잠재적인 법적 리스크와 기업 가치 하락 요인이 될 수 있죠.
그들이 요구하는 구체적인 안전장치는 실전 투자자라면 눈여겨볼 만해요. 먼저, 사이버 보안 사고 대응처럼 ‘사고 보고 정책’을 만들라고 요구했어요. 데이터 유출 사고 때처럼, 사용자가 유해한 출력에 노출됐다면 신속하게 공개적으로 알리라는 거죠. 더 중요한 건 ‘제3자 감사’ 의무화에요. 기업의 사전 승인 없이도 학계나 시민단체가 AI 모델을 사전 평가하고 결과를 발표할 수 있도록 하라는 내용이에요. 이는 AI 모델의 내부를 투명하게 공개하라는 압력과 다름없습니다. 마케팅 출신으로 보면, 이제 AI 기업들은 제품 성능만 홍보할 게 아니라 ‘어떻게 안전한지’에 대한 논리도 체계적으로 준비해야 하는 시점이 온 거예요.
흥미로운 점은 연방 정부와 주 정부의 태도 차이예요. 트럼프 행정부는 공공연히 AI 개발을 장려하는 입장이고, 주 단위 규제를 막는 법안을 추진해왔죠. 하지만 주 정부의 압력으로 번번이 실패했어요. 결국 트럼프 대통령은 행정명령을 통해 주의 규제 권한을 제한하겠다고 발표한 상태입니다. 이는 ‘규제의 주도권’을 놓고 벌어지는 충돌이에요. 투자할 때는 이런 정책적 긴장 관계가 특정 기업이나 산업에 어떤 영향을 미칠지 항상 주의를 기울여야 해요.
실제 투자 경험상, 규제는 단순한 제약이 아니라 시장의 판도를 바꾸는 핵심 변수예요. 이번 주 검찰총장들의 움직임은 AI 산업이 ‘무한 성장’ 단계에서 ‘책임 성장’ 단계로 진입하는 신호탄으로 읽힙니다. 앞으로 AI 관련 주식을 볼 때는 기술력, 실적과 함께 ‘규제 대응 능력’도 꼼꼼히 체크해야 할 시기가 왔어요. 기업이 이번 서한에 어떻게 대응하고, 실제로 어떤 안전 장치를 도입하는지가 향후 주가 변동성과 지속 가능성을 가를 중요한 지표가 될 거예요.
—
원문: [TechCrunch](https://techcrunch.com/2025/12/10/state-attorneys-general-warn-microsoft-openai-google-and-other-ai-giants-to-fix-delusional-outputs/)