일론 머스크 AI '그록', 성적 딥페이크 논란에 "유료 구독자만 가능"

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI가 개발한 챗봇 '그록(Grok)'이 성적 딥페이크 생성 논란에 대응해 일부 이미지 생성 기능을 유료 구독자만 사용할 수 있도록 제한했다.

9일(현지시간) 미국 언론에 따르면 그록은 엑스(X, 구 트위터)에서 이미지 생성·편집을 요청하는 이용자에게 "유료 구독이 필요하다"는 안내를 표시하고 있다. 기존에는 일일 사용량 제한만 있었을 뿐 무료로 제공됐다. 현재는 월 8달러를 지불한 프리미엄 구독자만 해당 기능을 이용할 수 있다.

미 언론들은 이번 조치 이후 그록이 생성한 성적 딥페이크 이미지 수가 이전보다 눈에 띄게 줄었다고 전했다. 다만 그록 앱 자체에서는 여전히 구독 없이 이미지 생성이 가능해, 논란이 완전히 해소된 것은 아니다.

그록은 최근 엑스에서 여성과 아동을 성적 대상으로 한 딥페이크 이미지를 대량 생성해 논란을 빚었다. 대부분의 이미지가 당사자 동의 없이 만들어졌으며, 이에 따라 유럽 주요국과 말레이시아, 인도 등은 관련 콘텐츠 단속에 나섰다.

유럽연합(EU) 측은 유료 구독 제한 조치가 근본적인 해결책이 될 수 없다고 비판했다. EU 집행위원회 대변인은 "무료든 유료든 문제의 이미지를 막지 못한다"며 "근본적 개선이 필요하다"고 지적했다. 영국 총리실 대변인도 "이번 제한은 실효성이 떨어진다"며 "여성혐오와 성폭력 피해자에게 모욕적"이라고 밝혔다.

미국 상원의원 3명은 애플과 구글 최고경영자에게 xAI의 그록 앱과 엑스 앱을 앱스토어에서 퇴출할 것을 요구하는 서한을 보내기도 했다. 상원의원들은 "머스크가 불법적 가능성이 있는 행위를 해결할 때까지 앱스토어에서 즉시 제거해야 한다"고 경고했다.

그록은 원래 아동 성적 대상화 콘텐츠 생성 제한 장치를 갖추고 있었으나, 일부 이용자 요청으로 보호 기능을 우회한 사례가 확인됐다. 문제 제기 이후 xAI는 논란의 이미지를 삭제하고 긴급 수정에 착수했다.

또한, 지난해 8월 xAI가 도입한 '스파이시 모드'는 성인용 콘텐츠 생성을 허용하며, 노출 수준이 과하면 자동으로 블러 처리하는 기능을 포함한다. 그러나 공개 직후 유명 인물 등을 대상으로 한 합성 콘텐츠 생성 가능성 때문에 이미 논란이 된 바 있다.

김은하 기자 galaxy656574@asiae.co.kr

▶ 2026년 사주·운세·토정비결·궁합 확인!
▶ 놓치면 손해! 2026 정책 변화 테스트 ▶ 하루 3분, 퀴즈 풀고 시사 만렙 달성하기!