수갑 찬 마두로, 알고보니 가짜…AI 개입 어쩌나

니콜라스 마두로 베네수엘라 대통령이 지난 3일(현지시간) 도널드 트럼프 미국 대통령의 명령으로 체포돼 미국으로 압송되면서 전 세계가 혼란에 빠졌다. 생성형 AI 개발사들이 '안전장치'를 내세워왔지만, 현실에선 제대로 작동하지 않았다는 지적이 나온다.

5일(현지시간) 뉴욕타임스(NYT) 보도에 따르면 지난 3일 마두로 대통령 체포 소식이 나온 뒤 소셜미디어는 그가 수갑을 찬 채로 마약단속국 요원들에게 호송되거나, 군용 항공기에서 군인들에게 둘러싸여 있는 사진들로 뒤덮였다. 대부분 AI 이미지 생성 도구를 통해 만들어진 가짜 사진이다.

트럼프 대통령이 이를 직접 공유하면서 SNS에서 급속도로 확산했지만, 뉴욕타임스는 "사진이 매우 저화질인 데다 기울어져 있으며 운동복 차림으로 체포된 것으로 알려진 것과 달리 양복 차림이라는 점에서 신뢰가 떨어진다"고 분석했다.

전문가들은 역사적 순간에 AI가 가짜 이미지를 생성한 최초의 사례라고 평가했다. 로베르타 브라가 미국디지털민주주의연구소 사무총장은 "실제의 한순간이어야 할 장면을 묘사한 AI 이미지가 이렇게 많은 것은 처음 봤다"고 말했다.

실제 당시 일부 라틴아메리카 언론은 가짜 사진을 실제 체포 장면으로 오인해 보도했다가 이후 진짜 사진으로 교체하기도 했다.

카라카스에서 팩트체크 사이트를 운영하는 장프레디 구티에레스는 "일부 라틴아메리카 언론들도 가짜 이미지에 속았다"며 "이후 가짜 사진들은 도널드 트럼프 대통령이 SNS에 올린 사진으로 교체됐다"고 전했다.

한 집계에 따르면 허위 이미지와 동영상이 이틀도 안 돼 엑스(X·옛 트위터)에서 총 1410만 회 이상 조회를 기록했다.

AI 제작사들은 규정상 허위 정보와 공적 인물 합성을 금지하고 있다고 밝혔지만, 실제 운영과정에서 이러한 '안전장치'는 통하지 않았던 것으로 보인다.

제미나이와 그록은 사진을 즉시 생성했고, 챗GPT는 마두로의 이미지를 생성할 수 없다고 답했다. 다만 NYT가 챗GPT 모델을 이용하는 다른 웹사이트를 통해 요청하자 관련 이미지를 생성했다. NYT는 "실험 결과 대부분의 AI가 기술 오남용 방지 규정을 무시했다"고 꼬집었다.

김현정 기자 kimhj2023@asiae.co.kr

▶ 2026년 사주·운세·토정비결·궁합 확인!
▶ 놓치면 손해! 2026 정책 변화 테스트 ▶ 하루 3분, 퀴즈 풀고 시사 만렙 달성하기!