평범한 AI 앱 속 딥페이크 기능, 심사는 왜 못 걸렀을까

반려동물 사진 편집이나 운동 코치 앱처럼 보였던 AI 앱 네트워크가 숨은 딥페이크 기능을 갖고 있었다는 조사 보도가 나왔어요. 어떤 일이었는지, 왜 앱 심사에 걸리지 않았는지, 우리가 무엇을 살펴볼 수 있는지 쉽게 정리했어요.

무슨 일이 있었나요?

2026년 11월 2일 Wired가 조사 보도를 냈어요. 유럽 비영리단체 AI Forensics 등의 연구를 바탕으로 한 보도예요. 반려동물 사진 편집, 언어 학습, AI 운동 코치 같은 평범한 앱으로 보이는 네트워크가 사실은 성적이고 폭력적인 딥페이크를 만드는 기능을 숨기고 있었다는 내용이에요.

여기서 400개 넘는다는 숫자는 서로 연결된 웹사이트와 앱을 합친 거예요. 400개가 모두 스토어 앱이라는 뜻은 아니에요.

• 연결된 도메인과 앱: 400개 이상
• 애플이 내린 앱: 19개
• 구글 플레이: 9월 기준 27개, 합계 35만 회 넘게 다운로드

어떻게 심사를 통과했나요?

앱 안에는 화면만 있고, 무엇을 보여 줄지는 회사 서버가 정할 수 있어요. 보도에 따르면 앱이 서버를 불러서 무해한 화면을 보여 줄지, 노골적인 화면을 보여 줄지 정했다고 해요.

숨은 기능이 켜지는 조건은 사진 업로드가 아니었어요. 보도에 따르면 앱이 위치, 언어, 기기 정보를 서버로 보냈고, 메타 광고를 타고 설치한 경우가 조건 중 하나로 보인다고 해요. 사진은 기능이 켜진 뒤에 딥페이크를 만드는 재료로 쓰였어요.

 

애플과 메타는 뭐라고 했나요?

애플은 심사 때는 규정을 지켰고, 승인 뒤에 개발자가 앱이 불러오는 웹사이트를 바꿨다고 설명했어요. 연구자들은 처음부터 심사를 피하려고 위장했다고 봐요. 어느 쪽이든 심사를 통과했다고 계속 안전한 건 아니라는 뜻이에요.

메타는 광고 계정 11,600개와 페이지 15,000개 등에 조치했다고 밝혔어요. 구글은 Wired의 문의에 답하지 않았지만, 연락 전에 앱 대부분을 이미 내린 상태였다고 해요.

• 애플: 지난 1년간 이런 수법으로 앱 수만 개를 정지했다고 밝힘
• 메타: 광고 금지 앱 209개 등 추가 조치
• 한 보도는 하나의 중국 회사와 연결된다고 전하지만, 다른 보도는 중국 개발자와 홍콩 등록 법인이라고만 해요

우리는 무엇을 살펴볼 수 있을까요?

이 사건의 위험은 내 사진이 몰래 빠져나가는 것보다, 누군가 남의 얼굴 사진으로 딥페이크를 만드는 쪽에 가까워요. 그래서 일반적인 수칙을 같이 기억해 두면 좋아요.

아래는 보도에서 나온 조언이 아니라 일반적인 안전 수칙이에요.

• 쓰지 않는 AI 사진 앱은 지우기
• 광고로 알게 된 낯선 앱은 개발사와 리뷰 확인하기
• 다른 사람의 얼굴 사진을 AI 앱에 올리지 않기
• 아이 폰에 설치된 앱이 처음 설명과 다르게 바뀌지 않았는지 가끔 보기

 

스토어 심사만 믿기보다 앱이 처음 약속한 기능에서 벗어나지 않는지 가끔 확인해 보세요. 여러분은 폰의 AI 앱을 얼마나 정리하고 계신가요?

참고한 자료

• https://fourweekmba.com/ai-apple-meta-act-on-a-deepfake-network-of-400-apps-and-sites/
• https://northeasttimes.com/2026/11/02/over-400-linked-apps-hid-explicit-deepfake-tools-behind-pet-photos-and-workout/
• https://9to5mac.com/2026/11/02/ai-apps-with-hidden-sexual-and-violent-deepfake-features-made-it-into-the-app-store/
• https://www.ibtimes.com.au/ai-app-network-hidden-deepfake-tools-1877759
• https://www.wired.com/story/hundreds-of-mundane-ai-apps-are-hiding-abusive-deepfake-features/

이 글은 AI(Claude)로 초안을 쓰고 사람이 확인한 뒤 올렸어요.