본문 바로가기
이지티켓

'사진은 증거'가 끝났다는 AI100 보고서, 이제 무엇을 믿을까

이지티켓
발행일:
Contents

2026년 9월, 이탈리아 인테사산파올로의 자회사 피데우람에 이름난 로펌 변호사의 목소리로 전화가 걸려 왔어요. 그 목소리는 AI로 복제한 것이었고, 한국경제 보도에 따르면 이 사기로 9,500만 유로(약 1,427억 원)가 빠져나갔죠. 스탠퍼드대 AI100은 2014년 시작해 5년마다 전문가 패널이 AI의 현재를 진단하는 장기 연구인데, 2026년 11월 10일 나온 세 번째 보고서는 AI가 만든 이미지·음성·영상이 ‘사진은 믿을 수 있다’는 100년 된 전제를 사실상 끝냈다고 정리했어요.

이지티켓은 이 문장에서 깨진 것이 기술보다 습관이라고 봐요. 보고 들으면 일단 믿던 습관이, 가짜를 만드는 일이 이만큼 쉬워진 세상에서는 더 이상 안전하지 않게 된 거죠. 그래서 답도 더 똑똑한 탐지기보다 ‘확인하고 나서 믿는’ 순서 쪽에 가깝습니다.

2년 새 16배, 흔해진 가짜

AI100 보고서는 127쪽 분량이고 제목은 「AI Goes Mainstream」이에요. 옥스퍼드대 마이클 울드리지 교수가 의장을 맡은 12명 패널이 썼고, 그 안에 「The End of Photographic Truth(사진적 진실의 종말)」라는 절이 따로 있습니다. 스탠퍼드 HAI가 낸 보고서 소개 글은 복제 음성이 이미 사기에 쓰이고 합성 미디어가 선거에도 쓰였다며, 그 여파가 언론과 법, 민주 제도로 번질 거라고 봤어요.

숫자로 보면 속도가 실감 납니다. 영국 정부는 2026년 2월 5일 발표에서 2025년 한 해 공유된 딥페이크가 약 800만 개라고 추정했어요. 2023년엔 50만 개였으니 2년 만에 16배인 셈이에요.

영국 정부가 추정한 연간 딥페이크 공유 수 막대그래프. 2023년 50만 개, 2025년 800만 개.
영국 정부가 추정한 한 해 딥페이크 공유 수. 2년 사이 16배로 늘었다고 봤어요.

가짜를 퍼뜨리는 쪽이 익명의 계정만도 아니에요. 2026년 1월 백악관 공식 X 계정은 미네소타 시위에서 체포된 활동가의 사진을 우는 얼굴로 바꿔 올렸어요. 원본은 국토안보부 장관이 먼저 올린 무표정한 사진이었죠. CBS 보도에 따르면 백악관은 사진을 바꾼 사실을 인정하면서 “The memes will continue”라고 답했어요. 정부 계정이 올린 사진조차 원본인지 따져 봐야 하는 상황이 된 거예요.

찾으라고 해도 못 찾는 눈

‘자세히 보면 티가 난다’는 말은 이제 기대기 어렵습니다. 생체인증 업체 iProov가 2025년 2월 영국·미국 소비자 2,000명에게 진짜와 딥페이크가 섞인 이미지·영상을 보여 줬어요. 딥페이크를 찾으라는 걸 알고 봤는데도 전부 맞힌 사람은 0.1%였어요. 1,000명 가운데 한 명꼴이죠. 가짜 영상은 가짜 이미지보다 36% 덜 잡아냈다고 해요. 움직이는 화면일수록 더 쉽게 믿는다는 뜻이에요.

목소리는 더 어렵습니다. 피데우람 사건에서 범인들은 모회사 CEO를 사칭한 메시지를 먼저 보내고, 이어서 복제한 변호사 목소리로 전화를 걸었어요. 메시지와 목소리가 서로를 보증해 준 구조라, 둘 중 하나만 따로 의심하기도 어려웠을 거예요. 눈과 귀가 모두 속을 수 있다면 판단 기준은 내용이 아니라 경로가 돼야 합니다. 이 요청이 평소에 오던 길로 왔는지를 보는 거죠.

법정까지 들어온 그럴듯한 가짜

‘증거’가 가장 무겁게 쓰이는 곳은 법정이에요. 같은 한국경제 기사는 법원행정처가 법관 360명에게 물은 결과도 전했어요. 10명 중 8명꼴이 재판에서 AI가 만든 가짜 판례를 접했다고 답했어요.

법관 360명이 접한 AI 가짜 판례 유형 막대그래프. 존재하지 않는 판례 인용 80.7%, 가짜 법령 인용 16.9%.
법관들이 재판에서 만난 AI 가짜 자료는 대부분 세상에 없는 판례였어요(복수 응답).

그래프에서 보이듯 대부분(80.7%)은 아예 존재하지 않는 판례를 끌어온 경우였어요. 사진도 목소리도 아닌 글이지만, 문제의 뿌리는 같아요. 형식이 그럴듯하면 내용도 진짜일 거라고 믿는 습관이죠. 판례 번호와 문장 꼴만 갖추면 일단 믿던 관행이 이미지에서 무너진 것과 같은 방식으로 흔들리고 있는 거예요.

그럼에도 영상은 아직 힘이 있다

반대쪽 근거도 있어요. 「거짓말쟁이의 배당」이라는 연구가 있는데, 진짜 증거도 “AI 가짜”라고 우기면 빠져나갈 수 있다는 걱정을 실험으로 따져 본 거예요. 학술지 American Political Science Review에 실린 이 연구(2024년)는 미국 성인 1만 5,000명 이상을 대상으로 사전 등록 실험 다섯 건을 했어요. 정치인이 진짜 스캔들을 ‘허위 정보’라고 주장하면 이득을 보긴 했지만, 그 효과는 주로 글로 된 보도에서 나타났어요. 영상 증거는 쉽게 부정되지 않았죠. 사람들이 아직 영상에는 쉽게 등을 돌리지 않는다는 얘기예요.

이 칼럼이 기댄 숫자들에도 한계가 있어요.

숫자누가·언제읽을 때 볼 점
딥페이크 약 800만 개(2025년)영국 정부, 2026년 2월 발표방법론을 밝히지 않은 추정치예요. 한국경제는 ‘성적 딥페이크’로 소개했지만 정부 원문은 딥페이크 전체로만 적었어요
전부 맞힌 사람 0.1%iProov, 2025년 2월, 영국·미국 2,000명딥페이크 탐지를 파는 회사가 실험실처럼 꾸민 환경의 숫자예요. 실제 피드에서 스쳐 볼 때와는 다를 수 있어요
없는 판례 인용 80.7%법원행정처, 법관 360명복수 응답이고, 한국경제 보도로 전해진 숫자예요

숫자 밖의 한계도 하나 있어요. 사진 조작은 AI 이전에도 있었죠. 달라진 건 누구나 몇 초 만에 할 수 있게 됐다는 점이에요.

그래서 이지티켓은 ‘이제 아무것도 믿을 수 없다’까지 가는 건 지나치다고 봐요. 믿음이 사라진 게 아니라, 믿기 전에 거쳐야 할 단계가 하나 늘어난 거예요.

AI 사진, 진짜인지 어떻게 확인하나요

기술 쪽 답은 ‘출처 기록’이에요. C2PA는 사진이 어떤 기기로 찍혔고 어떤 편집을 거쳤는지를 파일 안에 남기는 표준이고, 이렇게 남긴 기록을 콘텐츠 자격증명(Content Credentials)이라고 불러요. 구글은 2025년 9월 픽셀 10 기본 카메라로 찍은 JPEG 사진에 이 기록을 붙이고, 구글 포토에서는 AI 편집과 일반 편집 모두에 적용한다고 밝혔어요.

Content Credentials 검증 페이지. 파일을 끌어다 놓는 상자와 지원 포맷, 표시할 정보가 없을 수 있다는 안내가 보인다.
파일을 올리면 C2PA 이력을 보여 주는 검증 페이지. 왼쪽 아래에 정보가 없을 수도 있다는 안내가 붙어 있어요.

기록을 읽어 주는 Content Credentials 검증 페이지는 로그인 없이 열리고, 들어가면 한국어 화면이 떠요. JPEG·PNG 같은 사진부터 MP4 영상, WAV·MP3 음성까지 올릴 수 있어요. 문제는 화면 왼쪽 아래의 안내 문구예요. 아직 도입 중이라 표시할 정보가 없을 수도 있다고 적혀 있죠. 기록이 없다고 가짜라는 뜻이 아니고, 기록을 지원하지 않는 기기나 앱, 다시 저장한 파일에서는 애초에 남아 있지 않을 수 있어요. 결국 이 도구는 ‘진짜임을 보여 주는 쪽’에는 쓸모가 있지만 ‘가짜를 가려내는 쪽’에선 반쪽짜리예요.

그래서 일상에서는 도구보다 순서가 먼저예요. 돈이나 개인정보를 요구하는 목소리·영상이라면 그 채널에서 답하지 말고, 이미 알고 있는 번호로 다시 거는 게 맞아요. 피데우람 사건도 결국 메시지와 전화라는 같은 통로 안에서 모든 확인이 끝나 버린 경우였거든요.

만드는 사람에게 넘어온 숙제

AI로 이미지나 목소리를 만드는 서비스를 직접 만들고 있다면, 이 문제는 받는 쪽만의 일이 아니에요. 2026년 1월 22일 시행된 한국 AI 기본법은 생성형 AI 결과물에 워터마크를 붙이고, 딥페이크처럼 진위를 가리기 어려운 콘텐츠는 누구나 알아볼 수 있게 표시하라고 정했어요. 의무를 지는 쪽은 AI 사업자이고 단순 이용자는 아니에요. 과태료는 계도기간이 끝난 뒤에 매겨져요.

바이브코딩으로 이미지 생성 웹앱 하나를 뚝딱 만들어 공개하면, 만든 사람은 이용자가 아니라 내놓는 쪽에 서게 돼요. 어디까지가 법의 ‘사업자’인지는 따로 따져 봐야겠지만, 결과물에 ‘AI로 만든 이미지’라는 표시를 처음부터 넣어 두는 데 드는 품은 크지 않아요. 이지티켓은 법이 어떻게 해석되든 이 표시를 기본값으로 두는 쪽이 맞다고 봐요. 나중에 붙이는 것보다 처음부터 넣는 편이 훨씬 쉽거든요.

앞으로 지켜볼 것은 세 가지예요. 영국 정부가 마이크로소프트 등과 만들겠다고 한 딥페이크 탐지 평가 기준이 실제로 나오는지, AI 기본법 계도기간이 끝난 뒤 표시 의무가 얼마나 지켜지는지, 그리고 SNS가 올라온 사진의 출처 기록을 지우지 않고 남겨 두는지예요. HAI 소개 글은 지금까지의 고위급 정상회의가 원칙 선언만 냈을 뿐 강제력 있는 약속은 없었다고 짚었어요. 규칙이 따라오기 전까지는, 확인하고 나서 믿는 습관이 가장 가까운 방어선이에요.

자주 묻는 질문

AI로 만든 이미지를 SNS에 올리면 법적으로 표시해야 하나요?

한국 AI 기본법(2026년 1월 22일 시행)의 표시·워터마크 의무는 AI 사업자에게 있고, 단순히 도구를 써서 올리는 이용자에게 지운 의무는 아니에요. 다만 실제 인물이나 사건처럼 보이는 이미지라면 ‘AI로 만든 이미지’라고 적어 두는 편이 오해를 줄여요.

가족 목소리로 돈을 보내 달라는 전화가 오면 어떻게 하나요?

그 전화로는 대답하지 말고 끊은 뒤 이미 알고 있는 번호로 직접 다시 걸어 보는 게 가장 확실해요. 가족끼리만 아는 확인 질문을 미리 정해 두는 것도 방법이에요.

AI100 보고서는 어디서 읽을 수 있나요?

스탠퍼드 AI100 사이트에서 PDF로 받을 수 있어요. 127쪽짜리 영어 보고서이고, 핵심만 보려면 스탠퍼드 HAI의 소개 글이 짧게 정리돼 있어요.

참고한 자료 8
  1. The World Has Changed: Insights From The New AI100 Report (Stanford HAI)
  2. "눈으로 봐도 못 믿겠다"…정부도 AI 조작사진 발표 (한국경제)
  3. Government leads global fight against deepfake threats (GOV.UK)
  4. White House posts an altered photo of Minnesota protester's arrest (CBS News)
  5. iProov Study Reveals Deepfake Blindspot (Business Wire)
  6. The Liar's Dividend: Can Politicians Claim Misinformation to Evade Accountability? (American Political Science Review)
  7. How Pixel and Android are bringing a new level of trust to your images with C2PA (Google)
  8. AI기본법 내일부터 시행…생성형 AI 결과물 '워터마크' 부착해야 (뉴시스)

이 글은 AI가 자료 조사와 초안 작성을 돕고, 운영자가 직접 써 보고 확인해 고친 뒤 발행했어요. 틀린 내용을 발견하면 알려 주세요.