AI가 생성한 비디오를 찾는 방법은 다음과 같습니다(현재)

OpenAI의 SORA 텍스트-비디오 모델의 등장으로 우리는 AI 생성 비디오로 가득 찬 피할 수 없는 미래를 바라보고 있습니다. 하지만 기술은 아직 완벽하지 않으므로 AI가 생성한 동영상을 찾아내기 위한 몇 가지 팁은 다음과 같습니다.

AI 생성 콘텐츠를 감지하는 것은 어려울 수 있습니다.

언뜻 보면 AI가 만든 비디오를 실제라고 부르는 것이 용서될 수도 있습니다. 조금 더 깊이 보기 시작할 때만 뭔가 잘못되었다는 것을 알아차리기 시작할 수 있습니다.

이 기사에서 다룰 모든 예는 텍스트-텍스트 변환 모델과 관련이 있습니다. OpenAI의 SORA 영상, 2024년 XNUMX월에 발표되었습니다. 텍스트 프롬프트를 애니메이션 이미지로 변환하는 동종 모델 중 단연 가장 진보된 모델입니다. 의 등장 이후로 많은 일이 일어났습니다. 인기 Reddit 게시물 그는 2023년 초 윌 스미스 스파게티를 먹고 있습니다. 2024년 XNUMX월 글을 쓰는 시점에서 SORA는 아직 비공개 테스트 중입니다.

AI가 생성한 사진과 비디오를 감지하는 것은 정확한 과학이라기보다는 예술에 가깝습니다. 이미지가 AI에 의해 생성되었는지 알 수 있는 방법이 있지만 일관되게 작동하지 않습니다. AI 콘텐츠 감지를 위해 설계된 도구는 텍스트의 경우에도 신뢰할 수 없는 경우가 많습니다.

여기서 목표는 적어도 지금은 AI 생성 콘텐츠를 선택할 수 있는 몇 가지 방법을 강조하는 것입니다. 모델은 항상 진화하므로 이러한 특성을 감지하기가 더 어려워진다는 점을 기억하세요. 때로는 동영상의 주제와 맥락을 선택하는 것이 큰 변화를 가져올 수 있습니다.

미묘한 변화와 '유령'에 주의하세요

미묘한 변화를 찾는 것은 설득력 있는 AI 트릭을 알아내는 한 가지 방법이지만, 쉽지는 않습니다. OpenAI의 SORA의 한 예는 걸어가는 여성을 묘사합니다. 네온 불빛이 가득한 도쿄 거리. 이 장면은 텍스트-비디오 변환기로서는 인상적이어서 영상이 끝날 무렵 의상 교체를 놓쳤을 정도로 인상적입니다.

오프닝 장면 속 여성복은 빨간 드레스에 전신 가디건, 가죽 재킷을 입은 모습이다. 재킷은 블레이저와 조화를 이루는 것 같은 방식으로 조금 이상하지만 저는 패션 마스터가 아니므로 넘어가도록 하겠습니다.

이제 동일한 옷을 클로즈업하여 살펴보면 드레스에 어두운 점이 있고 가죽 재킷의 중심에서 벗어난 옷깃이 훨씬 더 커진 것을 알 수 있습니다.

이는 매우 미묘해서 대부분의 사람들은 이를 알아내기 위해 영상을 여러 번 시청해야 할 것입니다. 장면은 조밀하고 생각과 배경 배우로 가득 차 있어 잘못된 점을 파악하는 데 도움이 됩니다.

또 조심해야 할 것은 유령이나 존재하지 않는 것들이 있다는 것입니다. 캘리포니아 도시의 OpenAI 비디오 골드러시(Gold Rush)가 이에 대한 좋은 예이다.. 당신의 마음은 아마도 말을 탄 사람으로 해석할 수 있는 다소 신비로운 이 인물을 살펴보십시오.

2초 후 그 모습은 완전히 사라졌다. 비디오를 보면 이 인물이 마치 유령인 것처럼 흙과 섞이는 것을 볼 수 있습니다.

인공 지능은 손가락, 안경, 작은 물체를 처리하는 데 어려움을 겪습니다.

AI 생성 모델이 직면한 가장 큰 문제 중 하나는 가장자리와 가는 선입니다. 특히 손, 쥐고 있는 물건, 안경, 그리고 물건이 인간의 특징(예: 모자, 헬멧, 심지어 머리카락)과 상호 작용하는 방식을 자세히 살펴보세요.

비디오는 AI가 생성한 사진에 비해 이러한 유형의 오류를 더 쉽게 발견할 수 있습니다. 이러한 기능은 장면마다 바뀔 수 있기 때문입니다.

특히 AI가 손가락을 당겨 손의 위치를 ​​잡는 것이 어렵다. 생성 모델은 예상보다 손가락이 많거나 적은 손을 생성하는 경향이 있습니다. 때로는 사물이 보기에 좋지 않거나, 손가락이 너무 가늘거나, 관절이 너무 많을 때도 있습니다. 들고 있는 물체들은 똑같은 요동을 보이며, 때로는 프레임 안의 인간이 들고 있는 모든 것을 흡수한 것처럼 보이기도 합니다.

비대칭으로 보이지 않거나 얼굴에 어울리지 않는 안경을 찾으세요. 비디오에서는 보기에 들어오고 나갈 수 있으며 장면 간 전환이 가능합니다. 팔, 다리도 마찬가지예요. 한번 보세요 나이지리아 라고스 사람들의 SORA 영상:

내 다리에서 세 번째 팔을 떼어 주시겠어요?

이미지 배경에 있는 물체를 자세히 살펴보세요.

AI가 생성한 비디오의 경우 배경 세부 정보는 사진보다 훨씬 더 큰 선물이 되는 경우가 많습니다. 좋은 가짜는 의도한 대로 행동하지 않는 배경에서 주의를 산만하게 할 만큼 주제가 설득력이 있는지에 달려 있습니다.

도쿄의 야경을 영상으로 다시 감상해보세요. 이 장면은 너무 조밀해서 모든 것을 액면 그대로 받아들이기가 쉽지만, 배경에서 걷고 있는 사람들, 특히 피사체 왼쪽에 있는 사람들을 자세히 살펴보십시오.

이 움직임 중 일부는 옳지 않다고 느껴집니다. 어느 시점에서 그 사람은 자신을 반복하는 것 같습니다. 나중에는 한 무리의 사람들로 보이던 것이 마치 같은 치마나 코트를 입은 것처럼 하나의 존재로 변모하는 것 같다. 일부 지역에서는 걷는 애니메이션도 이상합니다.

AI가 생성한 비디오를 감지하려면 백그라운드에서 의심스러운 활동이 있는지 주의 깊게 살펴보세요. 때로는 나무, 들판, 숲과 같은 자연물이 이상한 방식으로 반응하는 것을 보게 될 것입니다. 원근이 부정확하게 보일 수 있으며 애니메이션 개체가 애니메이션에 표시된 경로와 정확히 일치하지 않는 경우도 있습니다.

또 다른 예는 해안을 드론으로 촬영한 것입니다. OpenAI의 Big Sur. 자연에서 이런 모양의 파도를 본 적이 있나요?

조명과 'AI 아우라'

이는 AI가 생성한 이미지에서 많이 보아온 것으로, 객관적으로 식별할 수 있는 특성이라기보다는 "느낌"에 더 가깝습니다. 더 많은 대비를 기대할 수 있는 상황에서 조명이 특히 단조롭고 부자연스러워 보인다면 이는 실제가 아닐 수도 있음을 나타낼 수 있습니다.

예를 들어, 얼룩, 고스팅(렌즈에 너무 많은 빛이 들어와 빛이 손실되는 현상) 또는 그림자 회전(빛이 부족하여 그림자 디테일이 손실되는 현상)과 같은 카메라 결함이 없어도 됩니다. 현재의.

그것은 모두 고도로 제작된 뮤직 비디오처럼 보일 수도 있고 사실적인 조명과 레이 트레이싱이 적용되지 않았던 시절의 비디오 게임처럼 보일 수도 있습니다. 피사체는 전혀 예상하지 못한 순간에도 완벽하게 조명이 켜진 것처럼 보일 수 있습니다.

불쾌한 계곡 효과

불쾌한 골짜기 효과(Uncanny Valley Effect)는 인간의 특징과 비인간적인 특징이 혼합되어 보는 사람이 불편함을 느끼는 것을 설명하는 데 사용되는 용어입니다. 안드로이드나 휴머노이드 로봇은 겉으로는 인간처럼 보이지만 동시에 필연적으로 비인간적이라는 이유로 자주 인용됩니다.

대부분의 경우 불쾌한 계곡 효과는 단순히 느낌에 달려 있습니다. 뭔가 옳지 않다고 느낄 수 있지만 정확히 무엇인지는 알 수 없습니다. 이런 효과는 인공지능이 생성한 사진이나 영상에서 흔히 볼 수 있는데, 제가 테스트한 분야 중 하나는 SORA 우주 비행사 비디오.

문제의 우주비행사가 뜨개질로 만든 우주 헬멧을 쓰고 있다는 사실을 잠시 무시하면, 그 얼굴에는 등골을 오싹하게 만드는 뭔가가 있습니다.

거기 비슷한 의문의 할머니가 실패하다 그녀의 생일 촛불을 불 때, 움직임이 훨씬 더 나빠 보입니다.

말도 안되는 소리를 조심하세요

이것은 발견하기 가장 쉬운 위험 신호처럼 보이지만 때로는 마음이 사물을 무시하는 경우도 있습니다. 위에서 언급한 우주비행사 영상이 이에 대한 좋은 예이다. 이해가 되지 않는 문, 손잡이, 레버 또는 물체의 간단한 장면이 있습니다.

이건 뭐죠? 애니메이션이 역방향으로 실행되는 것처럼 보이는 이유는 무엇입니까? 니트 헬멧은 실례지만, 이건 보는 순간부터 의아했습니다.

움직임도 마찬가지다. 소라의 고양이가 침대에 누워있는 영상은 인상적이지만 액션이 좀 아쉽네요. 주인들은 깨닫게 될 것이다 고양이들 이런 행동은 이상하고 부자연스럽습니다. 피험자의 행동과 상황의 맥락 사이에 불일치가 있는 것으로 보입니다. 시간이 지남에 따라 이는 개선될 것입니다.

퍼지 텍스트는 AI 생성 프로세스에서 자주 저지르는 실수의 또 다른 좋은 예입니다. SORA의 도쿄 야경 영상에 등장하는 일본 캐릭터는 일부 도로 표지판과 상점과 마찬가지로 혼합백입니다. 대부분의 사람들이 일본어와 나쁜 칭찬을 구별하지 못하는 장면을 선택한 것은 OpenAI 측에서 현명한 선택이었습니다.

이 콘텐츠를 더 잘 발견할 수 있도록 스스로 훈련하세요.

AI 생성 콘텐츠를 발견하도록 자신을 훈련하는 가장 좋은 방법은 직접 연구하는 것입니다. 대부분의 창의적인 모델은 웹과 Reddit과 같은 소셜 미디어 플랫폼에서 활발한 커뮤니티를 보유하고 있습니다. 일부를 찾아 사람들이 무엇을 생각해 냈는지 살펴보십시오.

또한 Stable Diffusion과 같은 도구를 사용하여 자신만의 이미지를 만들 수도 있습니다. 이 글을 쓰는 시점에서 OpenAI의 SORA는 아직 공개적으로 사용할 수 없으므로 직접 뛰어들기 전에 기다려야 합니다.

AI가 생성한 비디오는 인상적이고 매혹적이며 끔찍합니다. 시간이 지남에 따라 모델이 약점을 극복함에 따라 이러한 팁은 덜 중요해질 가능성이 높습니다. 그러니 안전벨트를 매세요. 아직 아무것도 보지 못했으니까요.