아침에 뉴스공장 듣다가, 원종우 씨 코너에서
DeepFake 에 대해서 알게 되어 검색해봣습니다.
DeepFake 란 건 ?
Deepfake는 인공 지능을 기반으로 한 인간 이미지 합성 기술 이라고 위키에서 정의하고 있네요.
일단 아이언맨 부터 볼까요?
원래 로다주 형님 보다 먼저 캐스팅이 될뻔 했던 톰 형님을 아이언맨으로 합성한 것입니다.
어떤가요? 별로 위화감이 크지 않죠?
두번째로 터미네이터2 입니다.
아놀드 주지사님을 스텔론 형님으로 주인공을 바꾼건데, 이것 역시 위화감이 크지 않습니다. (근데, 스텔론 형님보단 왜 모리어티 교수역인 앤드류 스캇이 더 생각나는지...)
이것 이외에도 YOUTUBE 에서 ctrl shift face 를 검색하시면 다른 영상도 볼 수 있습니다. (저랑 전혀 관계 없습니다.)
정말 이 기술이 조금만 더 발전하면, 지금 검찰이 하고 있는 표적 수사를 너무나도 쉽게 할 수 있는 방법이 될 수도 있고,
김어준 총수가 이야기 한 것 처럼 선거 3일 전에 상대 후보에 대한 조작된 영상을 내보내면, 단번에 전세를 역전시킬 수도 있을 것 같습니다.
무서운 세상입니다.
이미 악용되고 있어요
왠만한 성인사이트 같은데 가면 서양연예인 딥페이크 합성 동영상이 돌아다니고
한국인은 K POP 아이돌 위주로 합성되서 돌아다니더라고요
이미 충분히 악용되고 있죠 ㅜ
기술발전은 막을수 없으니 처벌을 강하게 하는 식으로 대책을 세워야겠죠 조작된 사실은 잡을수 있으니
이거 몇 주전에 뉴스에도 나오고
지금은 금지 되었습니다
반대의 경우도 가능한거 아닌가요? 본인이 했는데 본인 아니라며 다른 사람에게 뒤집어 씌울수도 있죠.
검찰 표적수사만 걱정하실게 아니네요. 저건. 저 위의 영상들은 가짜인게 너무 티나지만 나중에 기술발전되서 진본 영상과 구분이 불가능한 수준까지 간다면 검찰 표적수사만 문제되는게 아니라 이미 일반인 수준에서 엄청난 문제가 될겁니다.
어색하긴 한데 목소리까지?
앞으로는 누군가를 판단 할 때는 수십년간 그 사람이 살아온 실제 삶의 궤적을 보고 판단해야 반짝 가짜 뉴스에 당하는 실수를 줄일 수 있겠죠...
물론 아직도 발전중인 기술이긴 합니다만 꽤 상용화가 오래된 기술인데 왜 이제서야 이슈가 되는지.. 세상에 어떤 기술이라도 악용하면 범죄에요. 걱정하시는건 알겠습니다만, 과민반응 하실 필요없음
잘못사용되면 딥빡(deepfak)치겠네요
이거 보이스 피싱에도 현재 사용되고 있어요. 새로운거 아니예요.
그나저나 탐형의 아이언맨은
아이언맨이 눈에 안 들어오네요.
진짜 존 잘인 듯
항상 좋은 무언가가 새로 나오면
반드시 악용하는 이들이 있어요.
간단한 시나리오로, 중국의 CCTV 로 전국민을 감시하는 체제에서
아주 간단히 누군가를 매장시킬 수 있기도 하죠.
길거리에 표적이 범죄를 저지르는 움직임을 그려 넣고는
자, 봐라. 이렇게 니가 한 짓이 딱 찍혔다.
그래 버리면 감당하기 힘들겁니다.