티스토리 뷰
목차
'카르마' 가수의 모습은 최근 르크루제 쿡웨어 무료 증정을 홍보하는 AI 제작 광고에 등장했습니다.
테일러 스위프트가 페이스북과 같은 플랫폼에서 무료 조리기구를 홍보하는 것을 본 소셜 미디어 사용자들은 그들이 클릭하기 전에 광고가 문제가 된다는 것을 알았기를 바랍니다.
스위프트의 승인 도장
스위프트의 승인 도장을 찍는 것처럼 보이는 요리 도구 브랜드 르크루제의 가짜 광고가 최근 몇 주 동안 페이스북과 다른 소셜 플랫폼에 나타났습니다.
그 광고들은 그녀의 목소리와 르크루제 더치 오븐의 이미지를 합성한 그녀의 흩뿌려진 동영상을 사용합니다. "여러분, 테일러 스위프트입니다." 스위프트의 증강된 목소리를 특징으로 하는 가짜 광고가 시작됩니다. "포장 오류 때문에, 우리는 르크루제 요리 도구 세트 3,000개를 판매할 수 없습니다.
그래서 저는 그것들을 저의 충성스러운 팬들에게 무료로 나눠줍니다." 그런 다음 광고는 사용자에게 버튼을 클릭하여 브랜드의 무료 조리기구를 받기 위해 질문에 답하도록 지시합니다.
스위프트의 목소리가 등장하는 페이스북 게시물의 댓글란에는 허위 광고를 만든 사람들이 '증여'를 합법화하기 위해 사용한 다양한 방법들이 강조되어 있었습니다 "10일 안에 들어가세요! 오래 기다리지만 어쨌든 세트는 훌륭합니다! 감사합니다
딥페이크 모델은 어떻게 교육받습니까?
여러분!!" 한 계정은 댓글을 달았습니다. 그러나 다른 사용자들은 광고에 넘어간 경험을 공유하면서 광고가 거짓이라고 재빨리 뛰어들어 소리쳤습니다. 한 사용자는 "바보같이 배송비를 지불했고 요리 도구를 받은 적이 없다"고 말했습니다. "속아 넘어간 것에 대해 창피해요. 하지 마세요!" 스위프트의 대변인들은 논평 요청에 즉각 응답하지 않았고, 메타의 대변인은 TODAY.com 에 광고가 삭제되었다고 말했습니다.
르크루제의 대변인은 NBC 뉴스에 "르크루제는 어떤 소비자 경품에도 테일러 스위프트와 관련이 없다"고 말했습니다. "승인된 모든 르크루제 경품 또는 프로모션은 르크루제 공식 소셜 계정에서 제공됩니다. 소비자들은 의심스러운 광고를 클릭하기 전에 르크루제의 공식 소셜 계정과 웹사이트를 항상 확인해야 합니다." 카네기 멜론 대학의 컴퓨터 과학부와 카네기 멜론 신경과학 연구소의 연구 교수인 데이비드 S. 투레츠키 박사는 르 크로이셋 사기가 테일러 스위프트의 목소리를 속였을 뿐이라고 TODAY.com 에 말합니다. "그것이 사용한 이미지들은 진짜였습니다"라고 그는 설명합니다. "이미지를 만드는 것은 가능하지만 훨씬 더 많은 작업이 필요합니다." 가짜 르크루제 광고는 사기 목적으로 유명인의 얼굴이나 목소리를 가짜로 만들기 위해 인공지능을 이용한 최초의 광고와는 거리가 있습니다.
딥페이크로부터 어떻게 보호할 수 있을까요?
페이스북의 비슷한 사기 광고는 오프라 윈프리(Oprah Winfrey)도 요리 도구 증정 행사를 홍보하는 것을 보여줍니다. 2023년 11월 스칼렛 요한슨(Scarlett Johansson)과 그녀의 법률 팀은 AI 아트 생성자이자 아바타 제조자인 리사 AI(Lisa AI)를 온라인 광고에 그녀의 유사성을 사용한 것으로 추적했습니다. Tourretzky는 이러한 캠페인이 문제가 될 수 있는 만큼 딥페이크가 도착하기 전에 사람들이 비슷한 사기를 치기 위해 음성 사칭자를 고용할 것이라고 강조합니다. "하지만 그렇게 잘 할 수 있고 범죄를 용이하게 할 용의가 있는 사람들을 찾는 것은 어려울 수 있습니다. 컴퓨터를 사용하는 것은 도덕성이 없고 여러분을 당국에 배치시키지 않기 때문에 더 쉽습니다"라고 그는 계속합니다.