유명 아티스트의 신곡이 소셜 미디어에서 입소문을 타고 있는데, 성우 복제품이 노래를 부를 때를 제외하고는 일반적으로 문제가 되지 않습니다. 소셜 미디어는 마지막까지 버텨온 매체 중 하나였지만, 딥페이크 음악은 이제 현실이 되었습니다.
가수의 목소리로 AI 모델을 학습시키는 방식으로 작동하며, 그 결과가 항상 나쁘지는 않습니다. 딥페이크 노래를 만드는 데는 많은 창의력이 필요하지만, 문제는 결과물에만 있는 것이 아닙니다. 많은 경우 허가를 받지 않은 경우가 많고, 누가 돈을 받는지, 윤리적인지에 대한 의문도 딥페이크 음악의 문제 중 일부에 불과합니다.
승인되지 않은 데이터 세트
유명 아티스트의 딥페이크 트랙을 만들려면 해당 아티스트의 노래 목소리가 담긴 오디오 파일을 데이터 세트로 수집해야 합니다. 누군가의 소유인 데이터와 마찬가지로 사용 허가를 받아야 하지만, 무단으로 데이터 세트를 사용한 딥페이크 곡이 YouTube, Spotify 또는 TikTok과 같은 대형 음악 플랫폼에 올라갈 수 있습니다.
아티스트 드레이크와 위켄드에게 이런 일이 벌어진 것은 고스트라이터라는 사용자가 “Heart on My Sleeve”를 만들었을 때였습니다. 이 히트곡은 아티스트의 AI 합성 목소리에 위켄드의 전 여자친구에 대한 가사를 더해 완성되었습니다.
이 노래는 딥페이크 보컬을 창의적으로 사용한 고스트라이터에게 찬사를 보내며 팬들에게 큰 사랑을 받았지만, 시애틀 타임즈 보도 , 모두가 그렇게 생각한 것은 아닙니다. 두 아티스트의 메이저 레이블인 유니버설 뮤직 그룹의 대변인은 이렇게 묻습니다:
“음악 생태계의 이해관계자들은 아티스트, 팬, 인간의 창의적 표현의 편에 서기를 원합니까, 아니면 심각한 가짜, 사기, 아티스트의 정당한 보상을 거부하는 편에 서기를 원합니까?”
낡은 저작권법
자신의 목소리가 복제되는 것을 원하지 않는 아티스트에게는 저작권법이 아직 도움이 되지 않을 수 있습니다. 우리의 저작권법은 이러한 유형의 AI 기술이 존재하지 않았던 시기에 만들어졌기 때문에 법이 여전히 따라잡기 위해 노력하고 있는 것은 놀라운 일이 아닙니다.
미국에서 ‘음성 도용’에 대한 가장 가까운 법적 사례는 1990년대로 거슬러 올라갑니다. 로스앤젤레스 타임즈 에서 보도한 바와 같이 가수 톰 웨이츠는 도리토스, 치토스, 크래커 잭스 등을 생산하는 거대 칩 회사인 프리토레이사로부터 247만 5천 달러의 손해배상을 받았습니다.
이 광고는 사람들이 실제 아티스트가 광고 캠페인의 배후에 있다고 믿을 수 있을 정도로 톰 웨이츠와 비슷하게 들리는 사람의 목소리를 사용했습니다. 현재 유포되고 있는 딥페이크 노래도 마찬가지이지만, 인공지능 음악은 아직 법적 분쟁에서 검증되지 않았습니다.
법적 시스템이 업데이트되기를 기다리는 동안, Holly Herndon 을 예로 들어 모든 사람이 자신의 목소리를 복제하는 데 문제가 있는 것은 아니라는 점에 유의할 필요가 있습니다. 그녀는 다가오는 AI 음악 애플리케이션의 물결에 직면하여 공정한 보상을 제공하는 시스템과 함께 Holly+라는 자신의 보컬 쌍둥이를 승인하기로 결정했습니다.
어느 쪽을 택하든 문제는 동일하게 남아 있습니다. 아티스트의 목소리를 사용하기 전에 반드시 아티스트의 허락을 받아야 한다는 구체적인 저작권법은 없습니다. 그 전까지는 아티스트는 AI 기술의 미개척지나 다름없는 야생의 서부에 놓이게 될지도 모릅니다.
누가 돈을 받나요?
다른 사람의 목소리를 사용해 음악으로 돈을 벌어도 괜찮나요? 더 많은 딥페이크 음악이 스트리밍 플랫폼에 게시되고 소셜 미디어 플랫폼에서 수익을 창출함에 따라 더 큰 문제가 될 수 있는 까다로운 질문입니다.
우리 모두 알다시피 유명 곡의 커버곡을 불러서 유튜브나 스포티파이에 올리는 것은 괜찮고, 이 경우 가사, 곡의 구조, 멜로디, 리듬 등이 복사됩니다. 하지만 보컬 클론은 완전히 다르며, 딥페이크 음악은 기존 곡을 그대로 베끼는 것이 아니라 다른 사람의 목소리를 사용하여 완전히 새로운 곡을 만드는 것입니다.
다시 말해, AI 도구와 무단 데이터 세트가 없었다면 보이스 클론은 존재하지 않았을 것입니다. 아티스트는 평생 동안 타고난 목소리를 연마하고 독특한 사운드를 만들기 위해 노력합니다. 다른 사람의 목소리를 훔쳐서 돈을 버는 것은 지나친 행동일 수 있습니다.
회색 영역 장르
복잡하게도 일부 사람들은 딥페이크 음악을 완전히 나쁘다고 생각하지 않을 수도 있습니다. 휴대폰에서 잠깐 웃고 지나치는 딥페이크 이미지나 동영상과 달리, 딥페이크 음악은 독자적인 장르로 발전하고 있습니다.
어떤 사람들은 이를 아티스트에게 경의를 표하는 재미있고 창의적인 방법인 팬픽션 작성에 비유하기도 합니다. 딥페이크 음악을 단순히 금기시하기 어렵다는 긍정적인 시각도 있습니다. 아래 동영상에서 홀리 헨든의 AI 음성 복제에 대한 접근 방식을 살펴보세요.
모든 사람이 이러한 유형의 음악을 허용해야 한다는 데 동의하는 것은 아닙니다. 파이낸셜 타임즈에 따르면 메이저 음반사인 유니버설 뮤직 그룹은 스트리밍 플랫폼에서 AI가 만든 곡을 포함한 저품질의 곡을 삭제하는 것을 목표로 하고 있습니다. 결국 Spotify, Apple Music 또는 Tidal과 같은 스트리밍 플랫폼은 이러한 장르의 음악을 플랫폼에서 허용할지 여부를 결정해야 할 것입니다.
딥페이크 음악은 이미 예술계에서 벌어지고 있는 비슷한 논쟁에 불을 지피고 있습니다: AI가 생성한 예술을 예술로 간주해야 할까요? 이제 우리는 AI 음악에 대해 의문을 제기하고 있습니다.
인종과 정체성에 대한 윤리적 우려
랩 음악을 모방한 음악이 쏟아지면서 딥페이크 음악의 시대가 열렸습니다. 딥페이크 음악의 역사적 뿌리는 1970년대 초 뉴욕 브롱크스에서 자란 흑인 청년들에게서 찾을 수 있지만, 일부 사람들은 인공지능 음악의 인종과 정체성에 대해 우려하고 있습니다.
작가 로렌 샤넬 , 딥페이크 음악이 심각한 문제라고 생각하는 사람 중 한 명입니다. 뉴욕 타임즈 기사 에서 인용한 것처럼 다음과 같이 설명합니다:
“흑인이 아닌 사람들이 흑인의 의상을 입고 카니예나 드레이크의 손을 들어 꼭두각시로 만드는 것은 또 다른 방법이며, 이는 저에게 경악스러운 일입니다.” “이것은 역사적으로 흑인이 만드는 예술을 만드는 데 필요한 것을 과소평가하는 사람들의 긴 행렬 중 또 다른 예일 뿐입니다.”
AI 도구로 만든 음악이 윤리적이지 못한 것은 이번이 처음이 아닙니다. 롤링스톤 매거진에 보도된 바와 같이 FN 메카라는 가상 아바타 래퍼가 한 레이블과 계약했다가 온라인 시민권 단체인 인더스트리 블랙아웃이 이 프로젝트가 백인 문화에 대한 “심각한 고정관념”을 영속화한다고 지적하자 곧 계약이 취소된 바 있습니다.
오히려 딥페이크 음악은 AI 도구가 음악 제작의 역사와 분리될 수 없으며, 이를 무시하면 AI 딥페이크의 위험성이 더욱 커진다는 사실을 상기시켜 줍니다.
아티스트에게 해를 끼침
간과해서는 안 되는 한 가지는 딥페이크 노래가 아티스트에게 미칠 수 있는 정서적 영향입니다. 특히 음성 복제가 일어나지도 않은 상황에 대해 노래하고, 자신의 것이 아닌 감정을 표현하고, 관심 없는 것에 관심을 갖는 척할 수 있는 경우 더욱 그렇습니다.
가짜 드레이크 노래 ft. The Weeknd의 경우, 가사에 위켄드와 사귀었던 셀레나 고메즈에 대한 대사가 포함되어 있었습니다. 실제 사실과 지어낸 가사를 혼합하여 실제 경험을 겪은 아티스트에게 해가 될 수 있는 이상한 현실 왜곡이었습니다.
마찬가지로, AI 텍스트 생성기를 사용하여 유명인의 ‘스타일’로 AI가 생성한 가사를 제작하는 것은 일부 아티스트들로 하여금 AI 기술 사용에 대해 절망하게 만들었습니다. 닉 케이브의 말처럼 , “이 경우 ChatGPT는 비극으로서의 복제에 불과합니다.”
딥페이크 음악은 아티스트가 한 번도 말하지 않았거나 이 경우 노래하지 않은 단어를 입에 넣을 수 있습니다. 개인적으로는 법정으로 소송을 제기하지 않고는 콘텐츠를 삭제할 수 있는 권한이 거의 없는 아티스트에게 피해를 줄 수 있습니다.
음악 산업의 변화에 대비하기
AI 도구에 대한 접근성이 높아짐에 따라 음악은 특히 음성 복제를 통해 딥페이크의 세계로 들어섰습니다. AI 목소리와 사람의 목소리를 듣는 것만으로 구분하는 것은 매우 어렵기 때문에 딥페이크 곡이 스트리밍 플랫폼에 도달한 후 삭제되기까지 시간이 오래 걸립니다.
한편으로는 팬들이 딥페이크 음악을 즐길 수도 있고, 유명인의 목소리를 사용하여 새롭고 흥미로운 음악을 만드는 유효한 장르가 등장할 수도 있습니다. 하지만 모든 아티스트가 자신의 목소리를 복제하는 것에 동의하는 것은 아니며, 사람들이 무단으로 데이터 세트를 만드는 것을 막을 수 있는 법도 없습니다.
동의를 구하고, 아티스트에게 보상하고, 윤리적 문제를 조사하는 것은 아티스트와 음악 산업이 직면한 몇 가지 문제일 뿐입니다. 인공지능 기술의 급속한 발전과 함께 인공지능이 만들어낸 문제들에 대해 잠시 멈춰서 생각해 볼 필요가 있습니다.