빠른 링크
주요 내용
나이트쉐이드는 디지털 창작물을 기계 학습 목적으로 사용할 수 없게 만들어 손상시키는 최첨단 인공 지능 기기입니다. 이 혁신적인 기술은 디지털 예술 작품을 효과적으로 약화시켜 AI 모델 학습 프로세스에 통합되는 것을 방지합니다.
이 도구는 사람이 인지할 수 없을 정도로 미묘한 방식으로 디지털 아트웍을 수정하지만, 인공지능 알고리즘에 혼란을 유발합니다.
디지털 콘텐츠 제작자가 자신의 저작물이 인공지능 데이터 세트에 무단으로 포함되지 않도록 보호하여 사전 동의 없이 활용되지 않도록 하는 메커니즘을 제공하는 Nightshade.
인공지능은 최근 몇 년 동안 혁신적인 진화를 거듭하여 대화를 수행하고, 인간과 유사한 문장을 작성하고, 혼자만의 용어에서 시각적 표현을 생성할 수 있게 되었습니다. 그럼에도 불구하고 이러한 AI 기술이 활용하는 교육용 데이터는 특히 DALL-E, Midjourney 등과 같은 텍스트-이미지 합성기와 관련하여 보호된 리소스에서 파생되는 경우가 많습니다.
원본 아트웍이 생성형 인공지능 시스템의 학습 데이터로 활용되지 않도록 보호하는 것은 특히 다양한 분야의 크리에이터에게 힘든 작업으로 알려져 있습니다. 하지만 이러한 유형의 알고리즘이 생성한 결과를 손상시키지 않도록 특별히 설계된 무료 AI 애플리케이션인 Nightshake가 새롭게 개발되었습니다. 이 혁신은 아티스트가 자신의 작품에 대한 통제권을 되찾고 무단 사용을 방지할 수 있는 수단을 제공합니다.
AI 중독이란 무엇인가요?
인공지능의 학습 데이터가 의도적으로 잘못된 정보로 손상되어 오작동을 일으키고 이미지를 정확하게 식별하는 능력이 저하되는 것을 AI 중독이라고 합니다. 고의적으로 허위 정보를 제공하는 것과 유사하게, 이 과정에서 AI 시스템의 성능에 결함이 발생합니다. 나이트셰이드와 같은 도구를 활용하면 디지털 사진의 픽셀 배열을 수정하여 학습 단계에서 AI에게 크게 변경된 것처럼 보이도록 하면서도 사람이 인식할 수 있는 진위 여부는 대부분 유지할 수 있습니다.
통덴 스튜디오/ 셔터스톡
개인이 오염된 자동차 사진을 광활한 월드와이드웹에 업로드하면 인간의 시각에서는 구별할 수 없는 것처럼 보일 수 있습니다.그러나 인공지능이 온라인에 게시된 자동차의 시각적 표현을 분석하고 분류하여 스스로 학습하는 과정에 있다면, 인공지능은 크게 다른 현실을 인식하게 될 것입니다.
인공지능의 교육 데이터 세트에 불충분하게 적은 수의 허위 또는 손상된 시각적 예시를 도입하는 것은 인공지능의 주제에 대한 이해를 저해하여 제공된 프롬프트에 따라 대상을 정확하게 표현하는 능력에 부정적 영향을 미칠 수 있습니다.
향후 생성형 인공지능의 궤적에 대한 불확실성이 남아 있지만, 원본 디지털 콘텐츠를 보호하는 것은 명백히 필수적입니다. 유감스럽게도 기초 학습 데이터가 완전히 정확하지 않은 것으로 판명되면 후속 모델 반복의 무결성이 손상될 수 있습니다.
이 방법을 사용하면 아티스트는 접근 권한을 제한하여 AI 모델에서 자신의 작품이 무단으로 사용되는 것을 방지할 수 있습니다. 일부 플랫폼에서는 콘텐츠 제작자가 자신의 저작물을 AI 학습 데이터에서 제외할 수 있는 옵션을 제공하지만, AI 모델을 개발하는 사람들이 이러한 기본 설정을 무시하는 경우가 많다는 증거가 있습니다. 이러한 단속의 부재는 AI 사용을 규제하려는 현재의 노력이 개인정보 보호 문제를 적절히 해결하고 있는지에 대한 의문을 제기합니다.
시카고 대학교의 저명한 컴퓨터 과학 교수인 벤 자오가 개발한 나이트셰이드는 인공지능 기반 복제로부터 디지털 예술 작품을 보호하는 데 있어 글레이즈와는 다른 접근 방식을 취하고 있습니다. Glaze는 AI 알고리즘이 특정 이미지의 스타일을 복제하지 못하도록 방해하는 반면, Nightshade는 사진의 시각적 측면을 변형하여 AI 시스템이 인식하기 어렵고 모방하기가 더 어렵게 만듭니다.
나이트셰이드 사용 방법
제작자가 개발한 디지털 이미지 보호 솔루션인 나이트셰이드는 Glaze와 함께 사용하거나 독립적으로 사용하여 효과적인 작품 보호 수단으로 활용할 수 있습니다. 신청 절차는 매우 간단하며 간단한 3단계만 거치면 Nightshade를 사용하여 시각적 콘텐츠를 보호할 수 있습니다.
그럼에도 불구하고 작업을 시작하기 전에 몇 가지 고려 사항을 염두에 두는 것이 중요합니다.
⭐ Nightshade는 제한된 GPU 지원과 최소 4GB의 VRAM이 필요한 Windows 및 MacOS에서만 사용할 수 있습니다. 현재 엔비디아가 아닌 GPU와 인텔 Mac은 지원되지 않습니다. Nightshade 팀에 따르면 지원되는 Nvidia GPU 목록은 개입니다(GTX 및 RTX GPU는 “CUDA 지원 GeForce 및 TITAN 제품” 섹션에서 확인할 수 있습니다). 또는 CPU에서 Nightshade를 실행할 수도 있지만 성능이 느려질 수 있습니다.
NVIDIA GeForce GTX 1660, 1650, 1550과 같은 GPU를 보유한 개인은 PyTorch 소프트웨어 내에서 Nightshade의 올바른 실행 또는 사용을 방해하는 불일치가 발생할 수 있습니다. Nightshade 개발자는 TensorFlow로 마이그레이션하여 이 문제를 해결할 계획이지만, 현재로서는 즉각적인 해결책이 없습니다. 이 문제는 이러한 그래픽 처리 장치의 비-Ti 및 Ti 변형 모두에 해당됩니다. 프로그램을 시작하기 위해 Windows 11 컴퓨터에 관리자 권한을 부여하고 프로그램이 시작될 때까지 몇 분간 기다렸습니다. 그러나 결과는 개별 상황에 따라 다를 수 있습니다.
아트웍에 많은 솔리드 요소와 광범위한 배경 영역이 포함된 경우 아티팩트라고 하는 왜곡이 발생할 수 있습니다. 이 문제를 완화하려면 이미지 품질을 유지하면서 이러한 원치 않는 시각 효과를 효과적으로 최소화할 수 있는 ‘포이즌’ 적용 시 강도를 낮추는 것을 고려해 보세요.
Windows 또는 Mac 운영 체제에서 Nightshade를 사용하여 시각적 콘텐츠를 보호하려면 아래 제공된 지침을 따르세요. 이 지침은 Windows 플랫폼에 맞게 조정되었지만 macOS 버전에도 여전히 적용된다는 점에 유의하세요.
⭐ Nightshade 다운로드 페이지 에서 Windows 또는 macOS 버전을 다운로드하세요.
Nightshade는 추가 설정이나 설치 절차가 필요 없는 미리 컴파일된 아카이브 형태로 쉽게 다운로드할 수 있습니다. 다운로드 프로세스가 완료되면 ZIP 파일의 내용을 압축을 풀고 “Nightshade.exe”라는 실행 파일을 클릭하여 실행하기만 하면 됩니다.
⭐ 왼쪽 상단의 선택 버튼을 클릭하여 보호할 이미지를 선택하세요. 일괄 처리를 위해 한 번에 여러 이미지를 선택할 수도 있습니다. 
강도와 렌더링 품질 설정은 독성 효과의 강도와 결과 이미지의 시각적 품질에 모두 영향을 미치므로 개인 취향에 따라 조정하세요. 이 값을 높이면 중독 효과의 강도가 높아지지만 이미지에 아티팩트가 발생할 수도 있습니다.
‘출력’ 섹션에 있는 ‘다른 이름으로 저장’ 버튼을 클릭하면 생성된 출력을 저장할 위치를 선택하라는 메시지가 표시됩니다.
인터페이스 하단에 있는 “Nightshade 실행” 버튼을 클릭하여 프로세스를 시작하고 선택한 이미지 파일을 악성 코드로 감염시킵니다.
사용자는 선택한 콘텐츠의 태그로 특정 단어를 선택할 수 있습니다. 사용자가 특정 단어를 선택하지 않으면 Nightshade는 콘텐츠의 자동 감지를 기반으로 추천 태그를 생성합니다.그러나 사용자는 필요한 경우 생성된 태그를 자유롭게 수정할 수 있습니다. 이 기능은 나이트셰이드를 통해 단일 이미지를 처리할 때만 적용됩니다.
이 기술을 활용하면 육안으로는 구분할 수 없지만 인공지능 시스템이 인식하는 것과는 상당히 다른 시각적 표현을 생성할 수 있으므로, 생성형 인공지능 알고리즘의 잠재적 위협으로부터 창작물을 안전하게 보호할 수 있습니다.