인공지능(AI)이 생성한 이미지의 검증은 DALL-E, 미드저니, 스테이블 디퓨전 등 AI 이미지 생성 기술의 발전으로 인해 점점 더 어려워지고 있습니다. 그러나 조작된 사진을 탐지하는 것과 마찬가지로 AI가 생성한 시각적 콘텐츠의 특징적인 특징을 파악할 수 있습니다.
이러한 이미지에는 실제로 식별할 수 있는 특이한 시각적 불규칙성이 나타나는 경우가 드물지 않습니다. 경우에 따라 이미지에 첨부된 텍스트에 인공지능의 활용이 명시적으로 언급되어 있는 경우도 있으므로 이 정보를 확인하는 것이 현명합니다. 최후의 수단으로 인공지능 기반 이미지 감지 도구를 사용하여 조작 여부를 식별할 수 있습니다.
제목, 설명, 댓글 섹션(태그 포함) 확인
닫기
모든 사용자가 이미지 게시물에서 인공지능 활용을 공개하는 것에 동의하는 것은 아니지만, 그렇게 하기로 선택한 사용자는 콘텐츠의 제목 또는 설명 영역에 그러한 정보가 포함되어 있음을 확인할 수 있습니다.
크리에이터가 특정 인공지능이 생성한 예술 작품에 대한 사고 과정이나 의도에 대한 추가 세부 정보를 제공했을 수 있으므로 댓글 섹션에 잠재적인 추가 정보 소스가 있습니다. 예시적인 예는 앞서 제시된 비주얼에서 찾을 수 있으며, 각 예술 작품을 제작하는 데 활용된 포괄적인 지침이 명확하게 설명되어 있어 다양한 AI 생성 예술 개념을 탐색하려는 사람들에게 통찰력 있는 참고 자료가 될 수 있습니다.
이미지에 대한 추가 정보를 조사하면 이미지의 인공적인 특성을 나타내는 추가 징후를 발견할 수 있습니다. 예를 들어, 사용자의 프로필 페이지를 살펴보면 인기 있는 AI 아트 생성기와 연관된 ‘미드저니’ 또는 ‘DALL-E’와 같은 키워드와 같은 통찰력 있는 힌트를 제공하는 경우가 많습니다.
DeviantArt와 같은 특정 온라인 아트 플랫폼은 인공지능을 사용하여 생성된 작품 전용 섹션을 별도로 마련하여 인공지능으로 제작된 비주얼 콘텐츠의 급증에 대응하고 있습니다. 이미지의 내용뿐만 아니라 제작자가 이미지를 분류하기 위해 사용한 키워드나 라벨에도 주의를 기울이는 것이 중요합니다.
인스타그램과 그 전신인 X(이전의 트위터)와 같은 소셜 미디어 플랫폼에서는 해시태그를 사용하여 이미지에 특정 키워드를 태그할 수 있습니다. 이러한 태그의 예로는 #AI, #미드저니, #Dall-E 등이 있습니다.
워터마크 찾기
워터마크의 존재를 통해 AI가 생성한 이미지임을 알 수 있습니다.제공된 예와 같이 DALL-E 2의 플랫폼에서 이미지를 가져오는 경우, 이러한 워터마크는 육안으로는 즉시 식별할 수 없지만 다운로드한 각 이미지에 체계적으로 통합되어 있습니다.
묘사된 장면의 오른쪽 하단 사분면에는 황금색, 청록색, 에메랄드색, 진홍색, 청록색의 색조를 나타내는 5개의 연속된 세그먼트가 그룹화되어 있는 것을 관찰할 수 있습니다. 상상 속 구성에 이러한 워터마크가 있다는 것은 인공 지능을 통해 생성되었다는 명백한 증거가 됩니다.
문제는 방법만 알면 워터마크 없이 동일한 이미지를 다운로드하는 것이 매우 쉬우며, 그렇게 하는 것이 OpenAI의 정책에 위배되지 않는다는 것입니다. “작품의 성격에 대해 다른 사람을 오도하지 않는 한” 말입니다. 예를 들어, 직접 만들었거나 실제 사건의 사진이라고 설명하는 것이 좋습니다. 이 외에도 OpenAI의 가이드라인 에 따라 워터마크를 제거할 수 있습니다.
이와는 대조적으로, 미드저니는 워터마크를 사용하지 않기 때문에 AI가 생성한 이미지에 대한 신용 부여 결정을 전적으로 사용자의 재량에 맡기고 있습니다.
이미지에서 AI 왜곡 검색
처음 검사할 때는 AI가 생성한 이미지에서 특이한 시각적 단서가 있는지 쉽게 관찰하지 못할 수 있지만, 자세히 살펴보면 이러한 이상 징후가 점점 더 분명해집니다.
처음 관찰했을 때는 사진 속 식탁에 개들이 둘러앉아 있는 것처럼 보이지만, 자세히 살펴보면 특정 개의 구슬이 소켓에서 빠져 있고 다른 개는 흐릿하게 흐릿하게 보이는 것을 알 수 있습니다.
실제로 인상주의 그림이 일반적인 분위기나 분위기를 불러일으키기 위해 짧은 붓질에 의존하는 것처럼, AI로 생성된 예술도 간결한 요소를 사용하여 더 넓은 표현을 만들어내는 경우가 많습니다. 이러한 작품을 제대로 감상하려면 인상주의 캔버스를 볼 때와 마찬가지로 작품에서 상당한 거리를 유지하는 것이 좋습니다. 마찬가지로 인위적인 수단을 통해 렌더링된 인물을 볼 때 일반적으로 미묘한 뉘앙스를 통해 합성된 인물의 기원을 알 수 있습니다.
예를 들어 이 사람은 존재하지 않습니다 웹 사이트에서 가져온 위의 AI 생성 얼굴을 자세히 살펴보세요. 이상한 점을 발견하셨나요? 안경이 없는 부분과 안경이 피부와 섞여 있는 것처럼 보이는 기괴한 모습을 제외하면 누구라도 실제 사람의 사진이라고 생각할 수 있습니다.
AI 시스템 성능의 잠재적 개선에도 불구하고 한 가지 재미있는 관찰, 즉 최고 수준의 AI 아트 크리에이터가 사람의 손을 묘사할 때 직면하는 어려움은 여전히 일관되게 유지되고 있습니다. 그들의 결과물을 살펴보면 이 부분에 대한 숙련도가 현저히 부족하다는 것을 쉽게 알 수 있습니다.
추가 숫자는 분명한 징후이지만 다른 요인도 작용하고 있습니다. 그것은 부속물의 방향이나 묘사 내의 요소와 상호 연관되는 방식과 관련이 있을 수 있지만, 이러한 모양이 자연스럽거나 의인화된 것으로 간주되는 것과 크게 벗어난다는 것이 분명해집니다.
매우 사실적인 개인 묘사와 관련하여 다음과 같은 다양한 인공 지능 지표를 관찰할 수 있습니다:
한 쌍의 보완적인 귀걸이가 없으면 불완전한 외모를 초래하여 불균형과 시각적 부조화를 일으킬 수 있습니다.
흐릿한 배경은 실제 장면이 아닌 질감이 있는 표면을 연상시킵니다.
배경의 텍스트가 읽을 수 없거나 이해할 수 없는 것처럼 보입니다.
치아의 배열이 잘못되어 있고 눈 크기 사이에 불일치가 있는 경우 비대칭적인 얼굴 특징이 관찰될 수 있습니다.
사진 이미지가 특정 영역에서 회화적인 품질을 나타내며, 마치 캔버스에 생생한 색상과 숙련된 붓질로 세심하게 붓질한 예술 작품과 같은 느낌을 줍니다.
반지나 목걸이와 같은 액세서리가 피부색과 자연스럽게 어우러지는 것은 바람직한 미적 품질입니다.
손에 숫자가 더 있거나 손이 비뚤어지고 부자연스럽게 변형되어 보일 수 있습니다.
인공지능이 생성한 콘텐츠의 지표를 탐지하기 위해 부지런히 경계하더라도 진위 여부를 식별하는 것은 때때로 어려울 수 있으므로 사기성 미디어를 식별하는 능력을 연마하기 위한 추가 교육이 필요합니다.
AI 이미지 검출기 사용
디지털 이미지의 출처를 확인하는 문제를 해결하려는 개인이 점점 더 많아짐에 따라 Optic과 같은 여러 기업이 이러한 목적을 위해 사용자 친화적인 온라인 리소스를 제공하는 기업으로 등장했습니다.
AI or Not 웹 도구 를 사용하면 이미지를 끌어다 놓으면 AI를 사용하여 생성된 이미지인지 빠르게 확인할 수 있습니다. 이 도구는 가장 큰 AI 아트 생성기인 미드저니, DALL-E 및 스테이블 디퓨전의 이미지를 감지할 수 있다고 주장합니다.
결과는 불완전하기 때문에 신중하게 보아야 하지만, 평가 결과 이 특정 도구는 동일한 카테고리의 이전 반복에 비해 성능이 개선된 것으로 나타났습니다. 그러나 여전히 잘못된 분석 결과를 다수 생성하여 추측보다 약간 더 정확도가 떨어지는 것으로 나타났습니다.
현재 연구 결과의 일관되지 않은 특성을 고려할 때, 이미지가 인공지능에 의해 생성되었는지 여부를 판단하기 위한 다각적인 접근 방식이 유리할 수 있습니다. 이 방법을 다른 기술과 함께 사용하면 정확성과 신뢰성을 향상시킬 수 있는 잠재력을 실현할 수 있습니다. 이 특정 이미지 검출기는 이 분야의 향후 발전에 대한 유망한 전망을 나타내며, 진행 상황을 지속적으로 모니터링할 필요가 있습니다.
이 분야에서도 점차 발전이 이루어지고 있습니다. 마이크로소프트가 딥페이크 탐지 툴을 출시하면서 주요 기업들이 인공지능이 생성한 이미지를 식별하기 위한 접근 가능하고 사용자 지향적인 리소스를 제공하기 시작할 것이라는 낙관적인 전망이 나오고 있습니다.
향후 예상되는 사항
의심할 여지 없이 인공지능이 생성한 이미지의 발전은 가까운 미래에 크게 진전될 것으로 예상되며, 일상적인 검사에서 현실과 구분할 수 없을 정도로 사실적인 수준으로 발전할 것입니다. 따라서 실제 이미지와 합성 이미지를 구분하는 수단으로 시각적으로 식별할 수 있는 차이에 의존하는 것은 더 이상 쓸모가 없어질 수 있습니다.
실제로 그 시점에서는 앱과 웹사이트를 통해 자동화된 검증 프로세스를 가능하게 하는 첨단 기술의 등장으로 인해 그러한 서비스가 쓸모없게 될 것으로 예상됩니다. 이는 본질적으로 현재 이미지 검색을 역추적하여 출처를 식별하는 기능과 유사합니다.
현재 관행에 비추어 볼 때, 인공지능을 활용하여 시각적 콘텐츠를 제작하는 업체들은 OpenAI의 참여에 대해 투명하게 공개할 것을 권장합니다. 이러한 투명성은 작품의 제목이나 설명에 간단한 공개를 포함함으로써 쉽게 달성할 수 있습니다.
DALL-E나 미드저니와 같은 인공 지능 프로그램에 의해 실제로 생성된 예술 작품의 창작에 대해 허위로 크레딧을 주장하는 것은 비윤리적일 수 있습니다.
인공지능이 생성한 이미지 발견하기
인공지능이 생성한 이미지의 발전 속도가 빨라지면서 특정 예술 작품이 기계에 의해 생성되었는지 아닌지를 구분하는 것이 점점 더 어려워지고 있습니다. 따라서 특정 예술 작품의 출처가 사람인지 인공적인지 판단하려면 예리한 관찰력과 조사 기술이 필요합니다.
이미지의 제목, 설명 및 관련 키워드와 같은 메타데이터를 검토할 때 인공지능에 대한 언급이 있는지 면밀히 살펴봐야 합니다. 또한 사진 자체를 육안으로 검사하면 디지털 워터마크나 비정상적인 아티팩트 등의 형태로 인공지능 조작의 흔적을 발견할 수 있습니다. 머신 러닝 알고리즘을 활용하여 AI가 생성한 콘텐츠를 탐지하는 최신 소프트웨어 프로그램이 존재하지만, 이러한 기술은 계속 발전하고 정확성과 신뢰성이 향상되고 있으므로 그 결과를 해석할 때는 주의를 기울이는 것이 중요합니다.
궁극적으로 특정 이미지가 인공지능에 의해 생성되었는지 여부를 판단하기 위해서는 다양한 방법론을 통합한 시너지 효과를 내는 접근 방식을 채택하는 것이 필수적입니다.