ChatGPT와 같은 인공지능(AI) 플랫폼은 그 존재감과 기능이 증가하면서 일반 대중의 큰 관심을 받고 있습니다. 이 기술은 개인들 사이에서 감탄, 좌절, 불안 등 다양한 감정을 불러일으키고 있습니다. 이러한 다양한 감정에도 불구하고 AI의 발전은 되돌릴 수 없으며 다양한 산업에 미치는 영향이 임박했습니다. AI는 단순한 대화형 인터페이스를 넘어 창의적이고 혁신적인 다양한 애플리케이션에 활용되어 수많은 분야에 혁신을 일으키고 있습니다.
인공지능(AI) 기반 컴퓨터 비전(CV)의 통합은 사이버 보안, 특히 피싱 공격에 대응하는 데 있어 추가적인 계층으로 작용합니다.
컴퓨터 비전이란 무엇인가요?
컴퓨터 비전의 활용은 광범위한 텍스트 데이터베이스를 사용하여 생성 프로세스를 통해 인간과 유사한 응답을 생성하는 GPT-Tools(ChatGPT 및 Bing Chat)와 같은 대규모 언어 모델과 공통점을 공유합니다. 이러한 맥락에서 컴퓨터 비전은 이와 유사한 목적으로 방대한 시각 정보 축적을 활용합니다.
이력서(CV)의 개념은 단순히 광범위한 시각적 표현을 모으는 것 이상으로 확장됩니다. 맥락의 통합은 이 프레임워크 내에서 반드시 고려해야 하는 중요한 요소입니다.
AI 챗봇을 위한 대규모 언어 모델에 딥러닝을 활용하면 인간이 시각적 단서를 통해 주변 환경을 이해하는 방식과 매우 유사하게 문맥 요소를 이해할 수 있습니다. 비슷한 맥락에서 컴퓨터 비전(CV)도 이미지의 맥락을 파악하고 해석하는 데 동일한 방법론을 사용합니다. 이는 인간의 시각적 인식의 가속화된 버전이라고 할 수 있습니다.
지속적인 취약성 평가 및 모의 침투 테스트(CV)가 피싱 공격을 탐지하는 데 어떻게 도움이 되는지 설명해 주시겠습니까?
피싱 공격 탐지에 컴퓨터 비전을 사용하는 방법
피싱 공격은 사이버 범죄자들이 가장 일반적으로 사용하는 전술 중 하나가 되었습니다. 기존의 탐지 방법을 통해 이러한 위협에 대응하려는 노력에도 불구하고, 그 효과는 제한적이고 피싱 기법의 고도화로 인해 여전히 불충분합니다. 이 연구는 악성 URL을 식별하기 위해 기존의 오래된 방법을 사용하는 블랙리스트에 의존하는 것으로 알려진 취약점 중 하나를 해결하기 위해 제안합니다.
피싱 사이트가 시작되고 블랙리스트에 추가되는 사이에 짧은 간격만 있어도 심각한 피해가 발생할 수 있기 때문에 블랙리스트를 최신 상태로 유지하는 것이 과제입니다.
여기에 사용된 이력서는 블랙리스트 방법론을 활용하지 않으며, 은닉 악성 코드에 대한 분석도 수행하지 않습니다.오히려 여러 기술을 사용하여 잠재적으로 의심스러운 요소를 식별합니다.
이 시스템은 다양한 전자 서신, 웹페이지 또는 보안 위험이 있을 수 있는 기타 잠재적 소스에서 멀티미디어 콘텐츠를 수집합니다. 수집된 데이터는 컴퓨터 비전 기술을 통해 분석되어 가능한 사이버 위협을 탐지하고 완화하는 데 효율성을 높입니다.
이미지 처리 모듈은 상표/로고 식별, 물체/장면 인식, 문자 감지, 시각적 쿼리 등 몇 가지 중요한 요소에 대한 포괄적인 분석을 포함합니다.
앞서 언급한 평가는 “위험 요소 집계” 프로토콜을 사용하여 잠재적으로 의심스러운 요소를 식별합니다. 이 평가의 결과는 보고서에 플래그가 표시된 대로 강조 표시됩니다.
콘텐츠 가치(CV)가 조사 대상 구성 요소에서 단서를 추출하는 방법론에 대해 자세히 살펴볼 수 있도록 허용합니다.
로고/상표 탐지
사이버 범죄자들의 브랜드 스푸핑 활용이 만연하고 있으며, 악성 이메일에 사용될 수 있는 의심스러운 로고 디자인을 식별하기 위한 컴퓨터 비전 시스템이 개발되고 있습니다. 이러한 시스템은 시각적 단서뿐만 아니라 메시지의 문맥 정보와 긴급성까지 분석하여 잠재적인 피싱 시도를 탐지하는 정확도를 높일 수 있습니다.
이 개념을 설명하기 위해 금융 기관의 엠블럼과 함께 표면적으로 긴급한 명칭이 포함된 이메일을 예로 들면 사기 가능성이 있는 것으로 식별할 수 있습니다. 또한 후보 데이터베이스에서 추출한 예상 결과와 관련하여 엠블럼의 진위 여부를 확인할 수 있습니다.
개체 감지
사기꾼은 버튼이나 양식과 같은 요소의 그래픽 표현을 활용하는 등 다양한 전술을 사용하여 실제 특성을 ‘모호하게’ 하기 위한 다양한 코딩 방법을 사용할 수 있습니다. 또한 이메일이나 웹사이트를 렌더링할 때만 활성화되는 암호화된 스크립트를 사용하여 양식 생성 등의 기능을 수행할 수도 있습니다.
객체 탐지 프로세스에는 웹 페이지 또는 이메일이 표시된 후의 시각적 단서를 분석하는 과정이 포함됩니다. 이 기술은 그래픽 형태로 표시된 경우에도 버튼이나 양식과 같은 다양한 요소를 식별할 수 있습니다. 또한 렌더링 후 객체 감지가 이루어지기 때문에 이메일이나 웹사이트 내의 암호화된 구성 요소도 검사할 수 있습니다.
텍스트 탐지
텍스트는 다양한 방법을 통해 숨길 수 있으며, 사기꾼은 피해자를 속이기 위해 여러 가지 전략을 사용하는 경우가 많습니다.일반적으로 사용되는 몇 가지 수법은 다음과 같습니다:
‘페이지 또는 이메일이 렌더링될 때 제거되는 임의의 문자로 단어 패딩’에 대한 자세한 설명은 첨부된 기술 전문 용어를 참조하세요.
자주 사용되는 텍스트 난독화 방법 중 하나는 ‘맞춤법 오류’ 또는 ‘오타 스쿼팅’이라고 알려져 있습니다. 이는 단어의 철자를 변경하여 유사하지만 의도한 형태와 다르게 보이도록 하는 것입니다. 예를 들어, ‘로그인’과 같이 일반적으로 사용되는 용어의 첫 글자를 대문자 ‘i’로 변경하여 ‘iogin’이라는 단어로 위장할 수 있습니다. 이는 고의적인 수정임을 즉시 알아차리지 못할 수 있으므로 탐지를 회피하려는 사이버 범죄자에게 유용한 도구입니다.
서면 또는 인쇄된 텍스트를 이미지나 차트와 같은 시각적 표현으로 변환하는 과정을 텍스트-그래픽 변환이라고 합니다. 이는 텍스트 콘텐츠로부터 디지털 그래픽을 생성할 수 있는 다양한 기술과 소프트웨어 도구를 통해 달성할 수 있습니다.
고급 텍스트 분석 기술(광학 문자 인식에 사용되는 것과 비슷하지만 상당히 향상된 기술)을 활용하여 CV는 비밀번호, 계정 세부 정보, 로그인 등 민감한 정보를 나타내는 키워드를 식별할 수 있습니다. 이 프로세스는 페이지 렌더링 이후에 실행되므로 모든 콘텐츠를 면밀히 조사하고 분석할 수 있습니다.
시각적 검색
이 구성 요소는 포괄적인 피싱 방지 툴킷의 필수적인 부분을 구성하지만, 그 기능은 참조 정보의 활용에 따라 달라집니다. 따라서 기록된 데이터의 정확성과 완전성에 따라 그 효과가 제한되며, 블랙리스트 접근 방식을 기반으로 하는 다른 시스템과 동일한 취약점을 공유합니다.
이 접근 방식은 비교 목적으로 참조할 수 있는 검증된 유리한 이미지(KGI)와 불리한 이미지(KBI)의 모음으로 구성된 ‘템플릿’을 사용하여 이상 징후를 나타낼 수 있는 표준 편차를 식별할 수 있도록 합니다.
컴퓨터 비전은 독립형 피싱 방지 시스템인가요?
현재 귀하의 문의에 대한 답변은 부정적입니다. CV를 추가 보호 수단으로 사용하는 것은 현재 사업장으로 제한되어 있습니다.
지속적인 취약성 분석(CV)을 통합하면 블랙리스트 및 코드 기반 탐지와 같은 기존 방법에만 의존하지 않고 실시간 위협 탐지 기능을 제공하여 조직에 향상된 보호 기능을 제공할 수 있습니다. 이 혁신적인 접근 방식은 데이터 안전을 유지하는 데 필수적인 사이버 범죄와의 지속적인 전쟁을 지원합니다.
최근 인공지능의 발전, 특히 ChatGPT와 같은 인공지능 기반 챗봇의 급격한 부상과 관련하여 이 분야에 대한 예후를 예측하는 것은 여전히 어려운 일임이 분명합니다. 그럼에도 불구하고 우리는 그렇게 하려고 노력할 것입니다.
피싱 방지 무기로서 컴퓨터 비전의 미래는 어떻게 될까요?
CV 안티피싱 기술의 구현은 AI 기반 챗봇의 등장에 비해서는 덜 화려하지만 기술 채택 곡선을 따라 발전하고 있습니다.
최근에는 클라우드 기반 솔루션으로 배포하거나 온사이트 서비스로 운영하는 데 필요한 네트워크 아키텍처와 데이터 전송 용량을 갖춘 대규모 조직에 기술 역량이 주로 제한되어 있었습니다.
반대로 이 진술은 더 이상 유효하지 않게 되었습니다.
모든 규모의 비즈니스에 다양한 옵션을 제공하는 엔터프라이즈 지향 구독 서비스가 점점 더 많이 등장하고 있습니다. 오늘날의 클라우드 컴퓨팅 세계에서는 원격으로 위치한 디바이스의 보안을 보장하는 것이 필수적이 되었습니다. 다행히도 이러한 보호 기능을 제공하는 서비스가 점점 더 많아지고 있습니다.
현재로서는 이 기술을 개인용 컴퓨팅 장치에 통합하는 것이 불가능할 수도 있지만, 인공지능 모델의 정교함과 접근성이 빠르게 발전함에 따라 가까운 미래에 이 기능을 가정에서 사용할 수 있게 될 것입니다.
당면한 결정적인 요소는 단지 타이밍일 뿐이라는 데는 의심의 여지가 없습니다.
컴퓨터 비전: 보는 것이 보호다
최근 인공지능(AI)의 발전은 미디어의 큰 관심을 받고 있으며, ChatGPT, 빙챗, 구글 바드 등 여러 AI 기반 플랫폼이 이 분야의 선두주자로 부상하고 있습니다. 이러한 혁신적인 기술은 그 영향력이 완전히 가시화될 즈음에는 우리가 정보를 획득하고 활용하는 방식에 상당한 변화를 가져올 것으로 예상됩니다.
지속적 가시성(CV)에서 예시된 것과 같이 덜 과시적인 기술 발전도 꾸준히, 그러나 확실하게 디지털 환경에 그 흔적을 남기고 있습니다. 피싱 공격으로 인한 만연한 위협을 완화하는 데 도움이 될 수 있는 모든 혁신의 통합은 분명 주목할 만한 긍정적인 발전입니다.