언어 모델의 발전으로 온라인에서 봇과 사람의 상호작용을 구분하는 것이 점점 더 어려워지고 있습니다. 인공 지능은 이제 자연어를 매우 유사하게 모방하기 때문에 기술적으로 능숙한 사람이라도 수동 분류를 통해 이러한 대화의 진위를 신중하게 평가해야 합니다.
사람으로 위장한 머신 러닝 알고리즘과 소통하고 있을 가능성도 배제할 수 없습니다. 미리 정해진 응답을 일관되게 사용하고 감정적이거나 미묘한 언어가 없는 등 특정 지표는 그러한 인공 지능의 존재를 암시할 수 있습니다.
진술이 항상 뒤바뀜
봇의 활용은 사용자의 이해를 강조하고 문맥을 설명하기 위해 질문과 선언을 반복하는 경향이 있습니다. 이 기술은 인공지능이 정보를 잘못 인식할 가능성을 줄임으로써 인공지능이 사용자의 문의에 따라 신뢰할 수 있고 정확한 응답을 생성할 수 있도록 도와줍니다.
반복 응답은 인공지능이 대화 상대에 대한 정서적 이해 능력이 부족하기 때문에 챗봇과 사람 간의 유기적인 대화 흐름을 유지하는 데 유용한 전략입니다. 즉, 챗봇은 항상 사용자의 입력에 따라 미리 프로그래밍된 답변을 생성합니다. 실제로 ChatGPT와 대화하는 동안 제가 한 말의 일부를 마치 인정하는 것처럼 반복하는 것을 볼 수 있었습니다.
일반적으로 개인 간의 대화는 이렇게 매끄러운 패턴을 따르지 않습니다. 사람들은 더 이상 설명할 필요 없이 직설적인 긍정으로 이 사실을 인정할 가능성이 높습니다.
응답이 사람이 입력하는 속도보다 빠름
응답이 비정상적으로 빠른 속도로 전달되는 경우 인공지능과 대화하고 있을 가능성이 높습니다. 사람의 평균 타이핑 속도는 분당 40단어를 넘지 않으며, 의미 있는 메시지를 전달하려면 사려 깊은 고려가 필요합니다. 상대방의 참여도에 따라 몇 분 또는 그 이상의 짧은 간격이 있을 수 있는 실시간 대화에서도 누군가가 즉각적으로 광범위한 구절을 작성할 것을 기대하는 것은 비현실적인 일입니다.
인공지능은 언어 모델 및 자연어 처리(NLP)와 같은 고급 언어 기법을 활용하여 놀라운 속도로 긴 에세이를 작성할 수 있습니다. 이러한 혁신적인 방법을 통해 인간의 커뮤니케이션을 빠르게 분석하고 봇이 쿼리에 응답할 때 놀라운 효율성을 유지할 수 있습니다.
항상 온라인 상태이며 응답할 준비가 되어 있습니다
아무리 꾸준한 웹 사용자라도 영양, 휴식, 개인 위생과 같은 기본적인 필수 요소에 집중하기 위해 가끔 인터넷 연결을 끊는다는 것은 부인할 수 없는 사실입니다. 항상 즉각적인 대응을 기대할 수는 없습니다.
챗봇은 지속적인 응답을 제공할 수 있지만, 광범위하고 복잡한 콘텐츠를 구성하고 미리 정해진 작업을 지속적으로 실행하는 데는 탁월합니다. 사용자의 인터넷 연결에 문제가 없는 한 온라인 플랫폼의 기능은 손상되지 않습니다.
답장에 오타가 없음
문법적으로 완벽하고 철자 오류가 없는 완벽한 메시지를 자주 접한다면 인공지능 시스템과 통신하고 있다는 의미일 수 있습니다. 오타, 문법 오류, 철자 오류, 잘못된 문장 부호 등이 종종 존재하기 때문에 비공식적인 대화 중에 개인이 실수를 하는 경우가 드물지 않습니다.
이러한 오류를 근절하지 않으면 단조롭고 인위적으로 들리는 연설이 됩니다. AI 시스템이 미리 정해진 템플릿을 사용하면 비슷한 어조, 어조, 길이의 반복적이고 장황한 문장이 자주 생성됩니다.
대화가 같은 방향으로 계속 진행됨
이미지 크레딧: Uzoma Ozurumba/ 위키미디어 커먼즈
봇의 목적은 지정된 작업을 수행하는 것입니다. 대화는 제작자가 결정한 미리 정해진 과정을 따라야 합니다. 인공 지능은 의식이 없기 때문에 모든 응답이 사전 프로그래밍되어 있습니다.
이커머스 상점을 위해 특별히 설계된 챗봇 플러그인은 고객과 상호 작용할 수 있는 기능을 갖추고 있습니다. 이러한 플러그인은 고객이 제품 목록을 탐색하는 데 도움을 주고 프로모션 제안에 대한 정보를 제공합니다. 그러나 이러한 챗봇의 기능은 브랜드와 관련된 질문에 대한 답변으로만 제한됩니다. 웹사이트 방문자는 챗봇의 권한 범위를 벗어난 작업을 수행하도록 요청할 수 없습니다.
다른 봇들도 비슷한 지침을 준수합니다. 입력된 무의미한 쿼리에 관계없이 동일한 주제에 대해 지속적으로 관심을 유도해야 합니다. 이러한 봇 중 일부는 매우 교묘하지만 응답은 여전히 초보적이고 성실하지 않습니다.
모든 응답에는 면책 조항이 있습니다
인공지능의 주목할 만한 발전에도 불구하고 챗봇은 때때로 사람의 실수로 인해 부정확한 응답을 생성하기도 합니다.이러한 불일치의 근본 원인은 AI 편향에 더 취약한 최적의 학습 요법, 제한된 데이터 세트, 오래된 언어 모델을 사용하는 플랫폼에 있습니다.
플랫폼의 정확도를 높이기 위한 개발자의 지속적인 노력에도 불구하고 사소한 문제가 발생하더라도 이를 수정하는 데 몇 주가 소요될 수 있습니다. 따라서 면책 조항은 이 기간 동안 특정 책임을 완화하는 데 중요한 역할을 합니다.
인공지능의 대표적인 사례인 ChatGPT는 ‘인공지능 모델로서’라는 문구로 의견 기반 쿼리에 대한 응답을 시작합니다.
질문에 관련 없는 답변을 받음
인공지능 봇의 한계는 해당 데이터 세트에 존재하는 정보에 따라 응답이 달라진다는 것입니다. 쿼리를 처리하거나 실질적인 답변을 제공할 수 없는 경우, 생성된 출력은 수수께끼 같거나 논리적 관련성이 없거나 일관성이 결여된 것으로 판명될 수 있습니다. 그럼에도 불구하고 이러한 응답의 언어적 구조와 문법은 그대로 유지될 수 있습니다. 그러나 이러한 인공지능 시스템은 다른 주제로 주의를 돌리거나, 질문을 잘못 해석하거나, 관련 없는 정보를 제공함으로써 제기된 문의에 대한 답변을 회피하는 경우가 종종 있습니다.
ChatGPT는 전문 상담이 아닌 일반적인 권장 사항으로만 답변할 수 있기 때문에 정신 건강 관련 문제에 대한 맞춤형 안내를 제공할 수 없습니다.
많은 챗봇이 논쟁의 여지가 있고 민감한 사안에 대해 모호하고 중요하지 않은 답변을 제공하는 경향이 있다는 공통적인 경향을 관찰할 수 있습니다.
정답이 아닌 문장이 잘 수신되지 않음
챗봇에 사용되는 인공지능(AI)은 문맥 기억 시스템에서 작동하며, 이전 입력을 참조하여 대화 중에 일관성 있고 적절한 답변을 생성합니다. 더 많은 컨텍스트가 제공될수록 대화를 통해 학습하면서 효과적인 응답을 생성하는 AI의 능력이 향상됩니다. 그럼에도 불구하고 이러한 유형의 AI는 개별적인 상호 작용 이외의 정보를 보존하지 않습니다.
상호 작용하는 동안 개인은 프롬프트에 대한 응답으로 가상의 애니메이션 인물을 일관되게 묘사하는 방식을 채택했습니다.
문맥 기억은 고도로 발전된 기술이지만, 그럼에도 불구하고 몇 가지 한계가 있습니다. 특히 관련성이 있다고 판단되는 정보를 분류하도록 설계되었기 때문에 대화 중에 무의미한 문장을 삽입하면 당황하여 모호한 답변이나 면책 조항이 나올 수 있습니다.
반복적이고 중복된 문장 구성
봇을 활용하면 미리 정해진 문장 구조를 배치하고 빈칸을 봇이 채워서 문장을 생성하는 방식이 사용됩니다. 이 과정에서 봇은 템플릿에 있는 단어 중 일부만 수정하기 때문에 동일한 카테고리에 속하는 쿼리에 대해 반복적인 응답을 하는 경우가 많습니다. 이러한 대표적인 사례는 동일한 문장 구조가 반복적으로 사용되지만 단어 선택이 다양한 ChatGPT에서 볼 수 있습니다.
예측 가능한 응답
언어 모델과 데이터 세트의 복잡성을 이해하면 AI 응답의 예측 가능성을 이해할 수 있습니다. 반대로, 기존 소스에서 정보를 추출하여 작동합니다. 자연어 처리(NLP)는 상당히 발전했지만, 아직 인간의 인지와 유사한 주관적인 판단을 내릴 수는 없습니다.
대화 종결에 대한 명백한 시도
인공지능의 활용은 입력에만 집중하여 한두 번의 교환 내에서 요구를 충족시킴으로써 신속하고 효과적으로 상호작용을 종결하려고 노력합니다. 챗봇에 공감과 감정적 역량이 없으면 고급 언어 모델의 경우에도 응답 범위가 제한되어 있어 장기간의 토론을 피하게 됩니다.
대화 중에 대화를 마무리하려는 노력이 빈번하게 이루어지는 것을 관찰합니다. 예를 들어, 빙 채팅의 경우 한 번도 아니고 두 번이나 “좋은 하루 되세요”, “제가 도와드릴 일이 또 있나요?”라는 표현을 통해 결론을 이끌어내려고 노력하는 것을 관찰할 수 있습니다.
인간을 가장한 AI 봇 식별법 배우기
온라인에서 민감한 정보를 공개하기 전에 인터페이스의 반대편에 있는 개인을 인식하는 것이 중요합니다. 사기꾼들은 Tinder와 같은 데이팅 앱과 LinkedIn과 같은 전문 네트워킹 사이트를 포함한 여러 플랫폼에서 악성 봇을 배포하고 있습니다.
사람과 인공지능이 생성한 텍스트를 구별하는 능력은 온라인에서 봇을 식별하는 데 국한되지 않고 인공지능이 제작한 콘텐츠를 인식하는 데까지 확장됩니다. 이는 기계가 생성한 글의 특징인 어법, 어조, 일관성, 정확성 등 사용된 언어를 평가함으로써 달성할 수 있습니다.