ChatGPT는 가짜 뉴스의 궁극적인 확산자인가?

May 27, 2023

2023년 8월 22일

ChatGPT는 2023년에 전 세계를 강타했습니다. 바위 밑에서 살아본 적이 없다면 그것이 무엇인지 이미 알고 계실 것입니다. 즉, 질문에 답하거나 설정한 모든 작업을 완료할 수 있는 인공 지능(AI) 챗봇입니다(수동 작업은 포함하지 않음). 실제 작업).

작성자: Lourens Sanders, Commvault SEEMEA 수석 영업 엔지니어

시간과 자원 절약, 비용 절감, 혁신적인 콘텐츠 생성 등의 이점이 널리 알려져 있습니다.

잠재적인 함정

그러나 ChatGPT가 항상 100% 정확하지는 않다는 것이 점점 더 명백한 문제가 되고 있습니다. 모르는 것을 물으면 챗봇은 틀린 내용이라도 자신 있게 대답해 주기 때문에 대부분의 소비자는 이를 믿게 될 가능성이 높습니다. 실제로 ChatGPT는 자신이 틀렸다고 제안하는 사용자에 대해 논쟁을 벌이고 답변이 올바른 이유를 설명합니다.

이는 ChatGPT가 검색 엔진과 같지 않기 때문에 발생합니다. 검색 엔진은 데이터베이스에서 정보를 수집하고, 가장 인기 있는 결과의 순위를 매기고, 사용자가 원하는 답변을 찾을 수 있도록 이러한 결과를 보여줍니다.

마찬가지로 ChatGPT는 데이터베이스에서 정보를 찾습니다. 하지만 정보를 찾은 방법을 사용자에게 정확하게 전달하는 대신 결과를 기반으로 일련의 추측을 통해 답변을 생성합니다. 여기서부터 잘못될 가능성이 있고 가짜 뉴스가 생성되기 시작합니다.

그러나 가짜 뉴스 생성의 위험을 초래하는 것은 ChatGPT의 답변 생성뿐만이 아닙니다. AI 챗봇인 ChatGPT는 인간처럼 추론하는 능력이 없습니다. 사실에 근거한 뉴스 기사에서 의견을 식별할 수 없으므로 모든 것을 액면 그대로 받아들입니다. 가짜 뉴스가 전체 인터넷 정보의 62%를 차지하는 것으로 추정되는 상황에서 ChatGPT가 발견 단계에서 잘못된 정보를 찾아 최종 답변으로 전달할 가능성은 높습니다.

또한 기록적으로 빠르게 성장하는 사용자 기반을 통해 사용자는 ChatGPT와 유사한 질문을 하고 정확히 동일하지는 않더라도 유사한 답변을 얻을 가능성이 높습니다. 결과적으로, 가짜 정보의 중복된 정보가 여러 개 온라인에 게시될 수 있습니다. 여러 번 반복하고 언급한 결과, 이는 사실로 확고히 자리 잡게 될 것입니다.

위험한 사업

그러나 ChatGPT는 마케팅에서 제품 개발에 이르기까지 다양한 비즈니스 부서에서 유용할 수 있습니다. 최신 마케팅 캠페인을 만들거나 최신 제품을 개발할 때 많은 직원이 영감을 얻기 위해 Google에 의지할 것입니다. 아마도 문제 해결에 전념할 수 있도록 업계에서 겪고 있는 최신 문제점을 물어볼 수도 있습니다. ChatGPT는 모든 사람이 액세스할 수 있으므로 새로운 프로젝트의 아이디어 생성 단계에서 빠르게 유용한 도구가 되고 있습니다.

그러나 위에서 강조한 것처럼 ChatGPT가 팀이 전체 제품이나 캠페인을 구축하는 질문에 잘못된 답변을 제공할 위험이 큽니다. 예를 들어, ChatGPT는 5년 전의 업계 문제가 해당 부문의 현재 문제점 중 하나였다고 제안할 수 있습니다.

이를 사실로 받아들여 마케팅 팀은 이 아이디어를 중심으로 전체 캠페인을 구축할 수 있으며, 이로 인해 비즈니스가 시대에 뒤떨어지고 쓸모 없는 것으로 간주되는 엄청난 평판 손상을 초래할 수 있습니다. 더 나쁜 것은 기업이 이 예상되는 문제점을 중심으로 전체 제품을 구축하려는 경우 고객에게 필요하지 않은 솔루션에 수백만 랜드가 투자될 수 있다는 것입니다. 이는 평판에 막대한 영향을 미칠 뿐만 아니라 상당한 재정적 손실을 초래하게 됩니다.

인간을 지켜라

위와 같은 실수는 기술과 함께 약간의 전문 지식이 적용되면 피할 수 있습니다. 인간은 아직 방정식에서 제외되어서는 안 되며 ChatGPT가 제공하는 모든 정보는 해당 분야의 전문가가 확인하고 다시 확인해야 합니다.

언젠가 우리의 직업이 로봇으로 완전히 대체될지는 누가 알겠습니까? 그러나 적어도 현재로서는 인간의 전문성이 여전히 비즈니스에 필수적입니다. ChatGPT를 특정 작업을 도와주고 아이디어를 제시하는 'AI 동료'라고 생각하세요. 하지만 결국에는 여전히 자신의 역할을 수행해야 합니다.