[AI]오픈AI, 챗GPT 악용 사례의 40% 중국 연계 계정 “북한 가짜 이력서 해외 취업 시도”

오픈AI가 최근 자사의 인공지능(AI) 챗봇 '챗GPT'의 악용 사례를 분석한 결과, 지난 3개월간 탐지·차단된 사례 10건 중 4건은 중국과 연계된 계정인 것으로 나타나며, 북한과 러시아 등도 챗GPT를 악용한 사이버 작전에 적극 활용한 정황이 포착됐다.

25일 IT업계 외신에 따르면 오픈AI는 'AI 악용 방지 6월 보고서'를 공개하고, 악의적 목적으로 챗GPT를 사용한 글로벌 행위자들의 사이버 위협 활동을 상세히 소개했다.

보고서에 따르면, 중국, 북한, 러시아와 연계된 것으로 추정되는 계정들이 정보 조작, 사이버 스파이 활동, 허위 취업 시도 등 다양한 방식으로 챗GPT를 활용했다.

가짜 이력서 준비와 비대면 면접 유도

북한과 연관된 공격 그룹은 챗GPT를 통해 가짜 이력서, 자기소개서, 온라인 프로필 등을 생성하여 기업의 채용 시스템을 우회하려는 시도를 벌였다.

이들은 비즈니스 소셜미디어에 위장 계정을 만들어 활동했으며, 화상 면접 요청 시에는 대리인의 얼굴을 제시하고 통신 문제를 이유로 음성 통화나 비대면 면접을 유도했다. 면접 답변에도 챗GPT를 활용해 응답한 것으로 드러났다.

세계 여론 조작에 악용

중국과 관련된 계정들은 틱톡, X, 레딧, 페이스북 등 소셜 플랫폼에 영어, 중국어, 러시아어로 제작된 자동 댓글을 대량 생성해 여론을 조작하려는 시도도 감행했다.

오픈AI는 이들을 '엉클 스팸(Uncle Spam)', '스니어 리뷰(Sneer Review)' 등으로 분류했다. 이들은 미국 국제개발처 폐쇄 찬반 여론전, 대만의 중국 공산당 비판을 둘러싼 메시지 전파 등의 활동에 AI를 이용했다.

러시아 연계 계정들은 챗GPT를 활용해 악성코드를 자동 생성·배포하는 방식으로 윈도우 기반 사이버 공격을 수행했다. 일부 계정은 독일 선거 개입을 목적으로 미국 및 NATO 비판 콘텐츠와 극우 정당 지지 메시지를 제작해 텔레그램과 X에 유포한 것으로 보고됐다.

오픈AI는 이 보고서를 통해 권위주의 정부가 AI 도구를 통해 권력을 강화하거나 시민 통제를 시도하는 것을 막는 것이 핵심 목표라고 강조했다. 또한 자체 개발한 AI 기반 탐지 모델 '포스 멀티플라이어‘를 통해 이러한 위협을 실시간으로 감지하고 차단 중이라고 밝혔다.

오픈AI는 민주적 AI 생태계를 구축함으로써, 장기적으로는 AGI(인공일반지능)가 모든 인류에게 유익하도록 만드는 것이 우리의 사명이라고 덧붙였다.