인스타그램 계정 대량 정지에 이어 이번에는 페이스북 그룹까지 같은 문제가 발생하면서 메타의 AI 기반 콘텐츠 조절 시스템에 심각한 오류가 발생했다는 의혹이 커지고 있다. 메타는 "기술적 오류"라고 해명했지만 사태는 전 세계로 확산되며 이용자들의 거센 반발을 불러일으키고 있다.
이미지: perplexity 생성
페이스북 그룹 수천 개 동시 정지 25일 테크크런치 등에 따르면 현재 미국을 비롯한 전 세계에서 개설된 수천 개의 페이스북 그룹이 대량 정지된 것으로 나타났다. 정지된 그룹들은 저축 팁이나 할인행사, 육아, 반려동물, 게임 등 무해한 콘텐츠를 다루고 있었음에도 불구하고 '테러 관련' 콘텐츠나 나체 노출과 같은 모호한 위반 통지를 받았다. 특히 주목할 점은 회원 수가 20만 명에 달하는 포켓몬 관련 그룹이 '위험한 단체'라는 명목으로 정지되고, 100만 명 이상의 회원을 보유한 조류 사진 그룹이 '나체 노출'로 신고되는 등 상식적으로 이해하기 어려운 처분이 내려졌다는 점이다.
메타 "기술적 오류" 인정하며 해결 중 메타의 앤디 스톤 대변인은 테크크런치에 "일부 페이스북 그룹에 영향을 미친 기술적 오류를 인지하고 있으며 현재 문제를 해결 중"이라고 밝혔다. 하지만 구체적인 원인이나 복구 일정은 제시하지 않았다. 베트남플러스 보도에 따르면 메타 관계자는 "기술적 문제로 인해 6월 24일 오후부터 페이스북 그룹들이 갑자기 정지됐다"며 "현재 이 문제를 해결하기 위해 노력하고 있다"고 확인했다. 일부 기술 전문가들은 페이스북의 AI 기반 검열 시스템이 과도하게 작동했을 가능성을 제기하고 있다.
한국 포함 전 세계 확산, 이용자 반발 격화 이번 사태는 한국을 포함한 전 세계로 확산되고 있다. 베트남에서도 수십만 명의 회원을 보유한 그룹들이 정지되거나 명칭이 변경되는 피해가 발생했으며, 관리자 개인 계정의 기능도 제한되고 연결된 팬페이지까지 잠기는 상황이 벌어지고 있다. 피해를 입은 이용자들은 체인지닷오알지(Change.org)에 메타에 대한 집단 청원을 진행하고 있으며, 이미 1만 2천 명 이상이 서명에 참여했다. 일부 기업들은 비즈니스 피해를 이유로 법적 조치까지 검토 중인 상황이다.
인스타그램 정지 사태와의 연관성 이번 페이스북 그룹 정지 사태는 지난 5월부터 지속되고 있는 인스타그램 계정 대량 정지 문제와 유사한 양상을 보이고 있다. 한국에서도 수많은 인스타그램 이용자들이 별다른 위반 행위 없이 계정이 정지됐다며 불만을 제기해왔다. 메타코리아는 최민희 국회 과방위원장을 통해 "AI 등 자동화 도구 시스템을 활용하는 과정에서 과대집행이 있을 수 있다"고 인정했다. 특히 아동성착취물 단속 과정에서 관련 게시물에 '좋아요'만 눌러도 계정이 즉시 정지되는 등 과도한 조치가 이뤄지고 있다고 설명했다.
다른 플랫폼에서도 유사 현상 메타만의 문제는 아니다. 올해 핀터레스트도 대량 계정 정지 사태를 겪었으며, 핀터레스트는 5월 "내부 오류"로 인한 실수였다고 인정하면서도 AI 조절 때문은 아니라고 주장했다. 텀블러에서도 새로운 기능 테스트와 관련해 콘텐츠 필터링 문제가 발생한 바 있다.
현재 일부 메타 인증 서비스 구독자들은 보다 빠른 지원을 받고 있지만, 대부분의 피해 이용자들은 여전히 해결책을 찾지 못하고 있다. 오히려 일부 관리자들은 이의신청을 제출한 후 상황이 더 악화됐다며 다른 이용자들에게 이의신청을 하지 말라고 경고하고 있는 상황이다. 한 그룹 관리자는 17만 명의 회원을 둔 그룹을 잃은 상황을 "절대적인 재앙"이라고 표현하며 이의신청 후 영구 차단됐다고 주장했다. 전문가들은 이번 사태가 AI 기반 콘텐츠 조절 시스템의 한계를 보여주는 사례라고 분석하고 있다. 메타가 대규모 플랫폼에서 발생하는 방대한 콘텐츠를 AI로 자동 조절하는 과정에서 오탐지가 급증한 것으로 보인다는 것이다. 메타는 신속한 문제 해결을 약속했지만 구체적인 일정이나 근본적인 해결책은 제시하지 못하고 있어 이용자들의 불만은 당분간 지속될 것으로 보인다. 특히 비즈니스 목적으로 플랫폼을 활용하는 기업들의 경제적 피해가 커지면서 메타에 대한 집단 소송 가능성도 제기되고 있다. | 
인스타그램 계정 대량 정지에 이어 이번에는 페이스북 그룹까지 같은 문제가 발생하면서 메타의 AI 기반 콘텐츠 조절 시스템에 심각한 오류가 발생했다는 의혹이 커지고 있다. 메타는 "기술적 오류"라고 해명했지만 사태는 전 세계로 확산되며 이용자들의 거센 반발을 불러일으키고 있다.
이미지: perplexity 생성
페이스북 그룹 수천 개 동시 정지
25일 테크크런치 등에 따르면 현재 미국을 비롯한 전 세계에서 개설된 수천 개의 페이스북 그룹이 대량 정지된 것으로 나타났다. 정지된 그룹들은 저축 팁이나 할인행사, 육아, 반려동물, 게임 등 무해한 콘텐츠를 다루고 있었음에도 불구하고 '테러 관련' 콘텐츠나 나체 노출과 같은 모호한 위반 통지를 받았다.
특히 주목할 점은 회원 수가 20만 명에 달하는 포켓몬 관련 그룹이 '위험한 단체'라는 명목으로 정지되고, 100만 명 이상의 회원을 보유한 조류 사진 그룹이 '나체 노출'로 신고되는 등 상식적으로 이해하기 어려운 처분이 내려졌다는 점이다.
메타 "기술적 오류" 인정하며 해결 중
메타의 앤디 스톤 대변인은 테크크런치에 "일부 페이스북 그룹에 영향을 미친 기술적 오류를 인지하고 있으며 현재 문제를 해결 중"이라고 밝혔다. 하지만 구체적인 원인이나 복구 일정은 제시하지 않았다.
베트남플러스 보도에 따르면 메타 관계자는 "기술적 문제로 인해 6월 24일 오후부터 페이스북 그룹들이 갑자기 정지됐다"며 "현재 이 문제를 해결하기 위해 노력하고 있다"고 확인했다. 일부 기술 전문가들은 페이스북의 AI 기반 검열 시스템이 과도하게 작동했을 가능성을 제기하고 있다.
한국 포함 전 세계 확산, 이용자 반발 격화
이번 사태는 한국을 포함한 전 세계로 확산되고 있다. 베트남에서도 수십만 명의 회원을 보유한 그룹들이 정지되거나 명칭이 변경되는 피해가 발생했으며, 관리자 개인 계정의 기능도 제한되고 연결된 팬페이지까지 잠기는 상황이 벌어지고 있다.
피해를 입은 이용자들은 체인지닷오알지(Change.org)에 메타에 대한 집단 청원을 진행하고 있으며, 이미 1만 2천 명 이상이 서명에 참여했다. 일부 기업들은 비즈니스 피해를 이유로 법적 조치까지 검토 중인 상황이다.
인스타그램 정지 사태와의 연관성
이번 페이스북 그룹 정지 사태는 지난 5월부터 지속되고 있는 인스타그램 계정 대량 정지 문제와 유사한 양상을 보이고 있다. 한국에서도 수많은 인스타그램 이용자들이 별다른 위반 행위 없이 계정이 정지됐다며 불만을 제기해왔다.
메타코리아는 최민희 국회 과방위원장을 통해 "AI 등 자동화 도구 시스템을 활용하는 과정에서 과대집행이 있을 수 있다"고 인정했다. 특히 아동성착취물 단속 과정에서 관련 게시물에 '좋아요'만 눌러도 계정이 즉시 정지되는 등 과도한 조치가 이뤄지고 있다고 설명했다.
다른 플랫폼에서도 유사 현상
메타만의 문제는 아니다. 올해 핀터레스트도 대량 계정 정지 사태를 겪었으며, 핀터레스트는 5월 "내부 오류"로 인한 실수였다고 인정하면서도 AI 조절 때문은 아니라고 주장했다. 텀블러에서도 새로운 기능 테스트와 관련해 콘텐츠 필터링 문제가 발생한 바 있다.
현재 일부 메타 인증 서비스 구독자들은 보다 빠른 지원을 받고 있지만, 대부분의 피해 이용자들은 여전히 해결책을 찾지 못하고 있다. 오히려 일부 관리자들은 이의신청을 제출한 후 상황이 더 악화됐다며 다른 이용자들에게 이의신청을 하지 말라고 경고하고 있는 상황이다.
한 그룹 관리자는 17만 명의 회원을 둔 그룹을 잃은 상황을 "절대적인 재앙"이라고 표현하며 이의신청 후 영구 차단됐다고 주장했다.
전문가들은 이번 사태가 AI 기반 콘텐츠 조절 시스템의 한계를 보여주는 사례라고 분석하고 있다. 메타가 대규모 플랫폼에서 발생하는 방대한 콘텐츠를 AI로 자동 조절하는 과정에서 오탐지가 급증한 것으로 보인다는 것이다.
메타는 신속한 문제 해결을 약속했지만 구체적인 일정이나 근본적인 해결책은 제시하지 못하고 있어 이용자들의 불만은 당분간 지속될 것으로 보인다. 특히 비즈니스 목적으로 플랫폼을 활용하는 기업들의 경제적 피해가 커지면서 메타에 대한 집단 소송 가능성도 제기되고 있다.