[싱가포르=디지털데일리 채성오기자] 바닥에 붉은 액체가 흥건하다. 누군가 쓰러져 있고 그 옆으로 선명한 핏자국이 흐른다. 섬뜩한 광경에 숨이 멎을 찰나 화면 옆 '위반 아님(No Policy Violation)' 버튼이 눌린다. 알고 보니 사고 현장의 엔진오일이 쏟아진 장면이었다.
피가 튀긴 듯한 잔혹한 영상일까, 아니면 단순한 해프닝일까. 붉은 액체가 바닥에 흥건한 화면을 앞에 두고 기자의 손이 망설여졌다.
이는 지난 2월25일 싱가포르에 위치한 '틱톡 투명성 및 책임 센터(TAC)' 내에 마련된 '모더레이션 워크스테이션'에서 마주한 장면이다. 인간 모더레이터들이 사 바다이야기무료 용하는 검수 시스템을 그대로 옮겨놓은 이곳은 AI와 인간이 협력해 틱톡 안전망을 어떻게 지탱하는지 보여주는 최전선이다.
◆AI와 인간의 '더블 체크', 모호한 1%를 잡아내다

틱톡의 콘텐츠 철학은 독특하다. 단순히 막거나 압축하는 것에서 시작하는 것이 아니라 모든 가능성을 펼쳐놓은 뒤 정해진 가이드라 오션파라다이스예시 인에 어긋나는 것만 정교하게 잘라내는 방식을 취한다. 이를 통해 '여드름 압출'처럼 누군가에게는 혐오스럽지만 누군가에게는 흥미로운 니치한 취향까지도 존중받는 진정성을 확보한다.





하지만 자유에는 철저한 책임이 따른다. 18세 미만 청소년에 바다이야기게임장 게는 성형 수술 시술 영상이나 과격한 레슬링·격투기 영상 등의 노출을 엄격히 제한한다. 이는 단순히 차단하는 것을 넘어 전문가들이 참여한 커뮤니티 가이드라인에 따른 조치다. 가이드라인 제정에는 전직 법률가·교육자 등 각 분야 전문가 등으로 구성된 자문팀이 참여하며 트렌드나 이슈에 따라 새로운 규정을 반영하는 방식이다.
실제로 틱톡 안전의 바다이야기2 핵심은 '선제적 대응'에 있었다. 틱톡에 따르면 지난해 3분기 기준 전 세계적으로 약 2억건의 위반 동영상이 삭제됐는데 놀라운 점은 이 중 99% 이상이 사용자가 신고하기 전에 시스템에 의해 먼저 탐지됐다는 사실이다. 특히 전체 삭제 영상의 89.7%는 누군가가 단 한 번이라도 보기 전, 즉 조회수 0인 상태에서 즉시 차단됐다.
이런 철통 골드몽게임 보안의 비결은 인공지능(AI)과 인간 모더레이터의 정교한 협업에 있다. 영상이 업로드되는 순간 AI는 영상 프레임·오디오·텍스트·해시태그를 복합적으로 분석해 가이드라인 위반 여부를 단 몇 초 만에 판단한다.

흡연 장면을 감별할 때도 AI는 단순히 담배의 형태뿐만 아니라 팔의 각도나 입에 대는 동작 등을 프레임 단위로 쪼개 분석한다. 사탕을 문 아이와 담배를 피우는 성인을 신체 비율과 동작으로 구분해내는 수준까지 도달했다. 현재 틱톡에서 삭제되는 영상의 86%는 인간의 개입 없이 AI가 자체적으로 걸러내고 있다.





TAC에서는 이런 방대한 데이터가 실시간 대시보드로 관리된다. 틱톡은 보안상의 이유로 국가별 세부 위반 통계를 외부에 공개하지 않지만 내부적으로는 한국 마켓에서는 어떤 유해 콘텐츠가 유행하는지나 특정 지역에서 어떤 키워드가 위험한 지 등을 자문팀과 협력해 실시간으로 업데이트한다. 테러리즘 관련 키워드나 특정 주류 브랜드 태그 등 수만 개의 키워드가 실시간으로 쌓이며 AI의 학습을 돕는다.
AI가 판단하기 모호한 회색 지대 콘텐츠는 전 세계 24시간 교대 근무하는 전문 모더레이터의 손으로 넘겨진다. 현장에서 직접 체험해본 모더레이터용 스크린에는 수많은 프레임과 분석 데이터가 쏟아졌다. 엔진오일이 피처럼 보이는 장면이나 매춘을 암시하는 미묘한 문구 등 문화적 맥락과 의도가 중요한 콘텐츠는 결국 인간의 최종 판단을 거친다.
영상의 주요 프레임이 썸네일로 나열되고 AI가 판단한 위험 요소들이 데이터로 표기된다. 직접 체험해본 결과 짧은 영상 하나에도 민감한 성인 테마·잔인함·정보 오류 등 수십 가지의 세부 가이드라인을 적용해 판별해야 했다.
이 과정에서 발생하는 모더레이터의 정신적 스트레스를 관리하는 것도 틱톡 신뢰와 안전팀의 주요 업무다. 심리 상담 전문가가 상주하며 요가·상담 프로그램 등 체계적인 케어를 제공한다. AI 기술이 고도화되면서 모더레이터가 직접 마주해야 하는 잔혹하거나 피폐한 영상의 비중이 과거보다 낮아지고 있다는 점도 고무적이다.
◆'77%의 법칙', 알고리즘이 스스로 거품을 깨는 이유
현장에서는 '추천 피드'의 작동 원리도 확인할 수 있었다. 틱톡은 사용자가 처음 앱을 실행할 때 8개의 서로 다른 주제 영상을 먼저 보여준다. 사용자가 이 8개 영상에 대해 머무는 시간·좋아요·댓글·공유 등의 상호작용을 데이터화해 선호도를 0과 1 사이의 수치로 계산한다.
틱톡 알고리즘은 사용자를 피드 안에 가두는 데만 집중하지 않는다. 이른바 '필터 버블(확증 편향)'이라 불리는 똑같은 정보만 반복해서 보게 되는 현상을 경계한다. 틱톡은 콘텐츠의 유사성이 77%를 넘어가면 시스템이 이를 '위험 신호'로 인지하도록 설계했다.



유사성이 임계치를 넘으면 알고리즘은 의도적으로 사용자가 평소 보지 않았던 새로운 주제나 장르의 영상을 피드에 섞는다. 사용자가 자신의 관심사 안에만 갇히지 않고 새로운 세계를 탐험할 수 있도록 알고리즘이 스스로 '거품'을 깨는 셈이다. 이는 사용자의 체류 시간을 늘리는 동시에 플랫폼의 신선함을 유지하는 핵심 기술이다.
추천 피드의 순위를 결정하는 가장 강력한 기준은 '상호작용'에 있다. 단순히 라이크(좋아요)를 누르는 것보다 해당 영상을 끝까지 시청했는지(완독률), 공유를 했는지, 댓글을 남겼는지가 더 높은 가중치를 얻는다.
틱톡은 이 방대한 데이터를 기반으로 '유저용 그래프'와 '비디오용 그래프'를 각각 생성한다. 두 그래프 사이의 거리가 가까울수록 해당 유저가 그 영상을 좋아할 확률이 높다고 판단해 추천 순위 상단에 배치한다. 내가 팔로우하지 않은 사람의 영상이 내 피드에 끊임없이 뜨는 이유도, 알고리즘이 나와 비슷한 성향을 가진 다른 유저들의 반응을 실시간으로 추적해 나와의 거리를 계산하기 때문이다.
알고리즘이 주는 편리함 뒤에는 사용자의 선택권도 보장돼 있다. 성인 사용자라 하더라도 특정 주제나 민감한 콘텐츠가 불편하다면 자체 필터 기능을 통해 특정 키워드를 차단하거나 '관심 없음' 설정을 통해 추천 알고리즘을 즉시 수정할 수 있다.
싱가포르 TAC 투어를 마치며 확인한 것은 틱톡의 '투명성'에 대한 의지였다. 단순히 PR용 공간이 아니라 정부 관계자·법률가·미디어에게 시스템의 뒷면을 가감 없이 보여줌으로써 플랫폼의 책임감을 증명하는 모습이다. 10억명의 취향을 연결하는 화려한 알고리즘 뒤에는 24시간 멈추지 않는 워크스테이션과 치열한 안전 시스템이 자리하고 있었다.