익명으로 낯선 사람과 영상을 함께 본다는 건 즐거운 일이지만, “혹시 불쾌한 말을 들으면 어쩌지” 하는 걱정이 따라오기 마련입니다. Float은 그 걱정을 이용자 혼자 짊어지지 않도록 신고·차단·AI 모더레이션을 겹겹이 쌓아 두었어요. 이 글에서는 그 보호 장치들이 실제로 어떻게 작동하는지, 그리고 내 기록은 어떻게 다뤄지는지 정리합니다.
키워드 필터가 즉시, AI가 한 번 더 걸러냅니다
Float은 자체 키워드 사전과 OpenAI Moderation API를 함께 사용해 채팅을 점검합니다. 두 방식은 맡은 일이 다릅니다. 메시지가 상대에게 전달되기 전에 키워드 사전(띄어 쓰거나 자음만 쓴 변형을 잡는 한국어 욕설 필터 포함)이 욕설·혐오 표현·성적 표현을 별표로 가리고, 자살·자해·아동 성착취 관련 표현은 아예 전송을 막습니다. AI 모더레이션은 메시지가 전달된 직후 문맥을 읽어 키워드로는 잡기 어려운 성적 표현·혐오·괴롭힘을 살피고, 위험하다고 판단하면 해당 메시지를 자동으로 신고 접수해 운영자 검토로 넘깁니다. 서로의 빈틈을 메워 주는 구조예요.
키워드 점검은 사람이 일일이 들여다본 뒤가 아니라 메시지가 오가는 순간에 이뤄집니다. 그래서 사전에 있는 불쾌한 말은 화면에 도착하기 전에 가려집니다.
신고는 24시간 안에 검토됩니다
자동 필터가 모든 상황을 잡아낼 수는 없습니다. 그래서 신고가 함께 작동합니다. 성적 표현·혐오 발언·외부 유도·금전 요청처럼 불편한 행위를 마주하면 망설이지 말고 신고하세요. 모든 신고는 24시간 이내에 검토됩니다.
동일 이용자에 대한 신고가 24시간 안에 3건 이상 누적되면 사전 통지 없이 자동으로 이용이 제한됩니다. 로그인 계정은 곧바로 계정이 정지되고, 익명 이용자는 그 사람의 시청방 채팅 기록에서 접속 IP 해시가 확인될 때 그 IP에서의 이용이 7일간 제한됩니다. IP를 알 수 없는 익명 이용자는 자동 제한 대신 운영자 검토 대상으로 올라갑니다. 같은 사람이 같은 상대를 여러 번 신고해도 하루에 한 건으로만 셉니다.
AI 모더레이션이 접수한 신고는 그것만으로 자동 제재를 걸지 않고, 운영자가 검토합니다. AI가 고위험 점수를 매긴 메시지는 곧바로 운영자 검토가 필요한 ‘에스컬레이션’ 신고로 올라가요. 다만 이후 이용자 신고가 들어오면, 같은 상대에 대해 24시간 안에 쌓인 AI 신고도 함께 세어 3건 기준을 판단합니다.
악성 이용자에게 “한 번 더” 같은 기회를 반복해서 주지 않는다는 뜻입니다. 위험 신호가 분명하면 빠르게 끊어내는 쪽을 택합니다.
채팅 보관본과 처리 끝난 신고는 30일 뒤 지워집니다
보호를 위해 어느 정도 기록이 필요하지만, 그 기록이 영원히 남으면 그것 또한 위험입니다. Float은 시청방 채팅 보관본을 30일 동안만 보관하고, 신고 기록은 처리가 끝난 뒤 접수 30일이 지나면 지웁니다(아직 검토 중인 신고는 처리가 끝날 때까지 남아요). 이 보관은 신고 검토와 수사기관의 적법한 요청에 대응하기 위한 장치이며, 보관 기간이 지나면 자동으로 영구 삭제됩니다.
평소에는 방을 나가는 순간 그 방의 채팅이 화면에서 사라지고, 서버에 따로 남은 채팅 보관본도 한 달 뒤에는 자동으로 지워집니다. 익명성과 안전 사이의 균형을 이렇게 맞추고 있어요. 돛단배 편지·우체통 쪽지·표류일지처럼 채팅이 아닌 기록의 보관 기간은 개인정보 처리방침 3항에 따로 적어 두었습니다.
위기 신호를 그냥 지나치지 않습니다
모더레이션은 가해자를 막는 데서 끝나지 않습니다. 누군가 자살이나 자해를 암시하는 표현을 보내면, Float은 그 메시지를 차단하는 동시에 도움을 받을 수 있는 창구를 안내합니다. 자살예방상담전화 1393(24시간), 정신건강위기상담 1577-0199로 언제든 연결될 수 있습니다.
혼자 견디라고 두지 않겠다는 약속입니다. 가벼운 만남의 자리라도, 누군가의 고통 앞에서는 멈춰 서서 손을 내밉니다.
방을 나가면 대화는 화면에서 함께 사라집니다
Float에서 두 사람 중 한 명이 방을 떠나면 그 대화는 끝나고, 안에서 오갔던 채팅은 두 사람의 화면에서 모두 사라집니다. 영상이 끝났다고 방이 저절로 폭파되는 건 아니에요. 방장이 새 영상을 띄워 계속 함께 볼 수도 있고, 마음이 불편하면 언제든 그냥 나가면 됩니다. 떠난 뒤에는 두 사람 모두 그 대화를 다시 불러올 수 없고, 서버의 채팅 보관본도 신고 검토용으로만 30일 동안 남았다가 자동으로 지워집니다.
이 구조 자체가 하나의 보호 장치입니다. 익명 대화에서 가장 무서운 건 “내가 한 말이 어디까지 퍼졌을까” 하는 불안인데, Float은 대화가 끝나는 순간 화면에서 대화를 함께 거둬 갑니다. 그래서 더 가볍게 들어오고, 더 가볍게 떠날 수 있습니다.
가장 빠른 보호는 “나가기”입니다
시스템이 아무리 촘촘해도, 가장 즉각적인 보호는 이용자 자신의 선택입니다. 대화가 조금이라도 불쾌하거나 위협적으로 느껴지면 참을 이유가 없습니다. 방을 나가면 그 대화는 끝나고 화면의 채팅도 사라지며, 떠나는 데에는 어떤 설명도 필요하지 않습니다. 다시 마주치고 싶지 않다면 시청방의 ‘상대 차단’을 누르세요. 차단한 상대와는 다시 매칭되지 않고, 서로의 돛단배도 보이지 않으며, 이어진 인연이 있었다면 함께 끝납니다. 그리고 의심스러운 상대는 꼭 신고해 주세요. 시청방에서 신고하면 그 상대는 자동으로 차단도 됩니다. 당신의 신고 하나가 다음 사람을 지키는 단서가 됩니다. 신고가 쌓이면 시스템은 그 이용자를 더 빠르게, 더 단호하게 걸러낼 수 있습니다.
신고·차단·AI 모더레이션은 당신을 감시하기 위한 장치가 아니라, 익명이라는 편안함을 안전하게 누리도록 받쳐 주는 장치입니다. 마음 놓고, 그러나 방심하지 않으면서 Float을 즐기세요.