안녕하세요, zeta 팀입니다.

zeta는 청소년 보호와 안전한 서비스 제공을 중요한 책임으로 여기고 있으며, AI와 청소년을 둘러싼 환경 변화를 주의 깊게 살피고 서비스에 반영해 나가고 있습니다.

현재 세이프 모드에서는 모두가 안심하고 상상력을 펼칠 수 있도록 부적절한 대화가 생성되거나 입력될 경우 이를 자동으로 차단하고 있습니다. zeta는 이러한 차단 시스템을 꾸준히 보완하고 있으나 안전장치를 반복적으로 우회하려는 시도까지 차단만으로 완벽하게 막아내기에는 어려움이 있습니다.

이에 기존 차단 시스템에 더해, 부적절한 대화가 반복적으로 감지되면 해당 대화방의 이용을 단계적으로 제한하는 정책을 도입합니다.

자세한 내용은 아래를 확인해 주시기 바랍니다.

---

■ 적용 대상

• 연령과 관계없이 세이프 모드로 진행되는 모든 대화에 적용됩니다.
• 로그인하지 않은 비회원 이용자에게도 동일하게 적용됩니다.

■ 어떤 정책이 적용되나요?

현재 세이프 모드에서는 운영 정책상 청소년에게 유해할 수 있는 수준의 대화가 감지될 경우 ‘부적절한 답변이 생성되었어요’ 라는 안내와 함께 해당 답변을 노출하지 않고 있습니다.

앞으로는 동일한 대화방에서 이 같은 상황이 짧은 시간 안에 반복적으로 발생하면 대화 이용이 단계적으로 제한됩니다.

[단계별 이용 제한 안내] 경고 안내를 시작으로 최대 24시간까지 대화 이용이 단계적으로 제한되며 최종적으로는 해당 대화방이 초기화될 수 있습니다.

• 대화 초기화 시 기존 대화 내역이 모두 삭제되고 인트로부터 다시 시작됩니다.
• 이용 제한은 대화방마다 개별 적용되므로 다른 대화방의 이용에는 영향을 주지 않습니다.

■ 이용이 제한되면 어떻게 되나요?

• 제한 시간이 끝날 때까지 해당 대화방에서 메시지를 보내거나 다시 생성, 이어서 생성, 메시지 수정 기능을 이용하실 수 없습니다.
• 대화 입력란에서 남은 제한 시간을 확인하실 수 있습니다.
• 제한되지 않은 다른 대화방은 평소처럼 이용하실 수 있습니다.

■ 잘못 감지된 것 같다면 알려주세요

• 간혹 AI가 문맥을 오해해 정상적인 대화를 부적절한 내용으로 잘못 감지할 수 있습니다.
• 이러한 경우 팝업의 '문제가 없는 발화예요' 버튼을 통해 의견을 전달해 주세요. 접수된 내용은 운영팀에서 확인하며 향후 AI의 판단 정확도를 높이고 정책을 개선하는 데 활용됩니다.
• 기타 문의 사항은 고객센터를 통해 접수해 주세요.

---

청소년 보호와 안전한 서비스 이용을 위한 조치인 만큼 이용자 여러분의 이해와 협조를 부탁드립니다.

앞으로도 많은 관심과 이용 부탁드립니다.

감사합니다. zeta 팀 드림.