다시 이어가자면

ㅤ 현재 개선이 확정된 것은 아니지만, 이용자 의견을 수집하여 검토하고 있다는 것이 공식 입장입니다.

1. 전체 내용 요약: 제타의 노출 제한 구조

앞 내용을 간단히 요약하자면, 노출 제한은 플랫폼 사업자가 규정이나 법에 맞게 콘텐츠를 관리하고 노출을 조정하는 시스템입니다.

어쨌든, 이러한 모더레이션은 꼭 필요한 기능이라는 것은 부정할 수 없는 사실입니다.

참고로 방식으로는 기술적 수단: Ai모델 또는 알고리즘으로 이미지 분석, 글 검토, 키워드 필터링 등 인적 수단:모니터링 등 이 있습니다

또한 본론에서 스캐터랩이 자체 AI 모델을 사용하여 국내의 AI 정책과 사회적 분위기도 하나의 배경 요인이 될 수 있다는 점을 설명드렸습니다.

그럼 과연 이러한 시스템을 비판해서는 안 되는 걸까요? ㅤ

절대 아닙니다!

2. 제타의 문제점과 이중성에 대한 비판

-2.1 회사의 이미지를 망치는 것이 유저인가 회사인가?

아마 대부분에 유저 분들은 제타를 인터렉티브 내러티브한 채팅 경험을 제공하고, 인터뷰에 따르면 똑똑하게 답하는 AI보다, 실제 친구와 대화하듯 자연스러운 느낌의 인격적 AI 구현에 더욱 추구한다는 내용도 있습니다.

그러나 실제 광고나 일부 공식 홍보에서는 자극적인 콘셉트와 표현이 사용되는 사례도 확인할 수 있습니다.

이러한 점은 노출 제한 정책이 추구하는 방향과 실제 마케팅 사이에 다소 괴리가 있는 것은 아닌지 의문을 갖게 합니다.

저는 노출 제한의 필요성에는 동의합니다.

다만 플랫폼의 이미지 관리 책임을 이용자와 제작자에게만 요구하는 것처럼 비칠 수 있는 현재의 운영 방식에는 아쉬움이 있습니다.

-2.2 멍청한 ai모델?

본인도 ai 모델을 사용 해보면서 상당히 멍청하다 생각했습니다. (물론 제타의 대화출력 형식 자체는 제타만의 강점인건 절대로 부정하진 않습니다.)

원래는 ai가 멍청하다 라는 형식으로 글을 이어나가보려 했는데 궁금해서 테스트를 해봤더니 좀 특이한 결과가 나오더군요.

아무런 프롬프트가 없는 채팅에선 꽤나 정확한 답변(사칙연산, 일반적인 사실, 전공적 지식등)이 나왔습니다.

반면 프롬프트가 설정된 플롯에서는 같은 질문에도 정확도가 떨어지거나, 사실과 다른 답변이 나오는 경우가 있었습니다.

궁금해서 관련 내용을 찾아보니, 긴 프롬프트나 많은 지시문이 AI 모델의 응답 품질에 영향을 줄 수 있다는 내용을 확인할 수 있었습니다.

즉, AI가 단순히 멍청하다 기보다는 많은 설정과 지시문을 동시에 처리하는 과정에서 응답의 정확도가 떨어지는 경우가 있는 것으로 보입니다.

->이러한 점을 고려하면 현재의 글자 수 제한 역시 모델의 응답 품질을 유지하기 위한 설계일 가능성이 있습니다.

따라서 이는 캐릭터 제작자의 문제라기보다는, 현재 AI 모델의 성능과 설계 특성에서 비롯되는 한계로 이해하는 것이 더 적절하다고 생각합니다.