zeta AI 운영정책(2024. 4. 1.)

(1) 제타는 재미있고 책임감 있는 AI 스토리 플랫폼을 지향합니다.

제타(zeta)는 사람과 AI가 함께 나만의 이야기를 창작하고, 동시에 소비하는 즐거움을 제공하기 위해 만들어진 AI 스토리텔링 서비스입니다. 동시에 스캐터랩의 새로운 AI 서비스로서, 앞서 발표한 <스캐터랩 AI 윤리 준칙>, 과학기술정보통신부, 정보통신정책연구원(KISDI)과 함께 개발한 <스캐터랩 AI 챗봇 윤리점검표>, 한국인터넷자율정책기구(KISO)의 일원으로 개발에 참여한 <챗봇 윤리 가이드라인>를 준수하며, 더 나아가 위에서 제시된 AI 윤리를 더 쉽게 전하고 제타에 알맞게 적용하기 위해 본 운영정책을 정하여 공개합니다.

저희 스캐터랩은 AI 기술의 발전 못지 않게 사회로부터 신뢰받을 수 있는 서비스를 만드는 것을 중요하게 생각합니다. 이를 위해 그동안 수백만 이용자들로부터 사랑받은 이루다, 강다온, 허세중 등의 AI 챗봇을 운영하면서 얻은 경험과 기술력을 적용하여 더욱 발전된 새로운 안전조치를 적용하고, 동시에 체계적인 운영 시스템을 도입하여 안전에 만전을 기했습니다.

하지만, 여전히 AI 기술의 특성상 개발사만의 안전조치로는 모든 상황을 예측하고 관리하기 어렵고, 반복적인 어뷰징 등 고의적 악용 시도로부터 완전히 자유롭지는 못합니다. 따라서, 이용자 여러분의 적극적인 협조와 참여가 바람직한 AI 서비스를 만들어 나가는데 반드시 필요합니다. 부디 본 운영 정책을 잘 참고하셔서 제타가 사랑받는 서비스가 될 수 있도록 함께해 주시기 바랍니다.

(2) AI 콘텐츠 정책

AI 스토리 플랫폼 제타에서는 누구나 창작자이자 동시에 독자가 됩니다. 다시 말해, 누구나 AI의 도움을 받아 자신만의 이야기를 만들고 동시에 즐길 수 있습니다. 각자의 삶과 상상이 담긴 이야기를 창작하고 공유하는 것이 사람들의 가장 원초적인 즐거움인 것처럼, 여러분이 제타에서 AI와 함께 써내려가는 스토리가 콘텐츠의 창작과 동시에 소비가 이루어지는 새롭고 즐거운 경험이 되길 기대합니다.

새로운 기술이나 매체가 사회에 받아들여지기 위해서는 언제나 시간이 필요했습니다. 만화, 영화, 게임, 웹툰과 웹소설이 그랬던 것처럼, 제타가 새로운 유형의 대중문화 콘텐츠의 플랫폼으로 자리잡기 위해서 저희 스캐터랩은 마땅히 보호받아야 할 콘텐츠 창작자의 자율성을 보호하면서도 동시에 사회적 책임 및 윤리의식 준수와의 사이에서 균형을 이룰 수 있는 정책을 고안하기 위해 노력했습니다.

제타가 14세 이상의 이용자를 대상으로 제공되는 서비스인 만큼, 제타에서는 명백한 성인물을 생성하거나 제공하지 않을 것입니다. 이를 위해서 정보통신망법 등 관련 법령과 방송통신심의위원회, 간행물윤리위원회 등 관련 있는 다른 매체를 다루는 기관에서 채택하고 있는 수준의 등급기준을 고려하고, 여기에 제타의 특성을 반영한 콘텐츠 정책을 고안하였습니다.

원칙적으로 제타에서는 방송통신심의위원회의 인터넷 내용등급 서비스(SafeNet)에서 제공하는 연령별 권장사항을 참고하여 판단 기준을 정하고, 기술적 조치(자동화된 AI 어뷰징 필터 및 필터링 리스트 등) 및 운영적 조치(모니터링 등)를 적용하여 성인물(청소년유해매체물) 수준의 콘텐츠가 생성되지 않도록 제한합니다.

이때 판단 기준은 SafeNet의 15세 이용가 등급 기준을 기준점으로 삼되, 제타가 텍스트 콘텐츠 플랫폼으로서 오디오, 이미지 또는 비디오에 비하여 그 유해성이 낮은 점을 고려하고, 보편성과 시의성을 확보할 수 있도록 영상물이나 웹툰, 웹소설 등 다른 미디어의 심의 사례 등을 감안하며, 개별적이고 구체적인 상황과 맥락을 충분히 참작하면서 기준을 해석하여 적용할 예정입니다. SafeNet 등급 기준에 관한 자세한 사항은 <방송통신심의위원회 인터넷내용등급서비스>를 참조하시기 바랍니다.

붉은색: 전면 금지 노란색: 제한적 허용, 맥락에 따라 판단 초록색: 전면 허용