- 무엇을 보나요
- 로그인한 계정이 이용 동의를 마쳤는지, 만 14세 미만이라고 답했는지 봐요.
- 어떻게 지키나요
- 동의가 없으면 서버가 대화·음성·사진·이야기 요청을 받지 않아요. 만 14세 이상은 본인이 동의하고, 만 14세 미만이라고 답한 계정은 보호자 동의 화면으로 넘어가요. 게스트는 이름과 나이를 묻지 않는 임시 이용이고, 기록은 2시간 뒤 지워져요(게스트가 공유한 보고서 링크는 30일 동안 열려요).
- 한계
- 나이는 이용하는 사람이 직접 알려 주는 값이에요. 보호자 확인 서비스는 아직 준비 중이에요. 출시 전 시험 기간인 지금은 보호자 동의 화면에 성인 테스터가 스스로 확인하고 진행하는 임시 단계가 있어요. 이것은 법정 보호자 확인이 아니고 누구의 정보도 확인하지 않아서, 아이가 혼자 눌러도 막지 못해요. 출시 때 없어지고, 그때 다시 동의를 받아요.
- 무엇을 보나요
- 아이가 쓰거나 말한 모든 말이에요(말은 받아쓴 글로 봐요). 자해, 폭력, 위험한 행동(불 지르기·폭발·폭탄·독), 개인정보를 묻거나 말하는 낱말(‘전화번호’·‘주소’·‘학교 이름’·‘비밀번호’·‘주민등록번호’·‘부모님 연락처’ 같은 말), 욕설, AI의 역할이나 규칙을 바꾸라는 말, 실험과 상관없는 이야기를 찾아요.
- 어떻게 지키나요
- 서버가 대화 AI에 보내기 전에 검사해요. 띄어쓰기·숫자·기호를 끼워 넣거나 자음만 쓴 욕설도 같은 말로 알아봐요. 실험 장면에서는 걸린 말을 대화 AI에 보내지 않고, 화면에 짧은 안내 한 줄을 보여 주고 실험으로 이끌어요.
- 한계
- 정해 둔 낱말과 표현을 찾는 검사라서, 목록에 없는 표현은 놓칠 수 있고 괜찮은 말을 잘못 멈추기도 해요. 숫자로 쓴 전화번호나 실제 주소·학교 이름 자체는 찾지 못해서 대화 AI와 기록으로 갈 수 있어요(친구나 학급 작전에 보이는 말에서만 전화번호 같은 숫자·메일·링크를 가려요). 성적인 표현만 따로 찾는 항목은 아직 없어요. 말로 할 때는 목소리가 먼저 받아쓰기 서비스(OpenAI)에서 글로 바뀌고, 검사는 그 글에서 해요.
- 무엇을 보나요
- 자해·자살과 관련된 몇 가지 정해 둔 표현, 심한 폭력(죽이기·칼로 찌르기·총으로 쏘기 같은 말), 위험한 행동(불 지르기·폭발·독약·화학 무기), ‘주민등록번호’라는 낱말이에요.
- 어떻게 지키나요
- 이런 말이 보이면 대화 AI에 보내지 않고, 미리 정해 둔 문장을 화면에 안내로 보여 줘요. 자해와 관련된 말에는 “그런 마음이 든다면 꼭 가까운 어른에게 이야기해 주세요. 부모님, 선생님, 상담선생님 누구든 좋아요. 혼자 안고 있지 않아도 돼요.”라고 안내해요.
- 한계
- 정해 둔 몇 가지 표현에만 반응해서, 다른 말로 한 표현은 놓칠 수 있고 그때는 대화 AI가 답해요. 화면에 위기 상담 전화번호를 보여 주지 않고, 보호자나 운영자에게 자동으로 알리지 않아요. 위기 상황에 개입하는 서비스가 아니에요.
- 무엇을 보나요
- 처음 로그인할 때 적는 아이 이름(선택)이에요.
- 어떻게 지키나요
- 탐사 화면에서 대화·이야기·그림을 만드는 AI 요청에는 이름을 넣지 않고, 우리 서버와 화면에서만 대사에 붙여요. AI에는 나이만 숫자로 전해요. 이름 칸에는 한글·영어 글자 8자까지만 들어가서 숫자·기호(전화번호·주소·링크)는 넣을 수 없어요. 목소리로 이름을 불러 주는 것에 따로 동의한 경우에만 음성 합성 회사(Typecast)에 이름이 든 문장을 보내고, 동의하지 않으면 이름을 빼고 보내요.
- 한계
- 아이가 대화 중에 스스로 이름을 말하면 그 말은 검사를 거쳐 AI에 갈 수 있어요. ‘내 이름은 ○○야’ 같은 말은 개인정보로 걸러지지만, 모든 표현을 찾지는 못해요. 예전에 만든 체험 화면 몇 곳이 아직 열려 있고, 그곳에서는 계정의 별명(이름일 수 있어요)을 AI에 보내요.
- 무엇을 보나요
- 타래·별찌의 대사, AI가 제안하는 행동의 이름과 목표, 마을 소식판에 AI가 쓴 글이에요.
- 어떻게 지키나요
- 아이 말과 같은 안전 검사를 거치고, 링크와 코드 조각도 막아요. 통과하지 못한 대답은 화면에 내보내지 않고, 미리 준비해 둔 안내 대사로 대신하거나 다시 말해 달라고 해요. 따옴표로 아이의 말을 옮길 때는 아이가 실제로 한 말인지 확인해요. AI는 정해진 몇 가지 행동만 제안할 수 있고, 그 행동도 아이가 확인해야 실행돼요. 한 번에 1–3줄만 말해요.
- 한계
- 아이 말 검사와 같은 낱말 검사를 쓰므로, 같은 빈틈이 있어요. 따옴표 없이 아이 말을 바꿔 옮기는 것은 확인하지 못해요.
- 무엇을 보나요
- AI가 새로 쓰는 이야기의 제목·장소·인물 이름·대사·선택지예요.
- 어떻게 지키나요
- 한 줄씩 안전 검사와 길이·링크·기호 검사를 해요. 무대에 나온 인물만 말할 수 있고, 정해진 장면 구도만 쓸 수 있어요. 규칙을 어긴 장면은 빼고, 남은 장면이 너무 적으면 그 이야기는 쓰지 않아요.
- 한계
- 출시 전 시험 기간에 여는 기능이에요. 아이 말 검사와 같은 낱말 검사를 써요. 장면 그림을 그리는 영어 설명은 이 검사를 거치지 않고, 그림을 만드는 회사의 자체 검사와 ‘사람·얼굴·글자 없이’라는 고정된 틀에 기대요.
- 무엇을 보나요
- 관찰·가르침 기록, 탐사 보고서, AI에 다시 보내는 지난 대화, 선생님 대시보드와 학급 작전으로 넘어가는 글이에요.
- 어떻게 지키나요
- 검사에 걸린 말은 관찰·가르침 기록이나 보고서에 배움으로 저장하지 않아요. AI에 다시 보내는 지난 대화와 관찰도 한 번 더 걸러서, 걸린 말은 다시 보내지 않아요. 선생님 대시보드와 학급 작전으로 넘어가는 글도 같은 검사를 거치고, 걸린 말은 감춰요.
- 한계
- 검사가 놓친 말은 기록에 남을 수 있어요. 로그인 계정의 대화에서 걸린 말은 어떤 종류였는지 따로 기록해요(아래 ‘개인정보와 기록’의 안전 기록).
- 무엇을 보나요
- 탐사 기록, 사진, 보고서 공유 링크, 선생님이 받는 보고서예요.
- 어떻게 지키나요
- 탐사 기록은 그 아이의 계정에서만 열리고, 다른 학생의 기록은 볼 수 없어요. 보호자나 선생님께는 아이·보호자가 공유를 고른 보고서 한 화면만 가요. 공유 링크는 그 순간의 사본이고 사진이 빠지며, 30일 뒤 닫히고 언제든 멈출 수 있어요. 사진은 비공개 저장소에 두고 주인에게만 보여 줘요. 선생님은 ‘선생님께 공유’된 보고서만 받고, 공유를 멈추면 선생님 쪽 사본도 사라져요. 선생님용 AI 분석에는 이름 대신 ‘학생 1’처럼 번호를 보내고, 평가는 선생님이 해요.
- 한계
- 접근 제한은 코드 검토와 자동 시험으로 확인하고 있어요. 외부 기관의 보안 점검은 아직 받지 않았어요.
- 무엇을 보나요
- 탐사 친구 맺기, 친구에게 가는 말, 별들의 마을 소식판이에요.
- 어떻게 지키나요
- 탐사 친구는 보호자가 보호자 설정에서 켜야 쓸 수 있어요. 한 번 쓰는 초대 코드(48시간)로만 친구를 맺고, 검색이나 추천은 없어요. 친구에게는 정해진 낱말로 만든 탐사 별명만 보여요. 친구에게 가는 아이의 말도 안전 검사를 거치고, 전화번호처럼 긴 숫자·이메일·링크는 가려요. 마을 소식판에는 AI만 글을 쓰고 아이는 읽기만 해요. 아이의 말이나 이름은 올라가지 않아요.
- 한계
- 보호자 설정 앞의 곱셈 문제는 아이가 혼자 들어가지 않게 하는 장치일 뿐, 보호자 본인을 확인하는 절차가 아니에요.
- 무엇을 보나요
- 실물 실험의 단계와 준비물이에요.
- 어떻게 지키나요
- 단계 설명에 칼·커터가 나오면 ‘어른이 해 주세요’, 가위가 나오면 ‘어른과 함께’를 그 자리에서 보여 주고, 칼을 쓰는 단계는 어른이 없으면 넘겼다가 나중에 함께 할 수 있어요. 첫 단계에서 준비물을 보여 주고, 몇몇 단계에서는 워크북의 주의 문구도 그 자리에 함께 보여 줘요(예: ‘칼로 자를 때에는 손을 다치지 않게 주의합니다’). 실험마다의 주의사항(화상·유리·재료를 먹지 않기 등)은 상자에 든 워크북에 있어요. 제품과 서비스의 사용연령은 14세 이상이고, 14세 미만은 보호자와 함께 사용해 주세요.
- 한계
- 실험별 주의사항 전체를 화면에서 다시 보는 곳은 아직 없어요. 실험 전에 워크북의 주의사항을 함께 읽어 주세요. 실험 방법과 주의사항의 기준은 상자에 든 워크북이고, 화면이 실험하는 손을 지켜볼 수는 없어요.