정확한 과학을 위한 장치

AI가 지어내지 않도록

AI 별찌과학실험에서 별찌·타래·주민의 말과 이야기, 그림은 생성형 AI가 만들어요. 생성형 AI는 그럴듯하지만 사실과 다른 말(할루시네이션)을 할 수 있어요.

그래서 실험 순서와 개념 카드는 미리 준비한 글을 그대로 쓰고, 사건이 풀렸는지는 규칙으로 계산하며, AI의 말은 서버가 형식·인용·안전을 다시 검사한 뒤에 화면에 내보내요. 다만 AI 문장의 과학 사실까지 검사하지는 않아요. 이 페이지는 장치마다 무엇을 막는지, 어떻게 막는지, 그리고 어디까지는 막지 못하는지를 알려 드려요.

지금 운영 중인 서비스에 들어 있는 장치만 적었어요(2026년 11월 3일 기준).

01사실이 화면까지 오는 길
02장치마다 자세히
03AI가 그래도 틀릴 수 있는 곳
04보호자와 선생님이 할 수 있는 일
05틀린 말을 발견하면

사실이 화면까지 오는 길

아이 화면에 나오는 과학은 다섯 단계를 지나요. 앞 단계의 워크북 글, 개념 카드, 사건 결과를 계산하는 규칙은 AI가 바꾸지 못하고, 뒤 단계에서 서버가 AI의 말을 다시 검사해요.

01교재·실험 규격워크북 원본 · 개념 카드 · 아이가 한 말
02계산 모델해결 결과 · 카드 · AI 판단 다시 확인
03AI의 말정해진 형식 · 받은 자료 안에서
04서버 검증인용 대조 · 형식·안전 · 실패하면 준비된 대사
05화면출처 표시 · 생성형 AI 표시

장치마다 자세히

단계마다 어떤 장치가 무엇을 막는지, 그리고 그 장치의 한계를 함께 적었어요.

01교재·실험 규격

실험 순서·준비물·주의사항은 키트 워크북 원본에서 옮긴 글이고, 개념 카드의 이름·뜻·설명은 미리 준비해 넣어 둔 글이에요. 아이의 관찰과 가르침은 아이가 한 말 그대로 기록돼요.

과학 내용은 미리 준비한 글을 그대로

무엇을 막나요: AI가 대화 중에 실험 순서·준비물·주의사항이나 개념 설명을 그럴듯하게 지어내는 일.
어떻게: 실험 순서, 준비물, 주의사항은 키트 워크북 원본에서 옮긴 글이고, 장면 속 작업대 카드에 워크북의 그림과 함께 그대로 보여요. 타래의 기억이 깨어날 때 들려주는 개념 이름, 한자·영어 뜻, 짧은 설명은 미리 준비해 제품에 넣어 둔 개념 카드를 AI가 새로 쓰지 않고 그대로 읽어요. ‘한 번 더 쉽게 말해 줘’ 단추도 카드 글로 다시 말해 줘요. 타래는 이 자료를 보며 대화하고, 자료에 없는 개념을 자료처럼 만들지 말라는 지시를 받아요.
한계: 실험 순서·준비물·주의사항은 워크북 원본을 옮긴 글이고, 옮긴 글을 다시 살피는 검토는 진행 중이에요. 외부 기관의 과학 검수를 받았다는 뜻은 아니에요. 미리 준비한 글에도 오류가 있을 수 있고, 알게 된 오류는 고쳐서 반영해요. 타래가 대화 중에 하는 말(다음 단계 안내·도움말·자유로운 질문에 대한 답)은 카드와 실험 자료를 보고 AI가 그 자리에서 만들어 틀릴 수 있어요. 작업대 카드의 단계 글과 그림이 원본이에요.

실물 실험이 먼저, 본 것은 아이의 말로

무엇을 막나요: AI가 아이가 보지 않은 관찰을 채워 넣거나, 실물 실험을 건너뛰게 하는 일.
어떻게: 아이는 책상 위 실물 모형(우주의 사건을 작게 재현한 모형)으로 직접 해 보고, 본 것을 자기 말로 말해요. 실물 단계는 아이가 ‘다 했어’ 단추를 누르거나 했다고 말해야 기록돼요. 단추는 AI를 거치지 않지만, 말로 한 대답은 AI가 알아듣고 기록하므로 잘못 알아들을 수 있어요(실물 단계 중에는 작업대의 ‘이전’ 단추로 되돌릴 수 있어요). 실물 단계를 마치기 전의 말은 관찰로 인정하지 않아 배움이 넘어가지 않아요. AI가 관찰이 충분하다고 판단해도, 아이가 본 것을 자기 말로 두 번 이상 말하기 전에는 받아들이지 않아요.
한계: 앱은 책상 위를 볼 수 없어요. 실물 단계는 아이가 누르거나 말한 대로 기록되고, 보고서에도 아이의 자기 보고라고 적혀요. 절차나 수량을 지어내지 말라는 것은 AI에게 주는 지시이고, 문장마다 걸러 내는 검사는 아니에요.

아이 말은 받아쓴 그대로 기록

무엇을 막나요: AI가 아이의 말을 고쳐 쓰거나 새 사실을 덧붙여 기록하는 일.
어떻게: 관찰과 별찌에게 가르친 말은 아이가 한 말 그대로 저장돼요. AI는 그 말로 장면에서 할 일(관찰인지 가르침인지)을 고를 뿐, 원문을 고치거나 새 사실을 덧붙이지 않아요. 잘못 들렸으면 아이가 다시 말해 고칠 수 있고, 고치기 전과 후의 원문이 모두 남아요.
한계: 말은 먼저 음성 인식(기기 브라우저의 음성 인식, 없는 기기에서는 OpenAI 받아쓰기)으로 글이 되므로, 아이가 고치기 전까지 잘못 들린 낱말이 남을 수 있어요. AI가 할 일을 잘못 고를 수도 있어요. 이런 일은 자동으로 표시되지 않고, 아이가 말로 고쳐요.

02계산 모델

사건이 풀렸는지는 규칙 기반 가상 모형이 계산하고, 스킬 카드는 서버가 기록으로 열어요. 아이가 무엇을 가르쳤는지에 대한 AI의 판단은 서버가 아이의 기록 번호와 정해진 선택지로 다시 확인해요.

사건 해결은 규칙 기반 가상 모형이 계산

무엇을 막나요: AI 문장 하나로 ‘성공했다’가 정해지는 일, 아이가 가르치지 않은 방법이 쓰이는 일.
어떻게: 별찌가 아이에게 배운 방법으로 사건을 풀 때, 성공했는지는 AI의 말이 아니라 미리 정한 규칙 기반 가상 모형이 계산해요. 이 모형은 아이가 가르친 조건만 써요. 근거가 없거나 기록과 맞지 않는 계획은 실행 직전에 다시 검사해 실행하지 않아요. AI는 실행기가 기록한 결과만 지난 일로 말하도록 지시를 받아요.
한계: 아이가 무엇을 가르쳤는지는 배움 판단(AI 판단 포함)을 따르고, 그 조건으로 성공 여부는 규칙이 계산해요. 실험마다 정한 작은 교육용 규칙이고 물리 시뮬레이션이 아니에요. 대부분의 실험에서는 아이가 가르친 방법이 그 실험의 핵심 개념과 맞으면 풀리는 단순한 규칙이에요. 결과 화면도 실물 사진이나 책상 위 결과를 대신하지 않는다고 밝혀요.

배움 판단: AI의 판단을 기록과 선택지로 다시 확인

무엇을 막나요: AI가 근거 없이 ‘배웠다’고 판단해, 별찌가 개념을 배운 것으로 처리되는 일.
어떻게: 별찌가 개념을 배웠는지는 아이가 확인한 말을 바탕으로 정해요. AI의 판단은 지금 기록과 똑같은 기록을 보고 내린 것이고, 아이의 실제 기록 번호를 근거로 들며, 그 실험에 정해진 선택지 안의 값일 때만 받아들여요. AI가 연결되지 않으면 정해진 낱말 규칙으로 판단하고, 브라우저에서 보낸 판단은 받지 않아요.
한계: 아이가 부담 없이 이어 가도록 ‘대략 통하면’ 인정하는 너그러운 기준이라, 숙달을 재는 시험이 아니에요. 그 범위 안에서 ‘대략 이해했다’는 판단은 AI(Claude)가 내려요. 여러 번 시도한 뒤 도움을 받아 넘어간 개념은 아이가 스스로 가르친 것과 나눠 ‘도움받음’으로 기록돼요.

카드는 서버가 열고, AI는 정해진 도구만

무엇을 막나요: AI가 스스로 카드를 주거나, 성공·장소 이동·보상을 정하는 일.
어떻게: 스킬 카드는 아이 기록으로 계획이 준비됐을 때, 배움 판단에서 배운 것으로 확인된 개념에만 서버가 열어요. 도움을 받아 연 카드인지도 함께 기록해요. AI는 아이의 말을 장면에서 할 일로 옮겨요 — 관찰·가르침 기록, 실물 단계 완료, 가상 일꾼의 계획과 실행처럼 정해진 도구 가운데 하나를 고르는 것이고, 성공을 정하거나 다른 장소로 옮기거나 보상을 주는 도구는 없어요. 대사 끝에 붙는 행동 제안(목표 정하기·별 둘러보기 같은)은 제안일 뿐이라 아이가 골라야 실행돼요.
한계: 어떤 개념을 가르친 것으로 볼지는 위의 배움 판단(AI 판단 포함)을 따라요. AI가 아이 말을 잘못 알아들으면 정해진 도구 가운데 엉뚱한 것(예: 실물 단계 완료)을 고를 수 있어요.

발명품 시험은 과학 계산 모델이

무엇을 막나요: AI의 말 한마디로 아이가 설계한 장치가 ‘통과했다’고 정해지는 일.
어떻게: 아이에게 배운 과학으로 설계한 발명품은 서비스의 계산 모델로 시험해요. 빛과 그림자 모형은 해의 길을 따라 하루 동안 그늘이 지는 곳을, 빗물 길 모형은 빗물이 어디로 들어오고 막히는지를 계산해요. 시험을 통과한 설계만 설치할 수 있어요. 별찌가 AI로 설계 고칠 곳을 제안할 때도 그 제안은 형식·안전·설계 규칙 검사를 거친 뒤 같은 시험을 다시 받아요.
한계: 교육용으로 단순하게 만든 모형이고, 실제로 잰 값이 아니에요. 빛과 그림자 모형은 빛이 곧게 나아가는 것만 계산하고 반사·구름은 계산하지 않아요. 빗물 길 모형은 비 한 가지 조건만, 막힘·스밈 같은 상태로만 보여요.

03AI의 말

타래·별찌·주민의 말은 생성형 AI가 만들어요. AI는 정해진 형식으로만 대답하고, 인물마다 받은 자료와 기록 안에서 말하도록 지시를 받아요.

별찌와 주민이 아는 것은 기록으로 제한

무엇을 막나요: 별찌가 배우지 않은 것을 아는 것처럼 말하거나, 주민이 함께 겪지 않은 일을 함께한 것처럼 말하는 일.
어떻게: 별찌에게는 아이가 확인해 준 가르침과 장면에서 모두가 들은 말만 전해지고, 타래의 실험 자료(준비물·주의사항·도움말)와 기억 카드는 주지 않아요. 별의 주민은 자기가 함께한 사건과 아이가 공유하기로 고른 일지만 알아요. 별들의 마을 소식판 글도 개념 이름·장소 이름처럼 정해 준 사실로만 쓰라는 지시를 받고, 아이의 말이나 이름은 들어가지 않아요.
한계: AI에게 주는 자료를 줄이는 장치이고, 문장마다 거르는 검사는 아니에요. 그래서 별찌가 배우기 전에 원리를 먼저 말하거나, 키트에 없는 물건이나 장소의 사실을 지어내 말할 수 있어요. 이런 문장을 하나씩 걸러 내는 검사는 아직 서비스에 들어 있지 않아요.

사진 분석은 보이는 것만, 한계와 함께

무엇을 막나요: 사진 한 장으로 숨은 원인이나 실험 성공을 단정하는 일.
어떻게: 아이가 실물 모형 사진을 보여 주면 AI는 보이는 색·위치·모양만 짧게 말해요. 숨은 원인, 정확한 양, 실험을 마쳤는지는 단정하지 말라는 지시를 받고, 대답에는 ‘확실하지 않은 점’이 반드시 함께 들어가요. 사진 분석은 아이의 관찰 기록에 넣지 않고 ‘사진 분석’으로 따로 보여요.
한계: 원인을 단정하지 말라는 것은 AI에게 주는 지시이고, 코드는 형식과 안전만 검사해요.

04서버 검증

서버가 아이 말 인용과 근거 번호를 실제 기록과 대조하고, 형식과 안전을 다시 검사해요. 통과하지 못하면 미리 준비한 대사나 이야기로 바꿔요. 문장의 과학 사실이 맞는지는 검사하지 않아요.

아이 말 인용은 실제 기록과 대조

무엇을 막나요: 아이가 하지 않은 말을 아이가 한 말처럼 인용하는 일.
어떻게: 타래·별찌가 아이 말을 따옴표로 인용하려면, 그 말이 아이가 실제로 하고 확인한 말 안에 있어야 하고 그 기록의 번호(근거 ID)를 같은 대사에 달아야 해요. 서버가 대조해 기록에 없는 말을 인용한 대답은 화면에 내보내지 않아요. 대사에 단 근거 번호가 실제로 있는 기록인지도 서버가 확인해요.
한계: 따옴표 안의 말만 대조해요. 따옴표 없이 바꿔 말하며 ‘네가 그렇게 말했지’ 하는 것은 AI에게 주는 지시로만 막아요.

AI 대답은 정해진 형식으로만, 서버가 다시 검사

무엇을 막나요: 형식이 어긋난 대답, 허용되지 않은 행동, 링크·코드 조각, 안전하지 않은 말이 화면에 나오는 일.
어떻게: AI는 자유 글이 아니라 정해진 틀(JSON 형식)로만 대답해요. 서버는 그 대답을 다시 하나하나 검사해요 — 한 번에 1–3줄, 지금 말하는 인물만, 허용된 행동과 대상만 쓸 수 있어요. 링크나 코드 조각, 안전 검사에 걸리는 말이 있으면 쓰지 않아요. 장면에서 할 일도 지금 장면에서 가능한 도구 중에서만 고를 수 있어요.
한계: 형식과 안전을 검사하는 것이지, 문장의 사실이 맞는지 검사하는 것은 아니에요. 형식에 맞고 안전한 문장도 틀린 사실을 말할 수 있어요.

AI가 새로 쓰는 이야기 검사

무엇을 막나요: 이야기가 실험의 답을 미리 알려 주거나, 무대에 없는 인물이 말하거나, 책상 위 키트와 이야기가 끊어지는 일.
어떻게: 아이가 고른 별에서 AI가 새로 쓰는 이야기는 보여 주기 전에 장면마다 검사해요. 무대에 나온 인물만 말하고, 정해진 장면 구도와 대사 길이·장면 수를 지켜야 해요. 책상 위 키트가 이야기의 무엇을 나타내는지 꼭 이어 주고, 실험 결과의 답을 미리 알려 주는 낱말은 빼요. 이야기는 실제로 만들어진 3D 행성의 특징을 바탕으로 써요. 검사를 통과하지 못하면 다시 쓰거나 준비된 이야기로 바꾸고, 화면에는 ‘AI가 만든 이야기’ 표시가 붙어요.
한계: 등록한 실험에서 골라서 하는 기능이에요. 장소와 주민은 일부러 만든 이야기(창작)이고, 답을 알려 주는 낱말은 정해 둔 낱말 목록으로 찾아요.

검사에 실패하면 준비된 대사·이야기로

무엇을 막나요: 검사를 통과하지 못한 AI 대답이 그대로 나오거나, AI가 응답하지 않아 탐사가 멈추는 일.
어떻게: AI 대답이 형식·근거·안전 검사를 통과하지 못하거나 AI가 응답하지 않으면, 실험 자료와 아이 기록으로 만든 규칙 기반 안내 대사로 이어 가요. 이 대사는 AI가 만든 말로 기록하지 않아요. AI가 새로 쓴 이야기가 실패하면 준비된 이야기 전체로, 장면 그림이 실패하면 준비된 무대로 바꿔요.
한계: 준비된 대사는 더 단순해요. 사진 분석, 선생님의 AI 분석, 학급 작전 초안처럼 대신할 글이 없는 기능은 다시 시도해 달라는 안내를 보여요.

05화면

아이의 말, 타래의 도움, 가상 일꾼의 기록, AI가 만든 것을 나눠 표시해요.

보고서는 기록으로 조립하고 출처를 나눠 표시

무엇을 막나요: AI가 보고서를 새로 지어 쓰거나, 아이가 한 것과 도움받은 것이 섞이는 일.
어떻게: 보호자·선생님 보고서는 AI가 새로 쓰는 글이 아니에요. 아이가 확인한 말, 타래의 도움, 가상 일꾼의 실행 기록으로 조립해요. 아이의 말은 원문 그대로 보여 주고, 타래가 준 도움은 ‘타래의 도움’으로 따로 표시해요. 실물 실험은 아이의 자기 보고이고 AI가 실물 결과를 인증하지 않는다는 것도 밝혀요.
한계: 보고서 속 개념 설명은 개념 카드에서 와요. 요약 문장은 정해진 틀로 만든 것이고, 평가가 아니에요.

선생님의 AI 분석과 학급 작전은 초안

무엇을 막나요: AI의 정리가 평가처럼 쓰이거나, AI가 만든 학급 문제가 선생님 확인 없이 열리는 일.
어떻게: 선생님 대시보드의 AI 분석은 학생이 공유한 보고서 내용만 근거로 정리하라는 지시를 받고, 학생에게 줄 한마디는 ‘초안’으로 표시돼요. 화면은 ‘수업 판단은 선생님께서 해 주세요’라고 안내해요. 학급 작전도 AI가 만든 초안을 선생님이 확인·수정한 뒤에 열고, 초안은 선생님이 고른 개념만, 그리고 고른 개념을 모두 써야 해요.
한계: ‘보고서만 근거로’는 AI에게 주는 지시라, 분석 글을 보고서와 한 줄씩 대조하지는 않아요.

생성형 AI 사용 표시와 ‘AI는 틀릴 수 있음’ 안내

무엇을 막나요: AI가 만든 말과 그림을 확인된 사실처럼 받아들이는 일.
어떻게: 첫 화면, 선생님 대시보드, 공유된 보고서, AI가 만든 이야기에 생성형 AI를 쓴다는 표시가 있어요. 이용약관은 AI의 답이 틀리거나 어색할 수 있다고 알리고, 과학 내용은 회사가 준비한 실험 자료를 기준으로 하며, AI 캐릭터의 말이 키트 설명서와 다르면 설명서를 따르라고 안내해요.
한계: 이용약관은 법무 확정 전 초안이에요.

AI가 그래도 틀릴 수 있는 곳

위 장치들은 AI의 말이 아이의 관찰·가르침 기록이나 결과 계산으로 바뀌지 않게 하고, 화면에 나오는 말을 다시 검사해요. 그래도 아래에서는 AI가 틀린 말을 할 수 있어요.

타래가 대화 중에 하는 말 — 다음 실물 단계 안내, 도움말, 아이가 자기 말로 한 질문에 대한 답은 카드와 실험 자료를 보고 AI가 그 자리에서 만들어요. 작업대 카드의 단계 글과 그림이 원본이에요
별찌·주민의 대사 — 배우기 전에 원리를 먼저 말하거나, 키트에 없는 물건이나 장소의 사실을 지어낼 수 있어요
별이나 행성을 고를 때 타래가 하는 한마디 — 그 장소의 특징만 보고 쓰라는 지시를 받지만, AI가 그 자리에서 만드는 말이에요
AI가 새로 쓰는 이야기의 장소와 주민 — 일부러 만든 창작이에요
음성 인식이 잘못 들은 낱말과, AI가 아이 말을 잘못 알아들어 고른 할 일(예: 실물 단계를 마친 것으로 기록) — 아이가 다시 말하거나 작업대의 ‘이전’ 단추로 고치기 전까지
사진 분석, 선생님 대시보드의 AI 분석, 마을 소식판 글
홍보·구독 페이지의 상품 안내 도우미 타래의 대답 — 구매 조건은 구독 상품 페이지와 소비자 상담에서 확인해 주세요

이 서비스는 AI가 틀릴 수 있다는 것을 전제로 만들어졌어요. 아이가 책상 위에서 직접 본 것을 기준으로, 화면의 말을 다시 확인해 보는 것도 과학 공부예요.

보호자와 선생님이 할 수 있는 일

실험할 때: 실험은 키트 워크북의 방법과 주의사항을 따라 직접 해요. 화면의 말과 책상 위에서 본 것이 다르면, 키트 설명서와 아이가 직접 본 것을 따라 주세요.
탐사가 끝나면: 보고서에서 ‘아이의 말’과 ‘타래의 도움’을 나눠 읽어 주세요. 잘못 들린 말은 아이가 다시 말해 고칠 수 있고, 고치기 전과 후가 모두 남아요.
선생님께: AI 분석과 학생에게 줄 한마디는 초안이에요. 수업 판단과 평가는 선생님이 직접 해 주세요. 학급 작전 초안은 열기 전에 확인하고 고칠 수 있어요.
함께 쓰기: 14세 미만은 보호자와 함께 사용해 주세요. 이상한 말이 나오면 그 자리에서 “정말 그럴까? 모형에서 다시 볼까?” 하고 함께 확인해 보세요.

틀린 말을 발견하면

대화 속 AI 답을 서비스 안에서 바로 알리는 단추는 아직 없어요(별들의 마을 소식판 글은 ‘이상한 글 알려 주기’로 바로 숨길 수 있어요). 화면을 사진으로 남기거나 시각과 실험 이름을 적어 아래 문의처로 알려 주세요.

소비자 상담 및 문의 ((주)미래과학교육원): 1544-3415 · 평일 09:00~18:00

자주 묻는 질문

AI가 틀린 과학을 말하면 어떡하나요?

AI는 틀릴 수 있어요. 그래서 실험 순서·준비물·주의사항은 키트 워크북 원본에서 옮긴 글을, 개념 카드의 이름·뜻·설명은 미리 준비해 넣어 둔 글을 그대로 써요. AI의 대답은 서버가 형식·인용·안전을 다시 검사한 뒤에 화면에 나와요. 아이가 하지 않은 말을 인용한 대답은 내보내지 않고, 검사에 실패하면 준비된 대사로 이어 가요. 다만 이 검사는 AI 문장의 과학 사실이 맞는지는 보지 않아요. 화면의 말과 책상 위 결과가 다르면 키트 설명서와 아이가 직접 본 것을 따라 주세요. 틀린 말을 발견하면 (주)미래과학교육원 소비자 상담 1544-3415(평일 09:00~18:00)로 알려 주세요. 자세한 장치와 한계는 astratutorlab.com/about/accuracy에 있어요.

발명품이 되는지는 AI가 정하나요?

아니요. 별찌가 아이에게 배운 방법으로 사건을 풀 때, 풀렸는지는 AI의 말이 아니라 미리 정한 규칙 기반 가상 모형이 계산해요. 아이가 무엇을 가르쳤는지는 배움 판단(AI 판단 포함)을 따르고, 그 조건으로 성공 여부는 규칙이 계산해요. 근거가 없는 계획은 실행하지 않고, AI는 실행 기록에 있는 결과만 지난 일로 말해요. 카드도 서버가 아이의 기록으로 열어요. 발명품 작업대의 시험도 AI의 말이 아니라 서비스의 계산 모델이 그곳의 하루 햇빛 같은 조건으로 계산해요.