교실로 들어온 AI: 맞춤형 교육의 혁신과 ‘환각 현상’ 사이의 딜레마

인공지능(AI) 기술이 학생들의 일상 깊숙이 파고들면서 교육계는 이를 배척하기보다 어떻게 효과적으로 통합할 것인지 치열하게 고민하고 있다. 생성형 AI는 교육의 접근성을 높이고 교사의 부담을 줄여주는 혁신적인 도구가 될 수 있는 반면, 학문적 진실성을 위협하고 학생들에게 잘못된 정보를 제공하는 양날의 검으로 작용하기도 한다. 최근 교육 전문가들의 논의와 실제 대학 강의실에서 벌어진 사례들은 우리가 AI 시대의 교육을 어떻게 재정의해야 하는지 시사점을 던져준다.

맞춤형 학습과 교육 격차 해소의 새로운 가능성

하버드 교육대학원(HGSE)은 최근 연구자와 기술 기업가, 교육 행정가를 초청해 AI 활용의 명과 암을 논의하는 자리를 마련했다. 이들은 AI가 특히 취약 계층 학생들을 위한 교육 격차 해소에 기여할 수 있다는 점에 주목했다. 비영리 교육 단체 ‘디지털 프라미스(Digital Promise)’의 연구 분석가 옌다 프라도는 “우리는 현재 기술이 태동하는 중요한 시기에 있다”며 학습자 프로필 개발의 중요성을 강조했다.

프라도에 따르면 AI는 빈곤층, 다문화 가정, 특수 교육이 필요한 학생들의 개별적인 학습 프로필을 분석하여 맞춤형 교육을 제공하는 데 핵심적인 역할을 할 수 있다. 그녀는 “영어 학습자나 학습 장애가 있는 학생의 프로필을 구축하고, 이를 기반으로 AI 학습 에이전트를 훈련시켜 각 학생의 구체적인 필요에 맞는 지도를 제공하는 것이 우리의 목표”라고 설명했다.

스타트업 M7E AI의 공동 창립자이자 하버드 교육 기업가 펠로우인 케다르 스리다르는 AI가 학생뿐만 아니라 교사를 지원하는 생태계를 조성해야 한다고 주장했다. 그의 플랫폼은 복잡하고 난해한 수학 커리큘럼을 분석해 학생들이 이해하기 쉬운 언어로 단순화하는 데 AI를 활용한다. 스리다르는 “불필요한 고난을 제거하고 학생들의 지적 성장에 도움이 되는 ‘생산적인 고난’에 집중하게 함으로써, 학생들이 AI의 산출물에 대해 질문하고 판단할 수 있는 능력을 키워준다”고 덧붙였다.

마이크로 스쿨과 프롬프트 엔지니어링의 실험

공교육 현장에서도 과감한 실험이 진행 중이다. 노스캐롤라이나주의 교육감 키스 파커는 자원 부족 문제를 해결하기 위해 ‘마이크로 스쿨’을 도입했다. 5~6학년 학생 25명과 교사 3명으로 구성된 이 작은 학교에서는 AI가 보조 튜터를 넘어 직접적인 교수 수단으로 활용되기도 한다. 파커 교육감은 “3명의 교사가 60명의 학생을 완벽하게 개별 지도하는 것은 불가능하다”며 AI 도입의 필연성을 설명했다.

현재 이 학교에서는 학생들이 AI로부터 원하는 정보를 정확히 얻어낼 수 있도록 ‘프롬프트 작성법’을 가르치는 데 집중하고 있다. 예를 들어 영어 수업 시간에 소설 속 등장인물의 페르소나를 AI 챗봇에 부여해 인터뷰를 진행하거나 캐릭터 가이드를 생성하게 하는 식이다. 파커는 “우리는 K-12 교육의 거대한 혁명 속에 있다”며 기술 활용 방식에 따라 결과물이 완전히 달라질 수 있음을 강조했다.

고등교육 현장의 그림자: 존재하지 않는 논문의 인용

그러나 이러한 혁신적인 시도 이면에는 고등교육 현장에서 벌어지는 AI 오남용 사례들이 새로운 과제로 떠오르고 있다. 대학 강단에서는 AI가 생성한 부정확한 정보를 맹신하는 학생들로 인해 학문적 엄격함이 흔들리는 현상이 목격되고 있다.

한 심리학과 교수의 사례는 이러한 위험성을 여실히 보여준다. 학기 말, 한 학생이 자신의 과제를 AI 탐지기로 검사해 보니 43%가 AI로 작성되었다는 결과가 나왔다며 교수에게 문의해왔다. 교수가 해당 학생이 제출한 논문 요약 과제를 검토한 결과, 학생이 참고문헌으로 제시한 논문들이 실제로는 존재하지 않는 것으로 밝혀졌다.

조사 결과, 해당 학생은 과제 지침을 생성형 AI에 입력한 뒤 관련 논문 요약을 요청했고, AI는 ‘스미스’, ‘존슨’, ‘도’와 같은 흔한 성을 저자로 내세워 가짜 논문과 요약을 만들어냈다. 학생은 AI가 제공한 요약본을 바탕으로 리포트를 작성했기 때문에 AI 탐지기에는 걸리지 않았을지 모르나, 참고한 자료 자체가 AI의 ‘환각 현상(Hallucination)’에 의해 조작된 것이었다. 학생들은 AI가 아예 없는 논문을 만들어낼 수 있다는 사실에 큰 충격을 받았으며, 이는 AI 도구에 대한 맹목적인 신뢰가 얼마나 위험할 수 있는지를 보여주는 단적인 예가 되었다.

AI 리터러시와 교육의 미래

이러한 현장의 혼란은 단순히 학생들의 윤리 의식 부재 탓만은 아니다. 이는 AI 기술의 한계와 특성을 제대로 이해하지 못한 채 도구를 사용했을 때 발생하는 구조적인 문제이기도 하다. 앞서 언급한 프라도 연구원은 교육의 재설계를 위해서는 성공적인 AI 활용 전략과 벤치마킹에 대한 추가적인 연구가 필수적이라고 지적했다.

그녀는 “교육자와 개발자, 연구자가 학교 현장에서 함께 머리를 맞대고 기술을 공동 설계해야 한다”며 “무엇이 효과적이고 무엇이 그렇지 않은지 빠른 시행착오를 거쳐야 한다”고 말했다.

결국 핵심은 학생들이 AI가 할 수 있는 일과 할 수 없는 일을 명확히 인지하게 하는 ‘AI 리터러시’ 교육이다. AI가 그럴듯한 거짓말을 할 수 있다는 점, 비판적 사고 없이 AI의 산출물을 수용해서는 안 된다는 점을 가르치는 것이야말로 미래 교육의 가장 시급한 과제다. 교육계는 이제 학생들이 주체적으로 기술을 선택하고 활용할 수 있는 역량을 길러주는 방향으로 나아가야 할 것이다.