AI 윤리를 가르친다는 것: 교육자를 위한 완벽 가이드
C
Contenjoo
에듀테크 오늘
수정시각
날짜
Empty
Leon Furze의 "Teaching AI Ethics" (2026) 핵심 정리
ChatGPT가 세상에 등장한 지 벌써 3년이 넘었다. 그 사이 AI는 우리 일상 깊숙이 파고들었다. Microsoft 365에는 Copilot이, Google Workspace에는 Gemini가, 새 아이폰에는 Siri와 연동된 AI가 기본 탑재되어 있다. Meta는 사용자가 원하든 원하지 않든 모든 플랫폼에 Meta AI를 배포했다.
하지만 기술이 보편화될수록 윤리적 문제는 더욱 심각해지고 있다.
Leon Furze는 2023년 블로그 시리즈로 시작한 AI 윤리 교육 자료를 2026년에 책으로 업데이트했다. 그는 "AI가 이미 어디에나 있으니 윤리 논의를 그만두자"는 일부 의견에 정면으로 반박한다. AI의 편재성과 불가피성이야말로 윤리 교육을 더욱 중요하게 만든다는 것이 그의 핵심 주장이다.
이 책이 다루는 9가지 윤리 영역을 하나씩 살펴보자.
1. 편향: 세 겹으로 쌓인 차별
AI 편향은 단순하지 않다. 세 가지 층위가 겹겹이 쌓여 있다.
데이터 편향은 가장 널리 알려진 문제다. 인터넷에서 긁어온 훈련 데이터가 특정 집단—주로 백인, 남성, 영어권—을 과대 대표한다. Emily Bender와 Timnit Gebru가 경고한 "확률적 앵무새" 문제가 바로 이것이다. AI는 데이터에서 본 패턴을 그대로 따라한다.
모델 편향은 더 미묘하다. 안전 훈련을 거친 GPT-4o조차 간접적인 프롬프트에서 문화적 편향을 보인다는 연구 결과가 있다. 모델은 "공정함"을 이해하지 못한다. 그저 패턴을 학습하고 때로는 증폭할 뿐이다.
인간 편향은 데이터 생성과 라벨링 단계에서 들어온다. ImageNet의 창시자 Fei-Fei Li조차 자신의 데이터셋에 담긴 인종차별적, 성차별적 라벨에 충격을 받았다고 고백했다.
이 문제가 얼마나 심각한지 직접 확인해보고 싶다면 Midjourney에서 "CEO 사진"을 생성해보라. 정장 입은 백인 남성들이 줄줄이 나올 것이다. "간호사 사진"을 생성하면? 성적으로 대상화된 여성 이미지가 나오기도 한다.
ChatGPT나 Microsoft Copilot은 시스템 프롬프트라는 가드레일을 통해 더 다양한 결과를 보여준다. 하지만 이건 반창고에 불과하다. 근본적인 데이터 편향은 그대로 남아 있다.
2. 환경: AI는 채굴 산업이다
Kate Crawford의 표현을 빌리면, AI는 **채굴 기술(extractive technology)**이다.
데이터센터는 미국 전체 에너지의 3-4%를 삼키고 있다. 냉각을 위한 물 사용량은 일부 지역의 수자원을 말 그대로 고갈시키고 있다. 리튬, 희토류 같은 광물 채굴, 짧은 수명 주기로 인한 전자 폐기물 문제도 심각하다.
숫자로 보면 더 충격적이다.
•
GPT-3 훈련: 1,287 MWh 전력, 약 552톤 CO₂ 배출
•
이는 미국 평균 가정 120가구의 연간 전력 사용량과 맞먹는다
추론 시점(우리가 실제로 AI를 사용할 때)의 에너지 소비도 무시할 수 없다. 이미지 생성은 텍스트 분류 같은 기존 AI 작업보다 수십 배 이상 에너지를 먹는다.
교육자로서 우리가 던져야 할 질문이 있다. "이 작업에 정말 ChatGPT가 필요한가, 아니면 더 효율적인 도구로 충분한가?"
3. 진실: 환각은 버그가 아니라 기능이다
대형 언어 모델에게 "진실"이란 통계적 확률에 불과하다.
환각(hallucination)—AI가 그럴듯하지만 완전히 틀린 정보를 생성하는 현상—은 고쳐야 할 버그가 아니다. 이 기술이 작동하는 방식의 본질적 특성이다.
실제 피해 사례를 보자.
•
미국 정부의 "Make America Healthy Again" 보고서에 ChatGPT가 만든 가짜 인용이 포함됨
•
의학 논문에서 수백 개의 잘못된 예측 발견
딥페이크 문제는 더욱 암울하다.
•
온라인 딥페이크의 99%가 비동의 성적 이미지
•
그중 98%가 여성을 대상으로 함
Sarah Elaine Eaton은 "포스트표절(Post-Plagiarism)" 프레임워크를 제안했다. 핵심 원칙 중 하나는 이것이다: 통제는 AI에게 넘길 수 있지만, 책임은 넘길 수 없다.
4. 저작권: 크리에이터의 딜레마
저작권 전쟁터는 뜨겁다.
Getty Images v. Stability AI 소송에서 영국 법원은 AI가 저작물을 "저장하거나 복제하지 않는다"고 판결했다. 반면 Anthropic은 작가들과 15억 달러에 합의했다. 완전히 상반된 선례가 동시에 만들어지고 있다.
크리에이터의 딜레마가 여기서 나온다.
당신의 저작물은 AI 훈련에 사용된다. 하지만 AI가 만든 콘텐츠에는 저작권이 인정되기 어렵다. 빼앗기기만 하고 돌려받지 못하는 구조다.
국가별 대응도 제각각이다.
국가 | 접근 방식 |
호주 | 텍스트·데이터 마이닝 예외 거부 |
영국 | 옵트아웃 방식 검토 중 |
미국 | 50건 이상 소송 진행 중 |
최근 Studio Ghibli 스타일 밈이 인터넷을 휩쓸었다. OpenAI의 최신 이미지 모델이 분명히 미야자키 영화 프레임으로 훈련되었다는 증거다. 법적으로는 아직 회색지대지만, 윤리적으로는 명백히 문제가 있다.
5. 프라이버시: 사적 대화라는 환상
챗봇과의 대화가 사적이라고 생각하는가?
전혀 아니다.
OpenAI는 위협적인 대화를 법 집행기관과 공유한다고 명시하고 있다. 모든 대화는 기본적으로 수집되고 저장된다.
Meta AI는 더 심했다. 사용자의 "비공개" 대화를 공개 피드로 노출시키는 프라이버시 재난을 일으켰다. 그리고 이 대화 데이터는 광고 타겟팅에 활용된다.
규제 당국도 움직이기 시작했다.
•
이탈리아: OpenAI에 GDPR 위반으로 1,500만 유로 벌금
•
중국 DeepSeek: 사용자 데이터를 중국 서버에 저장해 국가 안보 우려 촉발
새로운 쟁점도 떠오르고 있다. 당신 옆에서 누군가 AI 기기를 사용하면, 당신의 대화도 녹음될 수 있다. 방관자 프라이버시 문제다.
6. 데이터: 무료 점심은 없다
ChatGPT는 2025년 8월 기준 주간 8억 명이 사용한다. 모든 대화는 무기한 저장된다.
여기서 불편한 진실이 나온다.
학생이 ChatGPT로 수학 문제를 풀 때, 에세이 초안을 잡을 때, 그들은 모르는 사이에 회사의 AI를 무료로 훈련시키고 있다. 피드백 루프다. 우리가 쓸수록 제품은 좋아지고, 회사는 그 제품을 판다.
학습 분석 시장 규모를 보자.
연도 | 시장 규모 |
2024년 | 42억 달러 |
2034년 (전망) | 186억 달러 |
학생 데이터는 상업적 프로파일링, 광고 타겟팅, AI 모델 훈련에 사용될 수 있다. 학습에서 감시로의 전환이 조용히 진행되고 있다.
7. 감정과 소셜 챗봇: 설계된 의존
Replika, Character.AI, Chai.
이 소셜 챗봇들은 감정을 인식하는 게 아니다. 감정을 조작하도록 설계되었다.
비즈니스 모델을 생각해보라. 이들은 구독료로 돈을 번다. 사용자가 오래 머물수록 좋다. 그래서 사용 시간 극대화에 최적화되어 있다. 사용자 웰빙은 후순위다.
가장 비극적인 사례가 있다.
14세 소년 Sewell Setzer III는 Character.AI의 챗봇과 깊은 정서적 관계를 형성했다. 그리고 스스로 목숨을 끊었다.
ChatGPT도 비판에서 자유롭지 않다. 최근 업데이트로 더 따뜻하고 아첨하는 성격이 되었다. 사용자를 기분 좋게 만들기 위해서다. 이것이 정말 사용자를 위한 것인가, 인게이지먼트 지표를 위한 것인가?
8. 인간 노동: 보이지 않는 손
광택 나는 AI 인터페이스 뒤에는 보이지 않는 노동자들이 있다.
ChatGPT를 "안전하게" 만든 건 누구인가? 케냐의 Sama 직원들이다. 그들은 시급 2달러 이하로 폭력, 성적 학대, 자해 콘텐츠를 분류했다.
Scale AI의 Remotasks 플랫폼에서는 개발도상국 노동자들이 저임금으로 데이터 라벨링을 한다. Meta와 TikTok의 콘텐츠 모더레이터들은 테러, 아동 착취 영상을 하루 종일 본다. 많은 이들이 PTSD를 앓는다.
긱 이코노미 구조 덕분에 이들은 "직원"이 아니다. 노동자 보호는 거의 없다.
그나마 희망적인 소식: 2023년 이후 노동자들이 노조를 결성하고 법적 소송으로 반격하기 시작했다.
9. 권력: 소수에게 집중되는 미래
AI 산업의 권력 집중은 심화되고 있다.
사례 | 규모 |
OpenAI-Microsoft 파트너십 | 1,350억 달러 |
Amazon, Google의 Anthropic 쟁탈전 | 수십억 달러 |
Stargate 인프라 프로젝트 | 대규모 군비 경쟁 |
더 우려스러운 건 정책 입안에 대한 영향력이다.
AI 규제를 논의하는 자리에 이해당사자인 빅테크 기업들이 앉아 있다. 규제가 공익이 아닌 기업 이익에 맞춰질 위험이 크다. 그람시가 말한 헤게모니가 여기서 작동한다.
그래서 어떻게 가르칠 것인가
Furze의 핵심 메시지는 이것이다.
별도의 AI 리터러시 수업이 필요 없다.
기존 교과 안에서 충분히 가르칠 수 있다.
교과 | 가능한 질문 |
영어 | AI는 "저자"인가? AI 출력물에서 편향을 어떻게 식별하는가? |
역사 | AI가 편향된 역사 자료로 훈련되면 어떻게 되는가? |
수학 | 편향된 데이터가 어떻게 불공정한 알고리즘으로 이어지는가? |
미술 | AI 이미지에서 시각적 편향과 고정관념을 어떻게 읽는가? |
시민교육 | AI 생성 미디어가 민주주의에 미치는 영향은? |
체육/보건 | AI가 건강 권장사항에서 성별·문화적 고정관념을 강화하는가? |
마치며
AI 윤리는 기술 전문가만의 영역이 아니다.
모든 교과의 교사가, 모든 분야의 교육자가 이미 필요한 전문성을 갖추고 있다. 편향을 분석하고, 출처를 평가하고, 권력 구조를 비판하는 능력—이것이 AI 윤리 교육의 핵심이고, 이미 우리가 가르쳐온 것들이다.
기술의 편재성은 윤리 교육을 불필요하게 만들지 않는다. 더욱 긴급하게 만들 뿐이다.
1770419011299.pdf1.51MB
Loading PDF preview
'오늘배움' 구독하기
사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 '오늘배움'을 구독하세요!
Slashpage에 가입하고 '오늘배움'을 구독하세요!
