Bad Ideas about AI & Writing

 

 

생성형 AI를 둘러싼 논의를 기술 기능 수준에서 멈추지 않고,  리터러시, 관계, 윤리, 사고, 다양성, 노동, 거버넌스 의 층위로 확장한 책

 

 

Preface Introduction. From Faulty Ideas to Productive Practices: Writing and Learning in the Age of AI

Part 1. Debunking the Hype

• Chapter 1. Generative AI Will Make Knowledge Work Easier, More Productive, and Faster ✨ Critically Examine Generative AI from Economic and Cultural Frameworks
• Chapter 2. AI Knows Everything ✨ AI Can Perpetuate Ignorance, Prejudices, and Epistemic-Rhetorical Harms Globally
• Chapter 3. Generative AI Tools Are Color-Blind ✨ Counterstorytelling Can Help Generative AI Tools Address Their Embedded Cultural Biases
• Chapter 4. AI Is Revolutionary ✨ AI Is Conventional
• Chapter 5. AI is Completely Unlike Any Other Writing Software ✨ AI Is Strange and Rhetorical Just Like Other Writing Software
• Chapter 6. AI Can “Do It All!” ✨ We Have Work to Do, Together

Part 2. Gaining AI Literacy

• Chapter 7. AI Use is a Natural Skillset ✨ AI is a Learned Literacy
• Chapter 8. AI-Generated Reading Summaries Are Enough ✨ AI Tools Can Rhetorically Support but not Replace Reading
• Chapter 9. Traditional Information Literacy Instruction Prepares Students to Evaluate AI Texts ✨ Expert Readers Use Lateral Reading to Evaluate the Credibility of Texts
• Chapter 10. Good Prompts Are Sufficient to Produce Good Written Products ✨ Effective Use of Generative AI in Writing Requires Critical AI Literacy
• Chapter 11. Generative AI Can Do My Research for Me ✨ Researchers Should Always Evaluate and Contextualize Search Results
• Chapter 12. Automated Feedback Programs Provide Invaluable Guidance Throughout the Writing Process ✨ Automated Feedback Is One Resource Within a Larger Writing Environment
• Chapter 13. AI Detectors Can Stop International Students from Plagiarizing ✨ Educators Should Prioritize Conversation, Trust-Building, and Lived Experience as Part of Critical AI Literacy

Part 3. The Social and Human Nature of Writing

• Chapter 14. AI Output Is Neither Social nor Rhetorical ✨ Human-AI Collaboration Is a Complex Social and Rhetorical Practice
• Chapter 15. Generative AI Does All the Work for the Writer ✨ Writing with AI Requires Human Rhetorical Agency
• Chapter 16. Writing Means Producing Written Words that Look Like They Are from Educated Humans ✨ Human Writers Can Revise AI Output as They Think About Purpose, Audience, and Context
• Chapter 17. Generative AI Replaces Technical Writers ✨ Generative AI Augments the Capabilities (and Responsibilities) of Technical Writers
• Chapter 18. Generative AI Can Write Better Than Me ✨ Embodied Experience Is Vital for Writing (with and without Generative AI)
• Chapter 19. We Should Ignore Our Emotions about Generative AI ✨ We Should Examine Our Complicated Emotions about AI
• Chapter 20. AI Writing Tools Can “Think” ✨ Human Writers Are Always the Real “Thinkers”
• Chapter 21. We Can Simply Rely on AI for Alt-Text ✨ AI Should Support but Not Lead Accessibility Measures in Writing

Part 4. Ethical Impacts of AI Writing Technologies

• Chapter 22. Generative AI Can Be Accessed for Free ✨ AI Poses Significant Hidden Costs to Individuals, Society, and the Planet
• Chapter 23. Generative AI Can Write without Damaging the Environment ✨ Writers Must Consider the Digital Damage They Cause when They Use Generative AI
• Chapter 24. Reading Generative AI Terms of Service Is a Waste of Time ✨ Reading Generative AI Terms of Service Supports a Broader Understanding of Technology’s Impact
• Chapter 25. Commercial Generative AI Is a Good Idea for Teaching Writing! ✨ Schools Should Insist that Teachers Lead the Development of AI Educational Technologies

Part 5. How AI Impacts the Learning and Writing Process

• Chapter 26. AI Can Write Like an Expert in Any Discipline ✨ AI Can Help You Understand How Experts Use Writing
• Chapter 27. AI Will Empower Non-Native English Writers to Master “Standard Academic English” ✨ AI that Reflects Global Englishes Usage and Language Diversity Can Support Students’ Writing
• Chapter 28. Outlining Ideas Is a Writing Process Unworthy of Practice (that Students Should Outsource to AI) ✨ Learning to Write Involves Dissecting, Assembling, and Understanding Structure
• Chapter 29. AI Creates Shortcuts for Good Thinking ✨ AI Creates Opportunities for More Complex Critical Thinking
• Chapter 30. Using AI Tools Detracts from Student Voice ✨ Not Every Use of AI Detracts from Student Voice

Part 6. Writing Programs and Writing Centers in the Age of AI

• Chapter 31. AI Won’t Add to The Workload of Writing Program Administrators and Writing Center Directors ✨ They Need Sustainable Practices in the Face of AI
• Chapter 32. AI Can Clean Up First-Year Writing ✨ First-Year Writing Courses Should Embrace the Epistemic “Messiness” of Writing
• Chapter 33. AI Can Replace Writing Instruction and Writing Instructors ✨ Teach AI Literacy to Emphasize the Human, Multilingual, and Multimodal Aspects of Writing
• Chapter 34. Writing Instructors Can’t Be Replaced by AI ✨ Recommit to “Composition” as a Disciplinary and Curricular Name
• Chapter 35. Generative AI Will Make the Writing Center Obsolete ✨ Writing Centers Thrive by Fostering Human Connections
• Chapter 36. Writing Center Tutors Should Introduce AI into Sessions ✨ AI Assistance Is Not Conducive to Most Writers’ Processes, Learning Preferences, and Affective Needs
• Chapter 37. AI Can Serve as a Morally Responsible Writing Tutor ✨ Human Tutors Are Indispensable Because They Are Moral Agents

Part 7. How Writing Pedagogy & Assessment Are Affected by AI

• Chapter 38. We Must Act Fast to Address AI in Writing Classrooms ✨ Slow Design Can Build More Sustaining Classroom Practice with (or without) AI
• Chapter 39. Teachers Should Abandon Longstanding Assignments that Students Can Now Do with AI ✨ Teachers Should Revise Assignments to Account for AI and Emphasize Writing to Learn
• Chapter 40. We Should Suspect Our Students Are Using AI ✨ Instead of Mistrusting Our Students, We Should Embrace a Pedagogy of Trust and Joy
• Chapter 41. Generative AI Should Be Used Similarly Across Writing Courses ✨ Since Writing Courses and Contexts Vary, Generative AI Use Should Be Situationally Informed
• Chapter 42. Generative AI Provides Great Revision Feedback ✨ Generative AI’s Revision Feedback Should Be Used with Caution
• Chapter 43. Now that We Have AI, We Can Ditch Human Feedback! ✨ AI Feedback Should Be Used in a Human-Centered Process, with Peer Feedback
• Chapter 44. AI Gives Good Feedback on Student Writing ✨ Good Feedback Demonstrates Knowledge of The Writer and Their Purpose for Writing

Part 8. Writing Instruction Policy and Academic Integrity

• Chapter 45. It’s Impossible to Tell Whether a Student Has Used Generative AI, So It’s Not Worth Trying to Find Out ✨ Educators Can Investigate Suspected Unsanctioned Generative AI Use Based on Writing Studies Theory and Practice
• Chapter 46. Writing Programs Should Quickly Create Unilateral AI Policies ✨ Faculty Development Should Precede Any Collective AI Policies
• Chapter 47. Exclude Students from Institutional Conversations and Policy Making Around AI ✨ Students Should Be Included in Institutional AI Policy Conversations
• Chapter 48. AI-Powered Research and Citation Platforms Will Enhance Academic Integrity ✨ Generative AI Technologies Emphasize the Role of Engagement in Integrity

Afterword. Ten Directions for Writing and Learning in the Age of AI

 

AI와 글쓰기에 관한 잘못된 통념: 교육, 학습 및 소통을 위한 생성적 실천

 

요약 보고서 (Executive Summary)

본 문서는 생성형 인공지능(GenAI)이 글쓰기 교육, 학습 및 소통 방식에 미치는 영향과 그와 관련된 흔한 오해들을 심층적으로 분석한 브리핑 문서이다. 주요 연구자들과 교육자들은 AI가 글쓰기 과정을 완전히 대체하거나 단순화할 수 있다는 '잘못된 통념'을 경계하며, 대신 AI 리터러시를 학습된 숙련도로 파악하고 인간의 수사적 주체성을 유지하는 '생성적 실천'을 제안한다.

 

핵심 통찰:

• 리터러시의 재정의: AI 사용은 자연적인 기술이 아니라 학습이 필요한 '리터러시'이다. 단순한 도구 조작을 넘어 기술의 한계, 편향성, 그리고 수사적 맥락을 이해하는 비판적 AI 리터러시가 필수적이다.
• 탈신화화: AI가 전지전능하거나 중립적이라는 생각은 위험하다. AI는 특정 문화(글로벌 북반구)에 편향된 데이터를 학습하며, 기존의 불평등과 편견을 고착화할 위험이 크다.
• 글쓰기 본질의 유지: 글쓰기는 단순한 결과물 산출이 아니라 사고와 발견의 과정이다. AI는 이 과정을 보조하는 '동료 지능'이나 '수사적 도구'로 활용되어야 하며, 인간의 비판적 사고를 대체해서는 안 된다.
• 전략적 접근: '수직적 읽기'보다는 여러 출처를 대조하는 '측면 읽기(Lateral Reading)'와 같은 전문가적 전략을 통해 AI 생성 콘텐츠의 신뢰성을 검증해야 한다.

 

제1부: AI에 대한 환상과 오해 (Debunking the Hype)

제1장. 생산성과 효율성에 대한 환상 (Paul Cook)

AI가 지식 노동을 더 쉽고 빠르게 만들어줄 것이라는 믿음은 기술 결정론적 사고에 기반한다. 역사적으로 이메일 등의 기술이 여가 시간을 늘려줄 것이라 예측했으나, 실제로는 자본주의적 요구에 의해 더 많은 노동과 생산을 압박하는 결과로 이어졌다.

• 상세 내용: AI는 도구일 뿐이며, 그 효과는 사회적, 경제적 맥락에 의해 결정된다. AI가 생산성을 높여줄 수는 있지만, 이것이 반드시 인간의 여가나 삶의 질 향상으로 이어지지는 않는다.
• 핵심 문장: "기술이 본질적으로 진보나 여가를 가져온다는 전제는 순진할 뿐만 아니라, 기술적 발전이 더 열심히, 더 빠르게, 더 오래 일하도록 하는 자본주의적 명령을 어떻게 강화하는지를 간과한다."

제2장. AI의 전지전능성 비판 (Shyam Sharma)

AI가 모든 것을 알고 있다는 생각은 환상이다. AI 데이터셋은 글로벌 북반구의 지식에 치우쳐 있으며, 글로벌 남반구의 다양한 인식론과 수사적 전통을 무시하거나 왜곡한다.

• 상세 내용: AI는 인터넷의 극히 일부 데이터만 학습하며, 수천 개의 언어 중 소수만을 반영한다. 이는 지식의 불평등과 식민지적 착취를 심화시킬 수 있다.
• 핵심 문장: "AI 시스템은 지식의 글로벌 정치에 깊이 얽혀 있으며, 수세기에 걸친 식민지적 착취, 불평등, 그리고 피해를 영속시킨다."

제3장. 인종적 편향성과 색맹적 태도 (Aamir Zulfiqar & Sue Hum)

AI가 인종 중립적(color-blind)이라는 생각은 잘못되었다. AI는 서구 중심의 데이터를 학습하므로 인종적 고정관념과 편견을 내포하고 있다.

• 상세 내용: AI는 아프리카계 미국인 영어(AAE)를 범죄와 연관 짓는 등 알고리즘적 편향성을 보인다. 이를 극복하기 위해 소외된 목소리를 중심에 두는 '대항 서사(Counterstorytelling)' 전략이 필요하다.
• 핵심 문장: "GenAI 도구가 제작자의 언어적, 사회적 편향을 반영하는 데이터로 훈련되었을 때, 어떻게 이 도구들이 인종 중립적이거나 이데올로기적으로 중립적일 수 있겠는가?"

제4장. 혁명적 기술 vs 관습적 기술 (Tyler Easterbrook)

AI를 전례 없는 '혁명'으로 치부하는 것은 기술 기업의 마케팅 전략일 뿐이다. 글쓰기 역사는 항상 새로운 기술(타자기, 컴퓨터 등)에 적응하고 그 사용 관습을 만들어온 과정이었다.

• 핵심 문장: "AI는 혁명적인 것이 아니라 관습적인 것이다. 글쓰기의 역사는 새로운 글쓰기 기술에 대해 협상하고 그 적절한 사용을 위한 사회적 규범을 개발해 온 역사이다."

 

제2부: AI 리터러시의 습득 (Gaining AI Literacy)

 

제7장. 학습된 리터러시로서의 AI (Lisa Bell & Joni K. Hayward Marcum)

디지털 세대라고 해서 AI를 본능적으로 잘 다루는 것은 아니다. AI 사용은 기술적(Functional), 비판적(Critical), 수사적(Rhetorical) 차원에서 학습되어야 할 복합적인 능력이다.

• 상세 내용: 단순한 프롬프트 입력 능력이 리터러시를 의미하지 않는다. 기술의 작동 원리와 한계를 이해하고 메타인지를 발휘하는 교육이 필요하다.
• 핵심 문장: "AI 사용은 자연적인 기술 세트가 아니다. 모든 디지털 기술과 마찬가지로, 그것은 학습된 리터러시이다."

제8장. AI 요약 도구의 한계와 활용 (Christopher Eaton)

AI가 생성한 읽기 요약본에만 의존하는 것은 위험하다. 이는 텍스트에 대한 파편화된 이해만을 제공하며, 복잡한 학술적 개념의 뉘앙스를 놓치게 만든다.

• 상세 내용: AI 요약은 텍스트를 읽지 않기 위한 수단이 아니라, 자신의 읽기를 보조하고 확인하는 '삼각 측량' 도구로 활용되어야 한다.
• 핵심 문장: "AI 요약본은 수사적으로 지원할 수는 있지만 읽기를 대체할 수는 없다. 읽기는 작가가 새로운 아이디어 사이의 연결을 만드는 수단이다."

제9장. 측면 읽기(Lateral Reading)의 중요성 (Angela Laflen)

AI 생성 텍스트의 신뢰성을 평가하기 위해서는 텍스트 내부만 보는 '수직적 읽기'에서 벗어나, 다른 탭을 열고 외부 정보를 확인하는 '측면 읽기' 전략을 사용해야 한다.

• 상세 내용: AI는 존재하지 않는 출처를 만들어내는 '환각(Hallucination)' 현상을 보이기 때문에, 외부 검증이 필수적이다.
• 핵심 문장: "전문가 독자들은 측면 읽기를 사용하여 텍스트의 신뢰성을 평가한다."

제10장. 비판적 AI 리터러시 (C-GAI-L) (Sindija Franzetti & Amy Wanyu Ou)

좋은 프롬프트만으로는 좋은 결과물을 얻을 수 없다. 학생은 'AI 사용자'이기 전에 '작가'로서 자신의 사고 과정을 관리하는 자기 조절 학습 능력을 갖춰야 한다.

• 핵심 문장: "AI를 글쓰기에 효과적으로 사용하려면 비판적 AI 리터러시가 필요하다."

 

제3부: 연구 및 피드백 도구로서의 AI

 

제11장. 연구 과정에서의 AI (Leslie Allison, Tiffany DeRewal, & Amy Reed)

 

AI는 검색 결과를 빠르게 제공하지만 그 과정은 불투명하다. AI가 제공하는 요약은 맥락이 제거된 상태이므로, 연구자는 반드시 원본 소스를 확인하고 맥락화해야 한다.

• 상세 내용: RAG(검색 증강 생성) 프로세스는 원본 텍스트를 파편화하여 저자의 의도를 왜곡할 위험이 있다.
• 핵심 문장: "연구자는 항상 검색 결과를 평가하고 맥락화해야 한다. AI 검색 도구는 투명성이 부족하여 연구자가 정보를 평가하는 능력을 저해한다."

제12장. 자동화된 피드백의 한계 (Mark Bennett & Jeffrey C. Kessler)

Grammarly와 같은 자동 피드백 프로그램은 유용하지만, 글쓰기를 단순히 '오류 수정'으로 축소시킬 위험이 있다.

• 상세 내용: 이러한 도구들은 표준화된 영어만을 강요하여 언어의 다양성을 훼손하고, 작가가 깊이 사고하며 초고를 작성하는 과정을 방해할 수 있다.
• 핵심 문장: "자동화된 피드백은 더 큰 글쓰기 환경 내의 하나의 자원일 뿐이다. 그것은 언어적 가능성을 축소하고 작가의 수사적 주체성을 약화시킬 수 있다."

주요 용어 및 전략 비교표

구분	잘못된 통념 (Bad Idea)	생성적 실천 (Generative Practice)
생산성	AI는 노동을 줄여준다.	AI가 만드는 효율성은 종종 더 많은 노동으로 치환된다.
지식	AI는 모든 것을 안다.	AI는 글로벌 북반구 중심의 편향된 지식을 가진다.
리터러시	AI 사용은 타고난 재능이다.	AI 리터러시는 비판적 교육을 통해 습득된다.
읽기/요약	AI 요약본이면 충분하다.	요약은 직접 읽기를 보조하는 용도로만 써야 한다.
검증	텍스트의 형식이 완벽하면 믿을 수 있다.	외부 출처를 대조하는 '측면 읽기'가 필수적이다.
프롬프트	좋은 프롬프트가 정답을 만든다.	작가의 주체성과 메타인지적 사고가 핵심이다.

결론 및 권고 사항

AI 시대의 글쓰기 교육은 기술을 금지하거나 맹목적으로 수용하는 양극단에서 벗어나야 한다. 대신 다음의 '진흙 부츠(Muddy-boots) 실용주의'를 채택할 것을 권고한다.

1. 인간 중심의 협력: AI를 '대체재'가 아닌 사고를 확장하는 '협력적 도구'로 정의하라.
2. 비판적 태도 견지: AI 생성물의 투명성 부족과 윤리적 문제(데이터 편향, 환경 영향 등)를 교육 과정에 포함하라.
3. 과정 중심의 평가: 결과물(글)보다 글을 쓰는 과정(사고, 연결, 수정)에서 학생이 발휘한 주체성을 중시하라.
4. 리터러시 교육 강화: 기술적 조작법을 넘어 사회적, 수사적 맥락을 파악하는 고등 리터러시를 가르쳐야 한다.

 - NotebookLM 정리

 

목차에서 저자들의 대안적이고 발전적인 주장들만 장별로 추출한 내용

• 1장: Critically Examine Generative AI from Economic and Cultural Frameworks.
• 2장: AI Can Perpetuate Ignorance, Prejudices, and Epistemic-Rhetorical Harms Globally.
• 3장: Counterstorytelling Can Help Generative AI Tools Address Their Embedded Cultural Biases.
• 4장: AI Is Conventional.
• 5장: AI Is Strange and Rhetorical Just Like Other Writing Software.
• 6장: We Have Work to Do, Together.
• 7장: AI is a Learned Literacy.
• 8장: AI Tools Can Rhetorically Support but not Replace Reading.
• 9장: Expert Readers Use Lateral Reading to Evaluate the Credibility of Texts.
• 10장: Effective Use of Generative AI in Writing Requires Critical AI Literacy.
• 11장: Researchers Should Always Evaluate and Contextualize Search Results.
• 12장: Automated Feedback Is One Resource Within a Larger Writing Environment.
• 13장: Educators Should Prioritize Conversation, Trust-Building, and Lived Experience as Part of Critical AI Literacy.
• 14장: Human-AI Collaboration Is a Complex Social and Rhetorical Practice.
• 15장: Writing with AI Requires Human Rhetorical Agency.
• 16장: Human Writers Can Revise AI Output as They Think About Purpose, Audience, and Context.
• 17장: Generative AI Augments the Capabilities (and Responsibilities) of Technical Writers.
• 18장: Embodied Experience Is Vital for Writing (with and without Generative AI).
• 19장: We Should Examine Our Complicated Emotions about AI.
• 20장: Human Writers Are Always the Real “Thinkers”.
• 21장: AI Should Support but Not Lead Accessibility Measures in Writing.
• 22장: AI Poses Significant Hidden Costs to Individuals, Society, and the Planet.
• 23장: Writers Must Consider the Digital Damage They Cause when They Use Generative AI.
• 24장: Reading Generative AI Terms of Service Supports a Broader Understanding of Technology’s Impact.
• 25장: Schools Should Insist that Teachers Lead the Development of AI Educational Technologies.
• 26장: AI Can Help You Understand How Experts Use Writing.
• 27장: AI that Reflects Global Englishes Usage and Language Diversity Can Support Students’ Writing.
• 28장: Learning to Write Involves Dissecting, Assembling, and Understanding Structure.
• 29장: AI Creates Opportunities for More Complex Critical Thinking.
• 30장: Not Every Use of AI Detracts from Student Voice.
• 31장: They Need Sustainable Practices in the Face of AI.
• 32장: First-Year Writing Courses Should Embrace the Epistemic “Messiness” of Writing.
• 33장: Teach AI Literacy to Emphasize the Human, Multilingual, and Multimodal Aspects of Writing.
• 34장: Recommit to “Composition” as a Disciplinary and Curricular Name.
• 35장: Writing Centers Thrive by Fostering Human Connections.
• 36장: AI Assistance Is Not Conducive to Most Writers’ Processes, Learning Preferences, and Affective Needs.
• 37장: Human Tutors Are Indispensable Because They Are Moral Agents.
• 38장: Slow Design Can Build More Sustaining Classroom Practice with (or without) AI.
• 39장: Teachers Should Revise Assignments to Account for AI and Emphasize Writing to Learn.
• 40장: Instead of Mistrusting Our Students, We Should Embrace a Pedagogy of Trust and Joy.
• 41장: Since Writing Courses and Contexts Vary, Generative AI Use Should Be Situationally Informed.
• 42장: Generative AI’s Revision Feedback Should Be Used with Caution.
• 43장: AI Feedback Should Be Used in a Human-Centered Process, with Peer Feedback.
• 44장: Good Feedback Demonstrates Knowledge of The Writer and Their Purpose for Writing.
• 45장: Educators Can Investigate Suspected Unsanctioned Generative AI Use Based on Writing Studies Theory and Practice.
• 46장: Faculty Development Should Precede Any Collective AI Policies.
• 47장: Students Should Be Included in Institutional AI Policy Conversations.
• 48장: Generative AI Technologies Emphasize the Role of Engagement in Integrity.

 

나에게 와 닿은 구절

 

- AI 사용 능력은 단순한 프롬프트 입력 기술이 아니라, 결과물을 의심하고 평가하고 교정하는 리터러시이다. 

- 작문 교육은 더 이상 “AI를 쓰느냐 마느냐”의 문제가 아니라 AI 출력을 읽고 검증하는 능력을 어떻게 가르칠 것인가의 문제이다.

- 글쓰기는 사고의 산물이 아니라 사고의 현장으로 보호되어야 한다. 글쓰기가 단순히 이미 존재하는 생각을 기록하는 행위가 아니라, 생각을 만들어내는 과정 그 자체라는 점이다. 사람은 글을 쓰면서 연결을 만들고, 논증을 검토하고, 개념을 분명히 하며, 그 과정에서 새로운 통찰을 얻는다. 따라서 글쓰기의 가치는 완성된 결과물보다 사고가 발생하는 과정에 있다. 사용자가 어려운 개념과 씨름하고 구조를 설계하고 표현을 조정하는 과정을 건너뛰면, 그만큼 학습과 사고의 기회가 사라진다.

- 사고는 부하를 통해 형성되는데, AI가 그 부하를 대신 지면 사용자는 결과를 얻더라도 성장하지 못한다. 따라서 문제는 AI가 글을 써 준다는 사실 자체가 아니라, 사용자가 어느 지점에서 사고를 중단하고 기계에 넘기는가에 있다. 초안 생산보다 판단, 수정, 해석, 반성이 반드시 남도록 과제와 평가를 설계해야 한다.

- 글쓰기가 단일한 표준 언어의 문제가 아니라, 다양한 언어, 방언, 장르, 매체가 공존하는 다언어·다중양식 실천이다. AI의 훈련 편향은 지배적 언어 자원이 풍부한 영역에서 모델 성능이 높고, 주변적 언어·문화는 제대로 반영되지 않는다. 그 결과 AI는 지역적 표현, 문화적 참조, 비표준 문체, 복합 양식적 표현을 오류나 비효율로 간주할 수 있다. 결국 AI가 제안하는 문장이 “더 좋은 문장”으로 오인되면, 다양한 언어 실천은 열등한 것으로 간주된다.

- AI는 다양한 표현을 효율적으로 다루기보다, 평균적이고 무난한 형식으로 수렴시키는 경향을 가진다. 이것은 표준의 독점을 강화하는 것이다.

- 글쓰기 실천은 언제나 새로운 매체와 도구와 함께 변화해 왔으나, 연습, 수정, 피드백, 성찰이라는 핵심 원리는 쉽게 사라지지 않았다. 따라서 AI의 등장 역시 실천 방식의 조정은 요구하지만, 글쓰기의 본질을 폐기해서는 안된다. “무엇을 지킬 것인가”는 단호하게, “어떻게 적용할 것인가”는 유연하게 접근해야 한다.

 

- AI 피드백은 반복되는 오류를 찾거나 문장 재구성을 제안하거나 표면적 코멘트를 제공할 수 있지만 그런 기능은 어디까지나 형식적 보조에 가깝고, 특정 학생의 학습 이력, 작성자의 정서, 프로젝트의 맥락, 글쓴이의 목소리를 이해하는 인간적 응답을 대신하지 못한다.

- 글쓰기 발달에서 피드백은 단순한 오류 수정이 아니라 관계적·대화적 과정이다. 교사, 동료, 편집자, 멘토의 반응은 문장을 고치는 데 그치지 않고, 필자가 무엇을 말하려는지 더 잘 생각하게 만들고, 자신이 하나의 화자로 인정받고 있다고 느끼게 한다. 즉 인간 피드백의 본질은 정보 전달이 아니라 성장과 상호작용이다.

- 교육 현장이나 조직에서 효율성을 이유로 인간 피드백을 축소하고 기계 제안으로 대체하면 피드백은 더 빨라질 수는 있어도 더 깊어지지는 않으며, 결국 글쓰기의 핵심인 관계, 인정, 해석의 상호성이 약화된다.

 

- GenAI 논의를 편의성과 생산성 중심으로만 다루면 안 되고, 반드시 윤리적 비용을 중심에 놓아야 한다. 윤리 문제는 크게 환경, 편향, 노동의 세 축이다. AI는 중립적 도구가 아니라, 이미 자원·권력·불평등의 문제를 동반한 기술이기 때문이다. 

-  AI 활용 지침이 단지 “어떻게 쓰면 효율적인가”가 아니라, 누가 비용을 치르는가, 어떤 불평등이 강화되는가, 어떤 책임을 져야 하는가를 함께 묻는 방식으로 설계되어야 한다.

-  “보이지 않는 비용의 외부화”. 사용자는 AI를 빠르고 편리한 도구로 경험하지만, 그 비용은 자연환경, 저작자, 노동자, 소수자 집단에게 전가된다. 기술적으로 효율적인 것이 사회적으로 정당한 것은 아니다. 즉 AI의 편리함은 무비용의 편리함이 아니라 책임을 분산하고 은폐한 편리함이다.

 

- 실천적 함의는 AI 도입을 효율화 프로젝트로만 다루어서는 안 된다는 점이다. 새로운 기술을 도입할수록 사람에게 더 많은 시간, 훈련, 조정 자원이 필요하다는 사실을 인정해야 한다. 따라서 제도 설계는 인간 노동의 대체가 아니라 인간 노동의 보호와 재구성을 중심에 두어야 한다.

- AI와 글쓰기에 관한 결정이 개인의 자율적 선택으로 환원될 수 없다는 점이다. 이는 교실, 조직, 직장, 사회 전체를 가로지르는 공동의 문제이며, 따라서 해결 또한 공동의 의사결정과 책임 분담을 통해 이루어져야 한다. 저자는 AI 문제를 기술 선택 문제가 아니라 거버넌스 문제이다.

 

 

* '진흙 묻은 장화(muddy-boots) 실용주의' 접근법 : 컴퓨터 과학자 벤 슈나이더만(Ben Shneiderman)이 AI 사상가들을 분류하며 제안한 개념으로, 막연한 유토피아적 환상(푸른 하늘을 쫓는 몽상가)이나 디스토피아적 두려움에 빠지는 대신 실험, 문제 식별, 그리고 해결책 모색을 우선시하는 신중하고 실용적인 태도. 

 

글쓰기 교육 맥락 접근법

• 협력적 실험 공간 마련: 완벽한 해결책을 기대하기보다는, 교실에서 교사와 학생이 AI가 글쓰기 과정에 미치는 영향을 솔직하게 논의하고 협력적으로 실험해 볼 수 있는 기회를 만듭니다.
• 직접 부딪히며 문제 해결: 장화에 진흙을 묻히듯 학생들과 함께 새로운 기술을 사용하는 과정의 우여곡절을 직접 겪으며, AI의 실제 영향을 파악하고 한계와 문제를 찾아내어 해결책을 도출합니다.
• 현실 직시와 미래 대비: AI의 위험성을 경계하면서도, 기술의 현주소를 있는 그대로 받아들이고 앞으로 기술이 나아갈 방향에 실용적으로 대비하는 태도를 취합니다.

 

- 출처: https://wacclearinghouse.org/docs/books/bad/ideas.pdf

 

 

bad ideas.pdf

3.81MB