AI也能“深思熟虑” 到底是福是祸？

tayun

近日，“人工智能乱编坑惨大学生““如何防止DeepSeek乱编文献”相继成为网络社交平台上的热门话题。

随着人工智能（AI）在教育中的应用越来越多，不少学者担忧，AI生成的虚假学术成果可能扭曲人对科学方法论的理解，削弱其“假设-验证”的科研逻辑训练，而AI通过算法推送制造的信息茧房甚至包括AI谣言将形成逻辑闭环，更会影响青少年独立思考和批判思维的培养。业内人士提到，理解AI思考的模式，方能让教育应用中的AI回归教育本身的目标。

——编者

生成式AI正快速进入教育领域。相较于传统教育手段智能化程度不足、效率低下的问题，大模型等生成式AI能在一定程度上可以辅助教师从事常识技能传授、答疑解惑等工作，因而被寄予厚望。当前，我国的教育正处于高质量发展和转型的重大关键机遇期，生成式AI的出现带来了全新的可能性。

可以说，教育的高质量发展与AI技术的深度应用密不可分。教育的高质量转型发展必然要求AI等先进技术大规模应用。生成式AI凭借其先进的庞大常识储备和认知能力，也为教育的高质量发展奠定了必要的技术基础，使教育的智能化转型成为可能。

同时，AI也将通过个性化学习路径设计、智能评估系统和沉浸式学习体验等方式，有效地提升教育效率，促进教育公平。

如何确保先进技术人人善用，而非滥用？

在教育界，越来越多的人开始关注AI在教育应用中的两面性。近期，具有深度思维能力的大模型，如OpenAI的O1以及DeepSeek的R1等，它们已经在一定程度上具备了类似人类的主动反思能力。特别是，它们能针对提问揣摩意图以及提问者的常识背景，进行全面、细致、深入的思考，并在反思后生成答案，提升生成内容的质量与可信度。从某种程度上说，深度思考大模型已展现出曾经只有人类独具的“深思熟虑”“三思而后行”的优良品质。

可以说，AI的反思能力，进一步放大了AI赋能教育发展过程中的机遇与挑战。

人类的主动反思能力是难能可贵的，教育学家杜威甚至认为这是教育的核心内涵——培养学生的主动反思能力。而当AI在某种程度上也具备了人类的这种能力，并进而有可能进一步发展出各种专业思维能力后，AI在教育中的应用将进入一个复杂而微妙的全新阶段：一方面，它对教育的提质增效赋能将迈上新台阶，成为教育中更为先进的助力工具；另一方面，具备深度思考能力的大模型如果在教育中被误用甚至滥用，对学习者的心智成长产生的负面作用也将更加显著，继而导致AI成为教育的破坏力、而非教育的推动力。这是大家需要深入分析、严肃研判的问题。

先进技术之于人类社会的“双刃剑效应”早有先例可循。枪支显然是一种先进技术、先进能力的代表，相比传统武器，人类可以借助这种武器更好地保护自己，但大家也不得不承认，它也存在着巨大的破坏力。如果枪支泛滥、人人可及，势必带来太多社会发展的不确定与不可控因素。

AI的发展及其在教育中的应用，也将遇到类似困境：先进技术人人可用，但大家如何能确保大家善用这种能力，而非滥用或误用？

当小学生在回答问题之前习惯性地使用大模型进行解答或参考时，他们可能会丧失独立思考的能力。而眼下，不少大学生已在大量使用生成式AI的各种功能，如文字润色与修改、论文构思、报告撰写等。久而久之，还有多少学生能够独立完成一篇论文？这种独立的论文构思与撰写能力以及相应的科研能力，是否是高等教育可以放弃的？

AI思考与人类思考之间的差别，究竟是什么？

深刻认识AI思考的本质，可以发现，它仍然是以词元的概率组合模仿人类思考的概率计算过程。而人类的思考过程是复杂多样的，既有隐秘而直觉式的快思考，也有借助语言和符号进行的有意识、主动性、显性化的慢思考。一个真实的人，其思考过程可能多次糅杂两种思维方式，在无意识下就完成了多种不同思维方式的交替使用与复杂转变。但是，当前的大语言模型所实现的思维过程仍是建立在基于语言与符号的统计相关性计算基础之上，其本质与人类的思维相去甚远。

人类社会的思维方式则是十分多样的，不同语言的种族、不同学问的人群对同一个问题的思维方式不同，日常与专业思维方式不同，宗教与科学思维方式迥异。相比较而言，DeepSeek的R1的思维方式则有着明显学术化与专业化思维倾向，难以达到人类思维的多样化程度。

AI思考与人类真正的专业思考之间存在巨大差距。AI的思考看似面面俱到、全面周到，但它可能忽略了人类思考中的许多隐性因素。人类思维复杂且隐秘，人类思考时可能会用到许多甚至自己都难以明确表达的因素。许多专家在问题研判过程中存在大量难以言说的要素，这就是为什么人类常识的传承不能仅依靠书面传授，还必须通过言传身教这一重要途径。难以言说的经验，往往只能通过言传身教加以传承。

大家对于AI的思维过程与结果必须保持高度的批判意识。而且，AI的思考也极有可能犯错，从而对学生起到误导作用。AI思考的许多方式可能只具有统计意义上的合理性，但未必是在特定情境下最适合的思考方式。

事实上，越来越多的研究表明，大模型的深度思考可能会付出幻觉率上升的代价。也就是说，在其看似周密而严谨的思维过程中植入一些常识错误、事实错误的可能性在增加。人类的思维的正确性与合理性不单单取决于其大脑的能力，人类的身体对世界的感知与体验也在一定程度上为其开展合理思考提供了必不可少的保障。AI在身心协同方面离人类尚有距离，它也很难全面触及并理解人类社会现实世界的方方面面，因而AI的思维出现错误是在所难免的。大家要警惕AI思维犯错可能带来的“认知陷阱”，这就好比说，导航系统虽然日益可靠，但偶尔也会犯错、产生误导。

AI无法理解人类思维的留白之慧？

AI思考也存在着过度全面的倾向。在海量常识和数据的支撑下，AI极为擅长将不同因素关联起来解决问题，因而内在地具有“过度全面”的倾向。比如，一个简单的提问“请先容DeepSeek R1”，R1则可能从用户意图、企业背景、产品特性、使用场景等多个维度进行深度思考而形成长篇大论。而大部分情形下，一句话的简单回答足以让大部分提问者满意。

事实上，人类思考往往是抓住主要矛盾、关键因素的高效思考，而不是一味求全的平庸式思考。AI看似全面的思考背后，实质上是一种认知能力缺失的无奈与无力——解决问题的关键在哪里，AI往往抓不住。AI似乎也无法理解人类思维的缺陷之美与留白之慧。

同时，AI思维存在着显著的同质化问题。当大家询问AI关于教育领域的影响时，不同的模型往往倾向于给出结构和内容高度相似的回答。例如，它们频繁援引“认知脚手架”理论作为理论框架，反复举出可汗学院作为技术应用的范例，并习惯性地引用苏格拉底的“产婆术”或柏拉图的“洞穴隐喻”等哲学典故来构建论证。

这种现象揭示了AI在面对相似问题时，其思维过程、例证选择和理论应用呈现出惊人的一致性。这种一致性并非源自独立思考后的共识，而是算法模式识别和大规模语料训练导致的统计概率结果。

从认知科学视角观察，AI的“思考”本质上是对人类已有常识体系的重组和复现，缺乏真正的创新突破和思想多样性。当大家人类轻易采纳并依赖AI生成的思维结果时，社会整体将面临思维同质化的严重风险。这种风险在学术研究和教育领域尤为突出——如果大量学生和研究者使用相同的AI系统获取思路和观点，将不可避免地导致常识生产的多样性萎缩和创新动力的削弱。

因此，在教育应用中，大家需要充分认识人机差异，合理定位AI的角色，既发挥其在常识传递和思维辅助方面的优势，又避免其对学生独立思考能力和创造力产生潜在负面影响。在实践中，大家需要构建人机协同的新型教育模式，让AI承担常识传授和基础训练的部分工作，而教师则更多地关注学生的价值引导、情感互动和创新思维培养。教育工编辑应当引导学生正确使用AI工具，将其作为思考的辅助而非替代，保持批判性思维，并通过人机协作发展更高层次的认知能力。同时，也需要加强对AI技术在教育领域应用的伦理规范和安全监管，教育始终应将培养学生的核心素养和思维能力作为教育的根本目标。AI在教育中的应用不应背离这一根本目标。

AI是教会学生还是教“废”学生？

近两年，不少高校都出台了关于大学生使用AI工具的相关规定。如何合理界定AI的使用边界，规避因为使用AI工具而陷入学术不端的风险？如何捍卫学术诚信，护航学生成长？一些既已发生的真实案例和研究成果，值得业内持续关注、探讨。

■在过去一年里，立陶宛的维尔纽斯大学解雇了10名违反AI使用规则的学生。原因是这些学生在作业、毕业论文中不当使用了AI，即未明确说明或披露使用了AI。

耶鲁大学、麻省理工学院、明尼苏达大学等高校也都出现了类似情况。今年2月，耶鲁大学EMBA学生约翰·多伊将耶鲁大学和该校三名教授以及两名院长告上法庭。因为在2024年6月的一场考试中，教师通过GPTZero检测答案，发现该生在考试中使用了AI工具，因此他的这门课被判定为不及格，并被停课一年。学生指控学校在学术纪律处理过程中存在管理不善和歧视行为。

■还有研究发现，AI显著影响学生和教师的决策能力，并使学生变得懒惰。使用AI技术的教师和学生会逐渐失去自己做任务的兴趣，还会逐渐导致人类决策权的丧失。当AI的使用和依赖增加时，会自动限制人脑的思维能力。

沃顿商学院副教授伊森·莫里克和他的同行请波士顿咨询集团协助实施研究，近800名波士顿咨询的顾问参与了实验。这些顾问被随机分为两组，一组按照传统方式正常工作，另一组必须使用GPT-4。

结果发现，在普通的任务中，使用AI组具有显著优势。但是在另一项经过精心设计的、AI无法得出正确答案的任务中，人类顾问无需借助AI，正确率是84%，但使用AI组的正确率只有60%到70%。

研究者们认为，因为AI太过强大，能较好地完成绝大部分工作，人类不知不觉间给予了AI太多信任，但如果问题超出了AI的能力，这种信任就可能铸成大错。

（编辑为复旦大学教授、上海市数据科学重点实验室主任）



来源：网易