From： Scientific American； 作者：Iris
许多人希望借助 学习来满足对高质量、定制化教育的需求。慕课的出现、数字设备的普及，似乎为实现这一愿景奠定了基础。然而，我们必须要考虑到，AI工具进军教育领域所可能造成的负面影响，以及应如何改进研究内容，以防止一些意料之外的后果发生。
算法是AI教学的核心，它可以持续跟进学生的学习进度，并根据各个学生的学习习惯调整教学计划，从而给予他们最佳的学习体验。有了AI导师的帮助，学生们可以在家中学习。如今受疫情影响，学生们必须在家上课，网课得到了空前普及。不过，远程教学的体验并不太如意。虽然简单的网络授课与AI教学有所出入，但可以看出，它或许会与我们理想中的概念有很大不同。换言之，AI导师能够提高教学的效率，但并不一定能为学习者带来乐趣。
插播
3月5日（周四）晚8点，网易有道技术总监林会杰
来跟你聊聊「人工智能在教育软硬件工具中的应用」
大部分研究人员依然认为，只需要克服技术缺陷， 学习就能为教育界造福。这未免过于武断了些。事实上，研究的重心更应该放在如何降低AI工具可能会产生的风险上。AI导师与人类教师的协同工作，可能是最具安全保障、效率最高的方法之一。
智能教学系统通用框架
AI教学的潜在风险
AI导师并不能建立起师生间的情感联系。除了汲取知识外，学生还期望在课堂上学到很多其他东西，比如发展人际关系、学会如何与人相处等。我们许多人都曾与老师构建起师生情谊，他们给予我们的人生教诲，有时候远比教学的内容要更能让人受益终生。然而，AI导师并不能为学生提供这些基于情感支持的互动。
此外，年轻人的社会孤独感日益加重。研究发现，上网时间较少、参加社交活动较多的青少年的同理心水平，与其他人相比要高一些。联合国教科文组织正在考虑调整教育方向，以强调培养学生的社会情感能力为主要目标，而非一味地强迫儿童看着屏幕吸收知识。
不巧的是，AI导师系统的设计往往是为了最大化学生上网的效率。除此之外，由机器学习驱动的教学方式，能够自动调整授课方法，以调节学生的注意力，而这可能会破坏学生进行自我调节的能力。同样，习惯于AI教学的学生，可能会很难适应现实世界中，那些无法进行即时沟通的创造性工作。
我们还必须考虑到这样一种可能性，即居心叵测的人会利用这项技术来教授暴力题材的内容。比如，恐怖分子会利用它来扩大有关破坏行为的培训课程的规模。此外，若要训练AI导师根据学生的学习习惯和进度来精确地调整培训方案，研究人员需要收集关于学生的心理状态和学习水平的信息数据，进行深入的处理和分析。这些私密数据，是否会被恶意泄漏呢？
恐怖分子曾在网上直播暴力视频被记者发现
网络安全和数据隐私的缺位，是这个平台亟需解决的难题之一。而对于接受AI教学的儿童来说，这一问题更加严峻。Facebook前首席信息安全执行官亚历克斯？斯塔莫斯（Alex Stamos）表示：“儿童的隐私泄露， 会加重儿童剥削，比如儿童色情。”一些恶意的色情和暴力图片，也可能会被发到低年龄学生的上课平台，对他们造成不可预计的伤害。
迈向更美好的前景
这些风险的存在，并不代表着AI教学应被全盘否定，相反，它可以继续改进，发展成更成熟的线上教学系统。
首先，为了提高互动效果，教师和AI工具可以展开协同工作，即教师选择性采纳AI工具提供的教学建议，工具支持教师对作业进行评分，并跟踪学生学习进度。AI教学目前在教授以记忆知识为主的课程方面最为有效，而不支持创造性和开放性的课程学习。现实中，在大教室里，教师不可能像钢琴老师帮助调整学生的手的位置那样，密切关注每个学生。因此，工具的监控作用是非常必要的。
智能监控反馈
当前的算法，需要大量的学生数据来支持AI教学工作的信息反馈。我们需要找到在不动用大量学生数据的情况下完成反馈的方法。低数据分析技术似乎很有前途，可以降低数据滥用的风险，也不需要调出囤积了数百万学生的学习信息的数据库，来进行繁复的算法解析。
研究人员更应该加强儿童安全风险方面的检测，把大量的精力放在开发内容审核工具上。做到这一点，在线学习平台才能实现对所有学习者的安全保障。尤其是对儿童和那些暴露于不稳定的网络环境中的人来说，有了保障，他们才得以更放心地使用AI教学系统。
言而总之， 学习在教育领域的应用和医学AI工具一样，在我们看到其潜力的同时，还要坚守这样的原则：一项优质技术的前提，是它不能对人类本身带来伤害。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
