人工智能教育应用的伦理与限制

2023-06-01 0 739

作者:张翼锋(苏州师范学院邵章颐基础教育学院教授、基础中华人民共和国教育部基础教育重要信息化战略科学研究基地[北京]副主任);陈睿宁(苏州师范学院)

人工智慧控制技术在各个领域的应用领域,促进了控制技术革新和产业升级,有力地促进了数字中国和现代化建设,也为促进基础教育网络化转型提供更多了强大动力。江泽民总书记在致国际人工智慧与基础教育大会的贺电中指出,中国高度重视人工智慧对基础教育的深远影响,积极促进人工智慧和基础教育深度融合,促进基础教育革新创新。

2022年11月,如前所述人工智慧的网络平台ChatGPT上线仅两个月,活跃采用者超过了1亿。ChatGPT能根据语句理解采用者输入的重要信息,协助采用者聚合难题的软件系统,如写论文、编代码、当客服人员等。当其渐渐应用领域到利皮扬卡的过程中,出现了如人工智慧协同教学文本、个人化自学、智能评价、远距学术等典型应用领域。但是,应用领域中的伦理道德难题,如学术作假、统计数据泄露、社会仇恨、基础教育商业价值片面等,渐渐显露并产生了负面影响。因此,如何在充分发挥人工智慧教育应用领域商业价值的同时,有效规避其中的伦理道德风险亟须探讨和解决。

ChatGPT的基础教育应用领域助力学与教革新

ChatGPT的应用领域有利于促进小学生的个人化自学。ChatGPT能够为小学生提供更多个人化的自适应自学体验,通过ChatGPT的语义处置控制技术,将小学生提出的难题转化为形式化的统计数据,并将其与有关资料库展开匹配,提供更多最优化答疑,并且ChatGPT会记录每一次的概要,针对小学生的难题展开预估,深入介绍小学生的自学习惯、自学水平等进而使小学生能获得个人化和高效的自学指导,提升小学生的自学效率。

ChatGPT的应用领域有助于促进教员的自动化教学文本。ChatGPT能与教员实现相互配合,远距教员展开课程文本和材料聚合,为教员聚合有针对性的应试者、课后莫雷县、教学文本大纲、教学文本案例和课后AdaBoost等。通过与ChatGPT展开模拟课后对话,教员能更好地介绍小学生的难题,提升课后教学文本的灵活性。在课外教员能采用ChatGPT对小讲课的提问与回答展开教学文本诊断,协助教员介绍小学生的自学情况、困难,及时调整课后AdaBoost和文本。ChatGPT会自动对小学生的工作台或试题展开打分和写作文,教员能快速而准确地对小学生的工作台和试题展开打分和写作文。

ChatGPT的应用助于远距学术。ChatGPT能为人类学家提供更多数学模型预估和统计数据挖掘的支持。

人类学家提供更多有关统计数据,这些统计数据能主要包括试验统计数据、问卷调查统计数据、统计统计数据等,ChatGPT将采用语义处置控制技术预估这些统计数据,从中发现有用的重要信息,并展开统计数据挖掘和数学模型预估,之后ChatGPT将提供更多预估报告,其中主要包括统计数据建模展示、结论说明和推荐建议等文本,让人类学家更加快捷地介绍统计数据和数学模型的特征、趋势。最后,人类学家能如前所述预估结果展开进一步的科研探索和试验科学研究,同时对数学模型和统计数据展开优化和改进,进而促进科学科学研究的扎实推进。

ChatGPT应用领域引发的基础教育伦理道德难题亟须破解

教员和小学生在应用领域ChatGPT的过程中产生了亟须解决的伦理道德难题,主要包括统计数据泄露、算法仇恨与歧视、学术作假、基础教育商业价值片面、人文关怀缺失等,这些难题给基础教育的可持续发展带来了很大的挑战。

统计数据泄露有可能引起小学生权益受损。ChatGPT需要处置与存储大量统计数据,这些统计数据存在被泄露的风险。在自学、教学文本与评价场景中,小学生、教员与ChatGPT对话中可能涉及个人隐私重要信息、学术记录、行为模式、小学聚合绩、班级重要信息与答题重要信息等。由于控制技术漏洞、有关人员缺乏安全意识、黑客攻击等使这些统计数据的安全不能得到保障,可能会导致被未经授权的人员访问、篡改或滥用。如果不采取相应措施来规避风险,将会给小学生与基础教育机构带来严重的后果,主要包括个人重要信息被利用引来小学生被诈骗或骚扰、对小学生的学业产生负面影响、学校声誉受损进而家校关系恶化等。

算法不透明或可导致基础教育仇恨与歧视。ChatGPT在算法设计与调整时,可能存在一定的仇恨。由于算法设计人员本身的仇恨或盲区,或收集的语料本身存在的如种族、地区等仇恨,ChatGPT的输出也会受到影响。若算法不透明,我们无法判断其作出决策的依据,也无法得知其中是否存在隐含仇恨。小学生与ChatGPT展开知识概要时,ChatGPT可能会给出不准确的回答,或者以不当的方式引导小学生自学和行为,影响小学生的自学效果和公平性,加剧数字技能鸿沟甚至损害基础教育的公平性。

过度依赖或可导致学术作假与基础教育商业价值片面。ChatGPT能根据科学研究任务聚合说服性强且有一定逻辑的文本,若滥用可能产生剽窃、抄袭等学术作假难题。ChatGPT在一定程度上能协助小学生提升自学效率,但小学生若对其呈现的结论不加批判地全盘接受,会导致思维的惰化,进而其影响全面发展。长此以往,小学生的元认知、创新性思维、批判性思维、独立解决难题的能力均可能受到不同程度的损害,这与基础教育“培养全面发展的人”背道而驰。同时,在教学文本中,若教员过分依赖ChatGPT,在基础教育中忽视和缺失了人文关怀的情感基础教育,也不利于培养小学生的健全人格与身心健康。

应对ChatGPT基础教育应用领域伦理道德难题的策略

规范开发人工智慧基础教育应用领域场景。ChatGPT具有强大的文本聚合能力,可能的应用领域场景主要包括教、学、管、考、评、测、研等诸多方面,学校能加强应用领域场景的规范开发,明确人工智慧控制技术的育人商业价值,从教学文本全流程、全要素、全业务的角度深度思考,将智能控制技术与教学文本深度融合,打造典型的应用领域模式,破解基础教育和教学文本的核心难题,进而塑造学校人工智慧基础教育应用领域的特色场景。

明确制定人工智能基础教育应用领域限度。正确认识ChatGPT等人工智慧的功能特点、核心商业价值,谨慎处置其潜在风险。人工智慧基础教育应用领域过程中,在统计数据采集、统计数据筛选、统计数据处置、统计数据应用领域等方面,容易出现个人重要信息泄露、统计数据安全受损、育人商业价值片面等难题。在应用领域过程中,从统计数据的全生命周期角度,需明确应用领域的具体限度,指导教员和小学生在安全可信的前提下合理采用ChatGPT等人工智慧,确保统计数据安全,保证基础教育的育人商业价值不出片面。

提升师生的人工智能素养和伦理道德意识。教员和小学生的人工智慧素养是将新一代人工智慧控制技术融入教和学的基础,而伦理道德风险意识则是保证师生安全可靠应用领域人工智慧控制技术的前提条件。为提升师生的人工智慧素养和伦理道德意识,组织开发人工智慧教育应用领域与伦理道德意识有关课程和培训,并将有关文本渗透到各科课程中去,让小学生介绍智能控制技术的应用领域可能带来的伦理道德风险。同时可引入人工智慧检测工具,建立相应的监督和管理机制对小学生的学术行为展开监督,对学术作假行为展开惩处。

强化小学生的高阶思维能力培养。ChatGPT等聚合性人工智慧对小学生的逻辑思维、提问能力、批判性思维、协作能力、沟通能力等提出了新的要求,只有具备了这些高阶思维能力,小学生才能与ChatGPT等人工智能应用领域形成良性的人工智慧协同,促进自身的全面发展。要充分利用智能工具,促进教学文本理念更新、课后范式转型、教学文本模式转变,促进小学生高阶思维能力的培养,让小学生能够在未来复杂和不确定的世界中诗意地生存。

(本文系国家社科基金重点课题“人工智慧基础教育场景应用领域的伦理道德与限度[ACA220027]”的成果)

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务