反馈在学习中起着至关重要的作用，可以帮助个人了解和提高自己的表现，但全球庞大而多样化的学生群体往往意味着提供及时和个性化的观察可能是一个挑战。

生成人工智能的最新进展为这些挑战提供了解决方案，但大多数现有研究主要针对模型准确性等技术方面，而往往忽略了人工智能接受的社会情感方面。

现在，隶属于洛桑联邦理工学院计算机与通信科学学院 (IC) 的教育机器学习实验室 (ML4ED) 的研究人员研究了反馈提供者的身份如何影响学生的看法。

他们的作品以预印本的形式出版。

在2024 年欧洲技术增强学习会议上发表的题为“人工智能还是人类?评估高等教育中学生的反馈看法”的论文中，研究人员描述了 450 多名来自不同学术课程和水平的 EPFL 学生如何在真实的教育环境中评估个性化反馈，无论是在披露反馈是来自人类还是由人工智能生成之前和之后。

“我们的研究发现，在学生辨别反馈是人类还是人工智能之前，他们并没有察觉到质量或友好度的差异。当他们发现反馈是人工智能给出后，他们要么降低了人工智能的分数，要么提高了人类的分数，这说明他们不信任人工智能，”ML4ED 实验室负责人 Tanja Käser 教授解释道。

研究参与者还被要求正确猜出反馈提供者。总共有 457 名参与者中有 274 人正确猜出了哪些反馈是人类的，哪些是由人工智能生成的。研究人员发现，年龄和性别都不会对正确答案产生显著影响，但课程任务的类型却有影响。与简短的逻辑证明任务相比，学生在涉及编码的项目中更容易将反馈识别为人工智能生成的。

研究人员认为，研究得出的一个关键问题是，对人工智能作为反馈提供者的信任程度如何影响人工智能反馈在课堂上的实际实施。

“这对学习具有重要意义。好的反馈会告诉你哪些地方做得好，哪些地方做得不好，以及未来可以采取的行动。如果你不太愿意听从你得到的反馈，因为它来自人工智能，而且你不信任它，那么当课堂整合更多这些模型时，你就不太可能提高你的学习水平，”ML4ED 实验室的博士后研究员、论文的主要作者 Tanya Nazaretsky 说。

越来越多的证据表明，人工智能在教育领域可以发挥巨大作用，帮助学习，人们也越来越愿意接受它。然而，人们认为，人工智能存在一些障碍，包括缺乏透明度和问责制、侵犯隐私和训练数据源。

“一个重要的问题是人工智能能否理解其范围之外的真实学习环境。很多学生评论说‘人工智能不认识我这个人，人工智能只看到系统中的东西，但学习过程中还有其他重要的因素，人工智能看不到。’尽管人们愿意接受人工智能，但人们确实缺乏信任，这阻碍了人工智能在实践中的应用，”纳扎雷茨基继续说道。

Käser 表示，回想起来，人类对人工智能反馈的强烈偏好是出乎意料的，但这表明，在学习环境中对人工智能的接受和整合方面还需要进行更多的研究。

“假设人工智能是完美的，我们仍然需要展示如何将其适应并无缝集成到课程和教学中。这篇论文的一个重要发现是，我们永远不应该忘记人的因素。”

版权说明：本站所有作品图文均由用户自行上传分享，仅供网友学习交流。若您的权利被侵害，请联系我们

标签：