星期二 , 3月 19 2024
首页 / 人工智能 / AI / 有了ChatGPT,人类懒得思考了

有了ChatGPT,人类懒得思考了

随着 ChatGPT 风靡全球,越来越多人开始将其融入到工作/学习当中,久而久之人们开始依赖于 AI 的帮助,丧失了原有的一些技能。美利坚大学语言学名誉教授 Naomi S·Baron 就此提出了自己的一些担忧。

下面是全文编译,原文地址‍‍:How ChatGPT robs students of motivation to write and think for themselves  

当 OpenAI 在 2022 年末推出新的人工智能 ChatGPT 时,教育工作者开始担心。ChatGPT 可以生成看起来像是人类写的文字,那么老师要如何检验学生是否用 AI 聊天机器人生成文字,在写作作业里作弊呢?

作为一名研究技术对人们阅读、写作和思考有何种影响的语言学家,我认为除了作弊,还有别的问题亟待解决。包括 AI 是否更普遍威胁到了学生的写作技巧、将写作视为一个过程以及将写作视为思考工具的重要性。

在我的新书 (Who Wrote This? How AI and the Lure of Efficiency Threaten Human Writing) 关于人工智能对人类写作影响方面的研究中,我调查了美国和欧洲的年青人与这些影响相关的问题。

他们报告了一系列关于 AI 工具削弱了他们作者身份的担忧。然而,正如我在书中指出的那样,这些担忧并非一日之寒。

用户觉察出了副作用

像 ChatGPT 这样的 AI 工具,只是在编辑或生成文本领域的最新成果。然而事实上,AI 对破坏写作技能和创作动力的潜在威胁已经存在了几十年

拼写检查,以及广为人知的基于 AI 驱动的语法/风格纠正应用,如 Grammarly(一款语法修正软件)和微软编辑器等被广泛应用的编辑工具。

图片来自:Grammarly

除了纠正拼写和标点符号,它们还能识别语法问题,并给出修改建议。

而 AI 文本生成方面的发展,则包括在线搜索自动填入和预测性的文字输入

在 Google 搜索框中输入“Was Rome”,你会得到一个选择列表,其中显示“罗马是否一日建成 (Was Rome built in a day)”。

在短信应用中敲入“Ple”,你就会得到“Please”和“Plenty”的提示选项。这些工具不请自来地介入到我们写作过程中,并要求我们遵循它们的建议。

调查过程中,年轻受访者采用 AI 协助进行拼写和单词补全,但他们也提到了一些负面影响。其中一位受访者说:“如果你过于依赖预测性文字工具,那么你迟早会失去你的拼写能力。

另一个人观察到,“拼写检查和 AI 软件……可以为那些想要走捷径的人所用。”

一位受访者在谈到依赖预测性文字输入时提到了“懒惰”一词:“当我想偷懒的时候,我觉得这很好用。”

个人表达变少了

AI 工具也可能影响一个人的写作风格。我的一位调查对象说,有了预测性文本输入,“我感觉那不是我自己写的。”

英国一名高中生在描述 Grammarly 时也提出了同样的担忧:

“Grammarly 会削弱学生的艺术表达能力……它会对学生进行严厉修改,剥夺他们自己独特的写作风格。”

相同的,哲学家 Evan Selinger 担心预测性文本输入会降低书面语言活跃思维和表达个性的力量

“通过鼓励我们不要过多地思考我们所说的话,预测技术潜移默化地改变着我们的互动方式。”Selinger 写道,“我们输出的,更多是算法的结果,而非真正的自我……自动化会阻止我们进行思考。”

在文化社会中,写作一直以来都被认为能帮助人们思考。

许多人引用了作者 Flannery O’Connor 的评论:“我写作是因为,直至读到我所说的话,我才知道我在想什么。”其他许多成功的作家,譬如 William Faulkner 和 Joan Didion 也表达过类似情感。如果 AI 帮我们写作,我们就少了自己思考问题的机会。

使用 ChatGPT 等程序的一个可怕后果是:文本语法准确无误,完美无瑕。事实证明,没有错误是 AI 而不是人类撰写文字的标志,因为即便是经验丰富的作家和编辑也会犯错。真人写作是一个过程:这个过程包括我们质疑最初所写的内容,继而修改或重头来过。

学校面临的挑战

在完成学校写作作业时,理想情况下,教师和学生之间应该会有不间断的对话:过程包括讨论学生想要写什么、分享并讨论起稿内容,接下来学生继续思考、打磨。

不过以上做法通常并不会发生,因为大多数老师没有时间填补协同编辑与教育角色之间的空缺。在此之余,他们也可能缺乏兴趣或必要的技能,或两者皆无。

认真负责的学生有时会自己承担过程中的某些方面,就如专业作者那样。但长期依赖于 Grammarly、ChatGPT 一类文本生成工具,往往会使人太容易用现成技术结果,去替代思考和学习的机会。

教育工作者集思广益,思考着如何充分利用人工智能写作技术。

一些人指出 AI 有潜力带动思考或进行协作。在 ChatGPT 出现之前,同样基于 GPT-3 的早期版本已被商业企业(例如Sudowrite,一款可以帮人撰写腹稿的软件)授权使用。用户可以输入短语或句子,然后要求软件去填补更多单词,从而刺激人类作家的创作灵感。

逐渐消失的所有权

然而合作与侵犯之间仅一线之隔。

作者 Jennifer Lepp 承认道,她越来越多依赖 Sudowrite,写出来的文字“不再像是我的东西”,回看我写的内容,文字和我的想法之间没有太多联系,这让我感到不适。

比起经验丰富的作家,学生就更难区分出“写作辅助”和“让 AI 接管他们的内容和风格”之间的界限。

图片来自:SEO.ai

随着技术更加强大和普及,我预估学校未来会跟学生普及生成式 AI 的优缺点知识。然而依靠 AI 润色写作,或用它完成大部分写作工作所带来的效率提升,人类很难抵挡住这种诱惑。

拼写检查、语法检查和自动填词软件已经铺平了道路。‍

作为人类的写作过程

我向 ChatGPT 发问,“你对人类的写作动力而言,算是一种威胁吗?”

它的回答是:“总会有需要创意、原创的内容,要用到真人独特的视角和洞察力。”

它继续说道:“‘写作’除了创造内容,还有很多其他目的,比如自我表达、交流和个人成长,即使某些类型的写作可以被自动化处理,那些目标依旧可以鼓励人们进行写作。”

看到软件似乎承认了自己存在局限性,我感到振奋。

我希望教育工作者和学生们也能这样做,制定写作作业的目的,不仅仅是为了打分,写作本是一次旅程,而非结果导向的任务。

关于 Aaron

Aaron
新生代的小编辑

检查

讯飞星火正式发布语音大模型,七大能力提升交互超GPT-4 Turbo

1月30日,科大讯飞举行星火认 …

发表评论

邮箱地址不会被公开。 必填项已用*标注