时间:2023-01-29 18:26:19浏览:1171
前段时间,由人工智能研究实验室OpenAI所发布的全新聊天机器人模型ChatGPT在全球范围内引起了一股热潮,在强大的AI学习帮助下,ChatGPT甚至还能帮助大学生润色乃至生成论文。日前,斯坦福大学的一个研究小组提出了一种名为 DetectGPT 的新方法,旨在成为打击高等教育中机器生成文本的首批工具之一。
该方法基于的原理是:由 LLM 生成的文本通常在模型的对数概率函数的负曲率区域的特定区域徘徊。通过这个发现,该团队开发了一种新的指标,用于判断文本是否是机器生成的,并且不需要训练人工智能或收集大型数据集来比较文本。
这种方法被称为“零次学习(zero-shot)”,允许 DetectGPT 检测机器写的文本,而不需要了解用于生成文本的是什么人工智能工具。它的操作与其他需要训练“分类器”和真实及生成段落数据集的方法形成鲜明对比。
据了解,该团队在假新闻文章的数据集上测试了 DetectGPT,它在检测机器生成的文本方面的表现优于其他零次学习方法。该团队声称检测性能有了实质性的提高,并表明 DetectGPT 可能是一种有前途的方法,可以仔细检查机器生成的文本。
无独有偶,除了斯坦福大学外,美国纽约的教育部门也发现了ChatGPT可能带来的某种危害,其在不久前开始禁止全市的学生和教师在教育部设备或互联网上访问ChatGPT。弗曼大学哲学助理教授Darren Hick曾表示,ChatGPT的免费和即时性,及其超强的自然语言处理能力,令很多学生动了“歪脑筋”,他们会将有关文字写作的作业,交由ChatGPT来完成,而一般人几乎难以分辨真人和机器所写的文章有何不同。
以上就是斯坦福大学推出DetectGPT的相关内容。如果您对美国留学感兴趣,欢迎您在线咨询托普仕留学老师,托普仕留学专注美国前30高校申请,助力国内学子顺利获得美国藤校入读资格。
热门资讯:
扫一扫添加托普仕留学客服,了解更多资讯!
微信:Tops6868