新闻资讯

news
首页 -新闻资讯 -电子资讯 -用ChatGPT写关于遥感的故事,被OpenAI自家鉴定器判定为“可能由AI生成”

用ChatGPT写关于遥感的故事,被OpenAI自家鉴定器判定为“可能由AI生成”

发布时间:2023-03-23作者来源:许泽宇浏览:2109


近期,我们会听到很多用ChatGPT 写文章的消息,如国外某博主通过ChatGPT写了一篇数据分析文章,获得了客观的收入,另也有部分期刊作者中出现了ChatGPT的名字。

同时,也有很多单位明确表示禁止使用AI写作,此时就有了一个问题:如何判定一篇文章是否为AI创作?


OpenAI 推出了文本AI鉴定器(https://platform.openai.com/ai-text-classifier)。虽然该工具对英文支持更好,但在这里我们也测试一下中文的使用效果。


图片

这个工具将结果分为5个类别:


  • “非常不可能是 AI 生成”对应 <0.1 的分类器阈值


  • “不太可能是 AI 生成”对应 0.1 到 0.45 之间的分类器阈值
  • “不清楚是不是 AI 所写”对应0.45到0.9之间的分类器阈值
  • “可能是 AI 生成”对应于0.9 到 0.98 之间的分类器阈值
  • 很可能是 AI 生成”对应 >0.98 的分类器阈值


图片

1、讲故事


首先,我们先用一个故事来测试,用ChatGPT写的故事:


图片

还是挺有意思的,既有故事的趣味性,又体现了遥感和深度学习的特点,适合做科普。放入到鉴定器中:




可以看到,被识别成功:“很可能是AI生成“


2、说明介绍类


[敏感词]是两个说明、介绍类的文字。其中,关于深度学习的介绍被评为“可能是AI生成”, 关于Landsat的介绍则给出了不确定的结果。


(1)介绍深度学习的特点和发展历史


图片

(2)介绍Landsat系列卫星


图片

3、论文类


我们首先把人工写的论文手稿部分贴上:


图片

对于人工写的论文,鉴别器认为“非常不可能是AI生成”。接着,输入ChatGPT生成的论文片段:


图片

此时,鉴别器认为“可能是AI生成”


4、题外


除ChatGPT外,在OpenAI的平台上还有一些产品可以测试和探索,如Playground (https://platform.openai.com/playground)里面有GPT的一些早期版本和控制选项。


图片

5、总结


可以看到,OpenAI推出的AI文本鉴别工具在一定程度上是有效果的,但有时也会给出模糊的结果。另外,目前该工具主要以英文鉴定为主,其他语言误差会偏大。


AI 在飞速发展中,其“创造“出的文字、声音、图像等很多达到了以假乱真的效果,因此鉴别起来也会存在困难。正如该平台所述”可以轻松编辑 AI 生成的文本以避开分类器。” 但相信在不久的将来,这一领域会有更加完善的行业规范。






  免责声明:本文采摘自微信公众号 慧天地,本文仅代表作者个人观点,不代表金航标及行业观点,只为转载与分享,支持保护知识产权,转载请注明原出处及作者,如有侵权请联系我们删除。