科技魔方

准确率 99%,新模型可识别 ChatGPT 生成的文本内容

大模型

2023年11月08日

  根据 sciencedirect 收录的最新论文,科学家依赖 20 个特征和机器学习算法,可以准确区分内容是由人类论文作者创作,还是由 ChatGPT 生成的,且准确率可以高达 99%。

  AI Detector 研究人员表示该模型在区分人类写作和 ChatGPT 生成的文本方面表现出 99% 的准确率,并且明显优于 ChatGPT 制造商 OpenAI 提供的 AI 检测软件 GPT-2 Output Detector。

  研究人员也坦言,现阶段该赛模型算法测试的样本数据并不够大,只是测试了 13 家化学期刊和 3 家媒体上文章,通过 20 个文本特征和 XGBoost,可以有效区分人类协作,以及 GPT-3.5 / GPT-4 生成内容。

  研究人员表示,这些测试表明他们的方法简单而有效。他们强调,取决于提示和模型,该工具在识别人工智能生成的文本时表现出 98%-100% 的准确率。

  研究人员表示 OpenAI 目前检测器准确率目前在 10-56% 之间,该工具比 OpenAI 的更为先进。

  研究人员进一步透露,这项研究和发明背后的目标是为科学界提供一种途径,让他们能够评估“ChatGPT 对化学期刊的渗透,确定其使用的后果,并在出现问题时迅速引入缓解策略”。

+1

来源:站长之家

延展资讯