业内加紧研发AI文本检测器
来源:峰值财经 发布时间:2023-05-22 浏览量:次
AI Text Classifier 由ChatGPT母公司OpenAI推出,用于区分人工编写的文本和AI生成的文本。据测试,它分辨AI生成文本的成功率仅为26%。OpenAI认为,该检测工具与其他方法结合使用时,可能有助于防止AI文本生成器被滥用。 GPTZero 由现年22岁的普林斯顿大学电脑科学和新闻学的学生爱德华.田(Edward Tian)开发,它通过分析文本的“困惑度”以及“突发性”来识别AI的使用痕迹,其对人工文本识别的准确率达99%、对AI文本的准确率则达85%。 DetectGPT 史丹福大学研究团队推出了DetectGPT,通过一种用于判别大型语言模型(LLM)生成文本新指标,借此判断文章是否由AI生成。另外,他们还在尝试检测LLM生成的音频、视频和图像。 不同地区高校对使用ChatGPT的规定 ?香港大学、香港中文大学、香港科技大学、岭南大学、香港教育大学已向教学人员及学生提供AI使用的针对性指引,做法各有异同,有的列明学生如符合特定条件(如作出明确引述)便可使用,或容许教员按教学需要决定;另有部分大学除获书面许可外,暂时全面禁止学生在作业或评核中使用。 ?美国纽约市、洛杉矶和西雅图一些公立学校已经禁止在学校无线网络和设备上使用ChatGPT。 ?法国巴黎政治学院1月表示,禁止学生使用ChatGPT来制作任何书面作业或演讲稿,除非有特定课程目的,或在课程导师的监督下。如被发现使用,学生面临的最严重处罚可能是被开除。 ?英国多间大学对使用ChatGPT持开放态度,但牛津和剑桥等基于抄袭担忧,禁用ChatGPT。 ?澳洲有学生使用ChatGPT撰写论文作弊后,大多数省份亦已禁止学生使用ChatGPT。