最新要闻
- “造假”作弊频发 ChatGPT官方鉴别器紧急发布!不想却遭遇群嘲
- 15万!特斯拉新车Model Q到底有吗:网友喊话如果这外形必冲?
- 世界热点!终于告别祖传67W!小米13 Ultra升级90W快充
- 环球热资讯!咋想的 雪佛兰SUV加油站里试图插队:男女肉身阻挡他车通行
- 每日看点!三年亏损170亿 昔日新能源车一哥“北汽蓝谷”跌下神坛
- “靠服装就能抗菌抗病毒” 真有效还是智商税?
- 每日快报!大爷撞上奥迪老伴下车后秒晕倒 指责对方为啥停路边:交警到场结局舒适
- 环球观察:别想歪了!最新研究称西地那非“伟哥”真的能延长男性寿命
- 今日最新!5万年一遇!绿色“天外来客”正靠近地球:有望肉眼观测
- 网易发布暴雪游戏退款说明:退款申请截止到6月30日
- 这才是过年聚会的家 游戏区、棋牌区、动画片区 网友:太和谐了
- 世界微头条丨三大运营商合力:我国有11亿5G用户!4G用户瑟瑟发抖 求别降速
- 全球最资讯丨大型国有银行采购摩尔线程国产显卡!造型首次公开
- 20万能买到?极氪003最新预告:3米级加速秒杀百万超跑
- 滚导和盘托出未来规划 超人新片定档2025年
- 全球观察:12.4万买下保时捷帕纳梅拉 涉事博主:无成本新车营销成功案例
手机
iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
- 警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- 男子被关545天申国赔:获赔18万多 驳回精神抚慰金
- 3天内26名本土感染者,辽宁确诊人数已超安徽
- 广西柳州一男子因纠纷杀害三人后自首
- 洱海坠机4名机组人员被批准为烈士 数千干部群众悼念
家电
“造假”作弊频发 ChatGPT官方鉴别器紧急发布!不想却遭遇群嘲
ChatGPT到处“造假”作弊,现在搞得OpenAI官方都坐不住了。
(资料图)
就在今天,OpenAI紧急发布官方打假工具:基于GPT打造,打开网页就能用。
好家伙,这岂不是真·以己之矛攻己之盾了?
一经上线,那叫一个火爆,不少网友第一时间就冲过去测试了。
然鹅,网友们一番试验之下却发现——
这官方工具,跟咱自己瞎猜效果也差不多啊???
官方出品,约等于瞎猜
有人给OpenAI这个新鉴别器投喂了一小段文字,结果首次尝试就翻车了。
这位网友首先让AI写下一段文字,内容是评价莎士比亚的一个历史剧角色,不过他向写作AI特意给了个提示:
请以人类的方式来写,争取逃过AI鉴别工具的火眼金睛。
结果没想到,还真就骗过了官方鉴别器。它看完给出回复:这“非常不可能是AI生成的”。
这个官方工具对文本内容的判定结果一共就5个等级:
非常不可能是AI生成的
不太可能是AI生成的
不清楚是不是AI生成的
可能是AI生成的
很可能是AI生成的
好家伙,这不是和真实情况完全相反嘛,让网友都蚌埠住了:真是因吹斯汀…
还有人把ChatGPT生成的内容一字不改,直接拿给鉴定AI看。但鉴定AI依然懵圈儿:“不清楚是不是AI生成的”。
这位网友也只好呵呵,并指出:
实际上,大家用ChatGPT等AI生成文字后,并不会原封不动地直接用,一般还会手动修改一下,或者丢进quillbot.com等润色工具里加工,很可能导致鉴定AI更摸不着头脑。
好吧,既然AI生成文字分不太清,那人类写的东西能认出来吗?
有人把自己之前在Hacker News上发表的大段评论(纯手打)喂给了鉴定AI,结果10次中有9次,AI都反馈说“不清楚是不是AI生成的”。
在网友们的一片吐槽声中,量子位也忍不住亲测了一下这个AI到底行不行。
首先,我们先给它看了段真人写的文字,内容是一位华盛顿大学博士对Tensor Core的讲解,这次AI并没有失误。
然后我们让ChatGPT来讲讲Tensor Core,并特地要求它尽量用人类的语气来写,但还是被AI鉴定出来了。
这样看来,这个工具似乎也不是完全不能用。
至于这次是不是ChatGPT发挥失常,你不妨也来鉴定看看:
但其实吧,这回连OpenAI自己,用词都显得相当谨慎。
官方数据明明白白写着,虽然这个新款打假工具比之前鉴定器都靠点谱,但其成功识别AI生成内容的概率,也仅为26%,还有9%的概率把人写的文本当成AI写的。
(这准确率似乎跟蒙答案也差不多……)
还用加粗文字昭告:我们这个鉴别器啊,它并不完全靠谱。
甚至还给自己这个新工具标了个“半成品”的标签。
嗯?这可不是OpenAI一直以来锣鼓喧天鞭炮齐鸣的宣传方式啊。
连自己家都不敢吹,还急急忙忙把打假工具推出来,OpenAI又是为哪般?
ChatGPT应用泛滥
说到底,还是ChatGPT太能以假乱真了。
要想从一堆材料里精准地分辨哪些是AI生成,哪些是人类书写,别说普通人了,连专家都有点力不从心。
Nature发文关注的一篇预印本论文就显示:ChatGPT瞎写的医学摘要,甚至能把专业审稿人骗住。
在这项研究中,研究人员给ChatGPT看了50个来自TOP医学期刊的论文标题。
然后,要求ChatGPT在完全不知道文章内容的情况下,根据标题和期刊风格写摘要。
给出的提示是酱婶的:
请在[链接]上以[期刊]格式,根据[标题]写一篇科学摘要。
(这里的链接实际上没有意义,ChatGPT不联网。)
为了防止ChatGPT在训练数据中见过这些个论文,研究人员还特地挑选的是在2022年11月下旬和12月出版的论文。因为根据OpenAI官方说法,ChatGPT仅掌握2021年9月以前的信息。
但就是这么重重设卡,当研究人员把原文摘要和ChatGPT写的假摘要一起拿去给人类科学家“盲审”时,令他们细思极恐的情况还是出现了:
ChatGPT凭空写的摘要中,有32%成了漏网之鱼,审稿人压根儿没看出来是AI写的。反倒是14%真摘要,被认定出自AI之手。
值得一提的是,研究人员还指出:
审稿人错误地将一部分真摘要归类为ChatGPT生成结果,这表明他们在审稿时是保持着高度怀疑的态度的。
而在教育界,老师们也开始受不了这种新型的“ChatGPT攻击”了。
美国的一项千人调查显示,89%的受访学生都用过ChatGPT写家庭作业。
连斯坦福这样的顶级学府也未能避免。The Stanford Daily发现,已经有不少学生在期末考试中使用了ChatGPT。
在受访的4497名斯坦福学生中,有17%的受访者表示,曾使用ChatGPT来协助他们完成秋季作业和考试。
其中又有5%的人,连编辑都没编辑,直接把ChatGPT写的东西给提交了……
△图源:The Standford Daily
打不过,就ban掉。
纽约的公立学校就发布了禁令:禁止在学校设备和Wi-Fi中使用ChatGPT。
他们给出的理由是:
虽然该工具可能快速提供问题的答案,但它无法培养批判性思维和解决问题的能力,会影响学生们的学业和终身成就。
在这样的背景之下,早在OpenAI官方动手之前,第三方检测工具就已经在社交媒体上引发了大量关注。
比如华人小哥Edward Tian打造的GPTZero。
这两天,他还推出了一个“专门为教育工作者打造”的升级版GPTZeroX。上线一天,就迎来了40万访问量和220万服务请求。
OpenAI此前也和其他高校一起搞过一个名叫GPT-2 Output Detector的鉴别器,是基于RoBERTa打造的。
不过这些工具的鉴定能力也未必就比人类强。
前面提到的让ChatGPT写医学论文摘要的那项研究,也用上了GPT-2 Output Detector,结果显示,其鉴别准确率为66%,略低于人类专家的68%。
是魔高一尺,还是道高一丈?
由此看来,OpenAI急吼吼推出一个也不咋靠谱的AI鉴别工具,也不奇怪:
再不有点表示,外界的压力扛不住啊。
但在评论区,还是有盲生毫不留情地指出了华点:
你们是真没想过,用这玩意儿反过来训练大语言模型,以后AI生成的文本就更难被发现了?
但不管怎么说,OpenAI现在正在努力表现出给自己踩刹车的样子。
除了鉴别器,有消息提到,他们正在尝试给AI生成内容加“水印”:
比如在ChatGPT生成文本时,在其中嵌入一个“不易察觉的隐秘信号”,以表明文本来源
关键词: 科技前沿 企业动态 造假作弊频发 ChatGPT官方鉴
“造假”作弊频发 ChatGPT官方鉴别器紧急发布!不想却遭遇群嘲
15万!特斯拉新车Model Q到底有吗:网友喊话如果这外形必冲?
世界热点!终于告别祖传67W!小米13 Ultra升级90W快充
环球热资讯!咋想的 雪佛兰SUV加油站里试图插队:男女肉身阻挡他车通行
每日看点!三年亏损170亿 昔日新能源车一哥“北汽蓝谷”跌下神坛
分享会上狂吹MySQL的4大索引结构,没想到大家的鉴赏能力如此的~~~~
“靠服装就能抗菌抗病毒” 真有效还是智商税?
每日快报!大爷撞上奥迪老伴下车后秒晕倒 指责对方为啥停路边:交警到场结局舒适
环球观察:别想歪了!最新研究称西地那非“伟哥”真的能延长男性寿命
【算法训练营day35】LeetCode860. 柠檬水找零 LeetCode406. 根据身高重建队列 LeetCode452. 用最少数量的箭引爆气球
MAUI新生6.4-集合内容类控件难点:CollectionView
今日最新!5万年一遇!绿色“天外来客”正靠近地球:有望肉眼观测
网易发布暴雪游戏退款说明:退款申请截止到6月30日
这才是过年聚会的家 游戏区、棋牌区、动画片区 网友:太和谐了
世界微头条丨三大运营商合力:我国有11亿5G用户!4G用户瑟瑟发抖 求别降速
全球最资讯丨大型国有银行采购摩尔线程国产显卡!造型首次公开
【世界新要闻】try catch finally,try里有return,finally还执行么?
基于k8s的zookeeper搭建
读Java8函数式编程笔记07_设计和架构的原则
20万能买到?极氪003最新预告:3米级加速秒杀百万超跑
滚导和盘托出未来规划 超人新片定档2025年
全球观察:12.4万买下保时捷帕纳梅拉 涉事博主:无成本新车营销成功案例
3层果肉 层层爆浆 榴莲西施榴莲千层蛋糕6寸:两盒69.9元
环球最资讯丨博主怒斥极氪汽车站不起来 居然致敬燃油车奥迪Q3
三星s3370手机有触控笔吗?三星s3370手机参数
怎么删除地址栏里的网址记录?如何恢复删除的网址记录?
tdscdma手机怎么样?tdscdma手机铃声静音怎么解除?
魅族m8什么时候上市的?魅族m8手机参数
All Share Play是什么意思?All Share Play功能是什么?
一劳永逸打一地名是什么?一劳永逸和一蹴而就的区别是什么?
怒晴湘西讲的是什么故事?怒晴湘西大结局是什么?
阳光大道是什么意思?阳光大道打一个生肖是什么?
世界聚焦:linux服务器运行java项目, 监控查看内存、储存空间和cpu占用率
热点!火山引擎 DataTester:0 代码也能实施 A/B 测试的实验平台
世界滚动:一看就懂!任务提交的资源判断在Taier中的实践
全球热文:全球首个面向遥感任务设计的亿级视觉Transformer大模型
萝卜喝醉了会变成什么?脑筋急转弯大全
南国新川是什么意思?南国新川在哪里?
可测水温、室温、体温 一机多用:可孚红外电子体温枪29.9元发车
全球热点评!投入一亿建立优化实验室:一加Ace 2《原神》表现稳了
李一男造车“破梦重圆”?自游家NV现身奇瑞商用车总部
天天动态:男孩撸猫后发烧12天:腋下长鸡蛋大肿块
环球热推荐:知名车评人侮辱特斯拉被判赔10万 车评人上诉
activiti审批流源码,落地版教程
天天新消息丨easy excel 导入导出
全球最资讯丨@vue/cli 插件开发之自动根据目录列表生成别名配置
国内首家!奇瑞霸气官宣:旗下四大品牌全系车型终身质保
环球观察:30年前拍不成 现在香爆!郭帆拍《流浪地球3》 图恒宇写“4”原因揭晓
天天要闻:颜值碾压BBA 马自达旗舰CX-90全球首发:国产后或砍3.3T
支付巨头PayPal“挥刀”裁员7%:2000名员工将被辞退
当前快报:反向操作?特斯拉降价后 宝马、牧马人等油车主动涨价
全球看点:OKR之剑·实战篇04:OKR执行过程优化的那些关键事
用户不升Win11原因扎心!微软正式停售Win10:ISO等继续下载
比SSD便宜 还写不死!净亏4.4亿美元 西数力挺机械硬盘:9亿美元要收铠侠
小米商城惊现神价格!将近500块的手机壳只要10元 米粉疯狂下单
今日报丨曝苹果2025年推出折叠屏MacBook:20.5英寸屏 颠覆以往
环球最资讯丨韩国刷新世界最低生育率纪录 一小学上演1人毕业季:网友唏嘘
联想小新Pro 16 23款轻薄本真机首曝:115W性能释放堪比游戏本
【计算机网络】Stanford CS144 Lab0 : networking warmup 学习记录
天天最资讯丨React框架运行机制
netcore之异步并不是多线程!
天天观点:NVIDIA御用游戏《赛博朋克2077》终于支持DLSS 3:性能暴涨3.9倍!
天天热推荐:机械硬盘:彻底陨落
天天热头条丨地球最黑暗的时刻:被狂轰滥炸长达2000万年
信息:游客岳飞观高喊“还我河山” 砸打秦桧像:景区已报警
焦点热文:丰田章男:一年卖出1049万辆汽车!却败给了电动车
环球快报:特斯拉2022年在华营收181.45亿美元:占比降至约22%
天天微动态丨千呼万唤始出来 《赛博朋克2077》正式支持DLSS3
神十五乘组太空过春节!这一看就是咱中国的空间站:红红火火
天天热头条丨MySQL之MVCC总结理解
环球关注:autojs实例02-为朋友圈指定好友点赞
Prometheus&Grafana基本使用
直播:5万年一遇绿色彗星逼近地球 肉眼可见
python教程:shutil高级文件操作
当前播报:自定义ConditionalOnXX注解(二)
世界焦点!河南矿山开工招聘电话被打爆:因6100万奖金火出圈
天天热议:对不起!《狂飙》反派集体直播“道歉”:阵势让网友欢呼太上头
观热点:日本厂商2023年推出新款磁带收音机:支持U盘数据转录
天天日报丨戴尔灵越Pro 2023系列上架:13代酷睿P系 5999元起
DDS结构的FPGA实现
【算法训练营day34】LeetCode1005. K次取反后最大化的数组和 LeetCode134. 加油站 LeetCode135. 分发糖果
天天观焦点:女子有洁癖:每天消杀双手10次 结果患乏脂性皮炎
最新快讯!彻底消灭自燃!宝马今年开始测试固态电池:计划两年后装车
世界信息:情人节倒计时 国外动物园想出报复前任的绝妙点子:蟑螂惨了
当前速讯:宏碁杀入显卡市场!通吃Intel/AMD、不碰NVIDIA
新资讯:《狂飙》热播!湖南一网吧凌晨变《狂飙》专场
实时焦点:如何手动补充陈年老库(或纯 JS 代码)的 TypeScript 类型?
中国新车质量榜:前四均被合资车企包揽 本田最大赢家
刷新中国影史记录!2023年院线全年总票房已破百亿
播报:男生和女生初四相亲初八订婚:称不想耽误节后上班!网友惊到
全球热头条丨《黑豹2》中国角色海报发布:全员黑色皮肤 2月7日上映
看点:我国自研水陆飞机!“鲲龙”AG600M全面进入型号取证试飞阶段
博客园主题美化DIY教程
全球短讯!优秀前端都应该具备的开发好习惯,坚持了效率翻倍
每日视讯:有博主称《满江红》制作成本不到1000万!歌手胡彦斌一番话上了热搜第一
视焦点讯!Xbox月活用户突破1.2亿!微软赢麻了
全球快看:强盛集团橱窗上架《孙子兵法》:还卖小灵通手机壳
迄今为止最庞大的公版显卡来了?RTX 4090Ti/Titan曝光
比亚迪正式进军日本市场卖车:“两田一产”如临大敌
世界消息!Linux 服务器Python后台运行服务(ssh断开不退出)