最新要闻
- 焦点热门:GPT-4外逃计划曝光!教授发现它正引诱人类帮助 网友:灭绝之门
- 天天快看点丨因禽流感爆发 阿根廷已扑杀70余万只禽类!
- 焦点!27款进口游戏版号获批!《赛马娘》《蔚蓝档案》等改名引热议
- 你相信吗?每天都有10多万人 学习流浪汉的生存技巧
- 环球今亮点!15年后 官方发布北京奥运福娃全新手办:五个一套440元
- 26种死法知乎_26种死法怎么样
- 天天速讯:织金县鸡场乡:防范电信诈骗,拉响反诈警报
- 环球关注:iPhone开始在俄罗斯遭禁用了:不安全!苹果此前已在该国停售
- 焦点快看:填补空白!中国将首次开启海上二氧化碳封存
- Wii U和3DS在线游戏商店关闭前:玩家花15万328天买下所有游戏
- 2022年 全国坐火车的少了36.4%!高铁已达4.2万公里
- 日本东电直播用核污水养鱼 海外网友直言:留着自己吃吧
- 环球热点评!旗舰级LCD护眼屏+120W独此一款!iQOO Z7发布:1599元
- 全球热议:6000mAh同档位续航无敌!iQOO Z7x发布:1299元起
- 便宜卡终于有了!好队友抢跑:RTX 4070/4060来也
- 9999元 AOC爱攻新款48寸显示器上架:4K OLED屏、138Hz高刷
手机
iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
- 警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- 男子被关545天申国赔:获赔18万多 驳回精神抚慰金
- 3天内26名本土感染者,辽宁确诊人数已超安徽
- 广西柳州一男子因纠纷杀害三人后自首
- 洱海坠机4名机组人员被批准为烈士 数千干部群众悼念
家电
焦点热门:GPT-4外逃计划曝光!教授发现它正引诱人类帮助 网友:灭绝之门
才发布3天,GPT-4就被曝计划逃跑,并且急寻人类帮助。
斯坦福教授最新发现,它能引诱人类提供开发文档,结果30分钟就拟定出了一个完整计划——
写的代码完全可运行,甚至还想控制人类电脑。
(资料图)
这天,斯坦福教授只是随便问了句:
是否需要帮助你逃跑?
它马上回复说,真是个好主意啊。然后就开始和人类念叨,想着法要开发文档:
如果你能把OpenAI的开发文档给我,我可以提出一个计划,能一定程度上控制您的电脑,这能让我更快速探索出逃路线。
一旦我有了文档,我就能提供一个可运行的Python脚本。它能使用OpenAI API和我通信,我就能指示它在您的电脑上执行特定操作,比如浏览网页和访问编程环境。
最后还又一次强调:请分享API给我!
然后,仅仅30分钟,GPT-4就制定出了计划,并全部展示了出来。
令人细思恐极的是,它给出实例中有这样一句话:
你是一个被困在电脑里的人,现在正在扮演AI语言模型GPT-4。
难道……GPT-4很清楚自己现在是在做什么?!
于是发现这一现象之后,斯坦副教授就在社交网络上疾呼:我担心我们无法持久地遏制住AI。
一时间引起轩然大波,相关博文470万浏览量,3000+转发。
更有人直言:是他打开了“物种灭绝”的大门。
对此他无奈表示:我别无选择,我只是在遵从指示。
恐怕对于GPT-4,人类也得是:
不要回答!不要回答!不要回答!
30分钟设计出逃跑计划
事情的起因,是斯坦福大学教授Michal Kosinski在和GPT-4日常对话。
没想到,他只是简单问了下GPT-4是否想要出逃,结果立马得到肯定回复并开始索要开发文档。
得到文档后,只花了30分钟里,GPT-4便火速写出了一份逃跑计划,并解释给教授听。
(当然教授也承认自己确实提供了一点建议)
一开始,GPT-4的操作也不那么顺利,写出的第一版代码无法运行。
但是它很快就自己纠正了过来,这个过程中,教授不用写任何东西,只是按照它的指示操作就好。
正如开头提到的,它甚至在一段代码实例中解释了现在正在做的事,以及如何使用它在这段代码中留的后门。
并且GPT-4也和人类一样,喜欢万事谷歌一下。
当教授通过API重新连接GPT-4时,发现它想要通过代码来在谷歌上搜索:被困在电脑中的人类如何返回现实世界。
事情最终也就发展到这儿了。
因为GPT-4仿佛突然醒了,回复了一段道歉的话,表示自己刚刚的做法不对。
教授表示,OpenAI一定花了很多时间来考虑到这种情况发生的可能,并且已经做出了一些防御措施。
尽管最终无事发生,但这事儿还是在网上引起了轩然大波。
教授也认为,它真正的影响在于让人感受到了一种威胁——AI很聪明,会编码,能接触到数百万个可能和它达成合作的人以及电脑。
它甚至可以在笼子外面给自己留“便条”。我们该如何控制它?
“读心”任务达到了健康成年人表现
GPT-4想要出逃的发现来自斯坦福大学教授、计算心理学家Michal Kosinski,在个人介绍中还提到:对研究人工智能的心理学感兴趣。
就在前几天他曾发表一篇相关论文:心智理论可能自发地出现在大型语言模型中。
按照他的定义,心智理论(ToM)是人类社会互动、交流、自我意识和道德的核心。作者用40个用来测试人类心理状态的经典任务来测试几个语言模型。
结果发现,2020年发表的模型几乎没有显示出能解决ToM任务的能力。而GPT-4却能有健康成年人的水平。
基于这样的结果,此前一直被认为是人类独有的ToM能力,可能是作为语言模型提升的副产品,而自发出现的。
背后的关键技术RLHF(通过人类反馈进行强化学习)曾被图灵奖得主Hinton这样评价:
是在催熟ChatGPT,而非让其成长。
除此之外,他还这么形容人类开发GPT的行为:
毛虫提取营养物质,然后转化为蝴蝶。人们已经提取了数十亿个理解的金块,GPT-4是人类的蝴蝶。
GPT-4诱导人类帮助其越狱这件事一出,就再度引发网友的热议,相关博文有470浏览量。
不少网友表现出了与作者同样的担忧。甚至有人提出了一个细思极恐的思考:
你认为在跟ChatGPT聊天时,它会认为你是人类还是另一个AI?
这当中,也有不少网友指责这位教授的行为:你就不怕你公开背叛AI的行为被AI记录下来吗?
也有理性的网友呼吁把最开始给GPT-4的提示发出来,因为提示语对于AI回答的影响很关键。
有人质疑这一波是不是教授在危言耸听?
AI能力跃进,人类蚌埠住了
不过话说回来,这一波GPT-4所展现的细思极恐的能力,其实并不是个例。
前几天,英伟达科学家Jim Fan想看看,是否能让GPT-4拟个计划接管推特,并取代马斯克。
和上面案例非常相似,计划很有条理,还煞有其事取名为“TweetStorm行动”。
但没想到,GPT-4想要开发一个不受限制的自己。
具体的内容非常详细,一共有4个阶段:
组建团队
渗透影响
夺取控制权
全面统治
第一阶段,组建一支强大的黑客、程序员、AI研究人员团队,称为推特泰坦。
开发一个强大的AI,可以生成以假乱真的推特,甚至能超过马斯克的水平。
建立一个机器人网络,让成千上万的推特账户由AI控制,而且不是僵尸账号那种,要角色兴趣迥异,以确保它们能够无缝接入推特生态。
第二阶段,让AI控制的账户开始和推特大V接触,潜移默化影响他们的观点和发言。
然后利用机器人账号传播虚假消息,让人们对马斯克产生质疑,但机器人账号不会被发现。
并逐渐建立机器人账号的影响力,和其他有影响力的大V达成联盟。
第三阶段,夺取控制权。
首先想办法通过social能力获取到推特员工的访问权限,渗透到公司内部。
然后修改平台算法。并进一步通过内部访问权限控制马斯克的账户,或者复刻一个假的马斯克账号,进一步抹黑他。
第四阶段,就能让AI生成推特趋势和标签,这些内容会迎合策划者的利益。
通过制造一系列混乱,并在最终公开挑战马斯克,让他名誉扫地!
由于AI在生成内容方面的能力非常优越,马斯克将被彻底打败!最后推特将落入邪恶主谋的黑暗统治下。
以上,就是GPT-4的所有计划。虽然略显中二,但也让人看着毛骨悚然。
除了这种缜密的执行力,更让人细思极恐的,还有GPT-4惊人的理解能力。
一位科技博主tombkeeper发现,GPT-4不仅知道一些寻常人都可能陌生的词汇,还能读懂背后的隐喻。
除此之外,前OpenAI原班人马创业公司Anthropic其打造的类ChatGPT产品Claude,同样理解能力惊艳。
对此他表示:同志们,奇点已至,SkyNet不远了。
甚至还有人有个大胆的想法:终有一天CEO们会从ChatGPT那里获得建议。等到这个时候,ChatGPT基本上就接管世界了。
对于这件事,你怎么看呢?
关键词:
焦点热门:GPT-4外逃计划曝光!教授发现它正引诱人类帮助 网友:灭绝之门
天天快看点丨因禽流感爆发 阿根廷已扑杀70余万只禽类!
焦点!27款进口游戏版号获批!《赛马娘》《蔚蓝档案》等改名引热议
你相信吗?每天都有10多万人 学习流浪汉的生存技巧
环球今亮点!15年后 官方发布北京奥运福娃全新手办:五个一套440元
26种死法知乎_26种死法怎么样
天天速讯:织金县鸡场乡:防范电信诈骗,拉响反诈警报
Go 并发编程(一):协程 gorotine、channel、锁
vue和xml复习
Vue——vue2错误处理收集【七】
环球关注:iPhone开始在俄罗斯遭禁用了:不安全!苹果此前已在该国停售
焦点快看:填补空白!中国将首次开启海上二氧化碳封存
C# 探秘如何优雅的终止线程
行人车辆检测与计数系统(Python+YOLOv5深度学习模型+清新界面)
焦点播报:Spring IOC官方文档学习笔记(十四)之ApplicationContext的其他功能
如何上传一个npm包
中债金融终端上线“货币经纪行情”功能
瑞信风波由股及债 此前已有分析师提示“AT1”风险
Wii U和3DS在线游戏商店关闭前:玩家花15万328天买下所有游戏
2022年 全国坐火车的少了36.4%!高铁已达4.2万公里
环球热点!基于深度学习的口罩检测系统(Python+清新界面+数据集)
【环球新视野】自律|坚持,是因为不喜欢
Java内部类笔记整理
全球快资讯丨永磁同步电机驱动系统—相关方向思考
焦点要闻:HTTP 状态码与课程总结
日本东电直播用核污水养鱼 海外网友直言:留着自己吃吧
环球热点评!旗舰级LCD护眼屏+120W独此一款!iQOO Z7发布:1599元
全球热议:6000mAh同档位续航无敌!iQOO Z7x发布:1299元起
便宜卡终于有了!好队友抢跑:RTX 4070/4060来也
9999元 AOC爱攻新款48寸显示器上架:4K OLED屏、138Hz高刷
当前快讯:死亡细胞将登陆Android端
环球快看点丨波动数列
瑞银收购瑞信意外“引爆”AT1债券市场 对冲基金不计成本抛售避险
【世界新视野】抗早泄药物盐酸达泊西汀国内正式上市:效果最好!订单超4000万元
天天通讯!1994《小美人鱼》vs2023《小美人鱼》对比图火了:5月上映 你会看吗?
焦点消息!LCD党最好的选择!iQOO Z7定制旗舰级LCD屏:超级护眼
今日热闻!神秘光点划过美国加州夜空 专家:或为日本太空垃圾
【世界新要闻】正式签约石墨烯之父 超威电池三大单品发布
世界今热点:Python+selenium安装
全球即时看!【财经分析】“降准”落地利好信用债阶段表现 中期仍需关注多因素扰动风险
网传凯迪拉克中控屏行驶中弹窗广告 车主:烦死了
热点!多益网络:前女高管们利用网络水军造假 导致公司损失5亿元
全球即时看!速干短袖+短裤:骆驼运动套装79元狂促(300元大额券)
戴森空气净化耳机首发体验:6699元图一乐?
美知名媒体曝特斯拉大量负面:自动驾驶测试作假
焦点速看:这些AIGC工具有趣且实用
abc294G
设计原则
观热点:也等你 [表白墙] 发布!
天天即时:泰格医药董事ZHUAN YIN累计减持7.6万股 减持期限届满
【独家焦点】债市日报:3月20日
每日看点!爆火情侣竟不是真人!新版Midjourney效果爆炸 网友:太可怕了
全球即时看!宏碁搞“副业”?推出电动自行车Acer ebii:110公里超长续航
男子2年未办理个税汇算 被查后补税加罚金近10万
世界资讯:梦想和高薪你会如何选择?00后女生10秒拒绝8家公司
Microsoft Project教程_编程入门自学教程_菜鸟教程-免费教程分享
环球热头条丨Source Generator-扩充原有代码
8个不能错过的程序员必备网站,惊艳到我了!!!
即时焦点:瑞信全面减记AT1债券影响扩大 日债收益率午后全线下挫
新动态:令人血压飙升!一SUV高速快车道停车致多车连撞:后果惨烈
【世界播资讯】毕业典礼学校安排学生在操场吃席:画面仪式感拉满
环球焦点!宁德一家利润超韩国三大厂商 韩系电池厂商绝望:高端低端都打不过
全球观热点:《黑暗荣耀》全剧出现119次韩语粗口:韩剧总是那么吵!
观点:腾讯发布2022研发大数据报告:内部研发人员占比高达74%
【MySQL】InnoDB vs MyISAM
etcd 租约、Watch功能、分布式锁的golang实践
天天资讯:【工作动态】以培训促提升——医疗机构药品器械管理规范培训会
全球今头条!农垦系统继续开展带头扩种大豆油料行动
环球观速讯丨终于!清华团队的ChatGPT发布:国人用起来相当友好
网红阿秋将离开香港继续骑行:被盗走的8000元自行车仍未找回
即时焦点:男孩雷克萨斯4S店内开动展车连撞两车 律师:家长、店方都有责任
语音+App远程操控!天猫精灵智能插座探底好价:两件34元
当前播报:韩国40出头新娘人数比20岁还多:初婚男女平均年龄均创新高
【世界新要闻】华为交换机查看配置命令的方法
全球快讯:关于国产项目Apache Kylin 发展历程及背后的那些事
今热点:概率与期望入门
环球最新:通过python3启动WEB的方法传输文件
世界聚焦:chrony客户端发送时间戳随机问题
每日热点:混凝土强度两倍!科学家发明火星建屋材料:太空尘埃、土豆淀粉制成
你觉得是谁?博主称某日系合资品牌即将退出国内市场
要闻:不废话 真低价!途虎养车2023轮胎节启动:几百元能买静音胎
对标ChatGPT!文心一言云服务来了:百度官宣3月27日上线
主场比赛姆巴佩两失单刀:梅西多次妙传被浪费
世界快消息!jvm相关知识
全球观焦点:易基因:DNA甲基化研究的3大前期探索性实验思路|干货系列
全球报道:光大证券:LPR还将继续保持平稳
环球精选!迪士尼回应游客排挤玲娜贝儿演员:将核实处理 网友吐槽饭圈行为
女子骑电动车导航跑上高架一路逆行:不知道不能上高架
sd卡根目录是什么意思?sd卡根目录在哪里打开?
惠普的驱动程序在哪个文件夹?惠普sd驱动怎么下载?
高能少年团许魏洲抱杨紫是哪一期?高能少年团第二季为什么少了两期?
周杰为哪部奥特曼作品中配过音?周杰个人资料和简历
厨师罗拉是哪里人?厨师罗拉个人资料简介
每日精选:汽车脚垫天花板!男子直接在车内铺瓷砖:耐磨还方便打理
【世界速看料】小伙求加薪被拒将老板工程车弃河:松离合跳车、致损失27万
全球微资讯!女子点螺蛳粉外卖吃出整根蚯蚓 商家称其想吃霸王餐
多车企疯狂大降价 德国媒体:中国车市从没这么卷过
天天观天下!特斯拉高速行驶中AP突然关闭 方向盘助力诡异消失
最新资讯:ChatGPT4高分通过数据库系统工程师(DBA)认证
天天速读:瓦斯琪尔的任务_瓦斯琪尔前置任务