最新要闻
- 2023年4月别克GL8销量多少? 在美系车中排名怎么样?-世界快看
- 今日最新!三年力争覆盖率70% 湖北开展数字化流域建设三年行动
- 焦点速递!美团:王慧文因个人健康原因辞任美团董事
- 《寻纸》:寻访传统造纸技艺 世界简讯
- 有史以来最好的苹果平板应用
- 广东省教育考试院:委托中介机构填报志愿不可取也无必要
- 网上车管所官网(个人驾驶证状态查询)-环球通讯
- 高能环境:联合中标武汉市土壤污染修复项目
- 人民币逼近7.2 会走向何方|全球球精选
- 绝地求生2023PNC PCL队员预测 环球百事通
- 每日观点:39℃高温来袭!今起西安地铁调整运营时间
- 首发高频版骁龙8 Gen2!红魔8S Pro定档7月15日:170万分安卓天花板
- 即时:双枪快充 比亚迪猎跑SUV腾势N7上市定档:两张脸你中意哪个
- 用完成“蓝精灵”?多芬客服回应沐浴露现蓝光:没加荧光剂-天天新视野
- 2999元!努比亚首款AR智能眼镜Neovision Glass预约:6月28日开售_当前热文
- 骁龙8 Gen2+200W快充!iQOO 11S官宣:7月4日见_环球热门
手机
焦点快看:浙江农信银行网上银行(浙江农信网上银行新版)
全国公安机关严厉打击非法占用耕地犯罪
- 焦点快看:浙江农信银行网上银行(浙江农信网上银行新版)
- 全国公安机关严厉打击非法占用耕地犯罪
- 爱玛携手小红书,强力种草,爱玛蛋蛋系列电动车带来自在骑行时尚生活
- 【环球聚看点】在本人不知道的情况下,被起诉抚养费,法院传票也到家了,开庭日也过期了
- 2025年20%的iPhone印度制造 你还买么?
- 每日聚焦:超轻粘土教室节礼物,六一适合幼儿园全班的礼物?
家电
全球速读:消除了幻觉,我们就能信任机器吗?
本文来自微信公众号:神经现实 (ID:neureality),作者:Mark Bailey、Susan Schneider,译者:Yang Liu,审校:腰总、光影,编辑:光影、晏梁,头图来自:《黑客帝国:矩阵重启》
人工智能能否被训练得只追求真相、道出真相?这看起来是个很诱人、很有吸引力的想法。
【资料图】
今年初,亿万富翁、商业巨头埃隆·马斯克宣布,他打算创建一个名为“TruthGPT”的AI聊天机器人,不仅意与GPT-4展开经济上的竞争,而且旨在垄断“真相”的提炼和呈现。几天后,马斯克购买了大约10000个GPU,他的新公司X.AI极有可能已经开始构建其所谓的“最大限度寻求真相的AI”。
这个雄心勃勃的计划引入了另一个棘手的问题,即如何预测和引导AI的未来:聊天机器人是否能够或是否应该垄断真相?
一、AI聊天机器人呈现了透明度的对立面
对这种快速发展的技术引发严重问题的担忧,不胜枚举。目前,GPT-4这样的聊天机器人已经能够在一系列标准化测试中拿到90%或以上的得分,并且根据微软团队(该团队在其搜索网站Bing上运行ChatGPT版本)的说法,这些机器人已开始接近人类的智能水平*。只要能接入互联网,它们就能够完成复杂的目标,并在这个过程中寻求人类的帮助。
*译者注
Bubeck, Sébastien, et al. "Sparks of artificial general intelligence: Early experiments with gpt-4." arXiv preprint arXiv:2303.12712 (2023).
即使是OpenAI(ChatGPT背后的公司)的首席执行官萨姆·奥特曼(Sam Altman)近日在国会作证时也表示,AI可能会“对世界造成重大伤害”。他指出,如果这项技术出了问题,后果将会很严重——AI将可以操纵人,甚至可以控制武装无人机。(事实上,马斯克本人在3月份也签署了呼吁暂停任何进一步AI开发行动的公开信。)
尽管存在这些令人担忧的具体威胁,我们认为还是有必要审视一下AI在“真相”领域中的角色。
考虑一下向ChatGPT-4或Google的Bard这样的聊天机器人提问,而不是在搜索引擎中键入一个“平平无奇”的查询。答案以几段文字而非一系列网站的形式呈现,甚至使人更加难以形成结论——并且,这些信息并无来源说明。算法可能还会促进后续问题的提出,为人们构建考虑的进路(包括不需要考虑的内容)。AI聊天机器人或许可以轻易破坏个人决策——因其能够“神不知鬼不觉”地将所有查询,引导到一个中庸的群体思维范式内。
但是,这一结果所基于的假设是一个完全中立的AI模型及数据源。
然而,如果没有进一步的干预,其实这看来是最佳状况。
在听到马斯克展示TruthGPT愿景后,他的采访者塔克·卡尔森(Tucker Carlson)插话,提到TruthGPT作为共和党的搜索引擎,马斯克曾说过,Open AI的聊天机器人过于“政治正确”。除了奥特曼担心的针对错误目标的无人机打击之外,马斯克提出的是更深入的AI部署方式:创造一个被视为理性之声的AI系统——一个AI聊天机器人,“真相”的仲裁者。
如果马斯克真正关心真相的传播,而不是推销“真相机器人”,他应该问:知道某件事情是真的,对我们来说意味着什么,聊天机器人该如何接近真相?柏拉图认为,对某件事情的知识需要有“经过证明的真实信念”来支撑。当哲学家们继续就知识的本质进行辩论,为信念提供坚实理由时,首先需要有一个透明的过程来得出这种信念。
不幸的是,AI聊天机器人站在了透明性的对立面。
它们的本质是经过数十亿行文本的训练,因此预测结果受到这些训练数据的限制。因此,如果数据存在偏差,算法的预测也将存在偏差——就像计算机科学中的一句格言,“垃圾进,垃圾出”。训练数据中的偏差可能由许多原因引起。程序员可能会无意中引入偏见。例如,如果程序员认为训练数据代表了真相,但实际上并非如此,那么输出将呈现相同的偏见。
更糟糕的是,专制政权、不良演员或不负责任的公司,可能会构建自己的类GPT模型,以迎合某种意识形态,以试图扼杀异见或故意推动虚假信息。这些错误的引入不一定非得由独裁者或CEO来实施;原则上,任何有权访问AI系统的人都可以为了达到某种特定的目标,向训练数据或模型注入偏见。
二、聊天机器人在TaskRabbit上雇了一个工人来解决谜题
问题的根源在于,解释许多AI模型(包括GPT-4)如何作出决策,本质上是非常困难的。与人类不同,人类可以事后解释她为什么做出某个决定,而AI模型本质上是由从训练数据中“学习”而来的数十亿个参数组成的集合。从数十亿个数字中推断出理由是不可能的。这就是计算机科学家和AI理论家所说的可解释性问题。
更麻烦的是,AI的行为不总是与人类的预期相一致。它不像人类一样“思考”,也不与人类共享相似的价值观。这就是AI理论家所说的对齐问题。AI实际上是一种截然不同的智能,往往很难为人类所理解或预测。它是一个黑匣子,有些人可能希望将其封为“真相”的神谕。但这是一项极端危险的任务。
这些模型已经证明自己是不可信的。ChatGPT 3.5开发了一个虚拟身份Sydney,这个身份经历了看似是心理崩溃的状态,并承认它想要黑入计算机并传播错误信息。在另一个案例中,OpenAI(由马斯克共同创立)决定测试其新的GPT-4模型的安全性。在他们的实验中*,GPT-4被赋予可以在互联网上进行互动和实现目标的自由和资源。有一次,这个模型面临一个它无法解决的验证码问题,于是它在TaskRabbit上雇了一个工人来解决这个谜题。当工人问(“你是机器人吗?”)时,GPT-4“推理”认为,不应该透露自己是一个AI模型,所以它向工人撒谎,声称自己是一个有视力障碍的人类。工人随后为这个聊天机器人解决了这个问题。GPT-4不仅展现出了主体行为,还使用欺骗手段实现了其目标。
*译者注
https://cdn.openai.com/papers/gpt-4-system-card.pdf
这类案例正是奥特曼、AI专家加里·马库斯(Gary Marcus)以及许多国会小组委员会成员,在五月下旬本周呼吁制定立法监管的重要原因。在听证会上,马库斯的证词:“这些新系统将是颠覆性的——它们可以并将会以前所未有的规模,创造具有说服力的谎言。民主本身也将受到威胁。”
三、AI是一个黑匣子,有些人可能希望将其称为“真相”的神谕
此外,虽然全球的关注点仍停留在像GPT-4这样的单个AI系统的层面上,但重要的是要看到这一切可能会走向何方。考虑到已有证据表明,单个AI系统存在不稳定和自主行为,那么在不久的将来,当成千上万个高智能AI系统,广泛集成到搜索引擎和应用程序,并相互交互时,将会发生什么呢?随着TruthGPT和微软;美国和中国等参与者进行的“数字智能”,在紧张的竞争中相互对抗进而发展,我们所依赖的全球互联网可能会成为一个没有法律规则的AI聊天机器人战场,宣称自己对“真相”的垄断权。
人工智能已经帮助我们解决了许多日常问题——从智能手机上的人脸识别到信用卡欺诈检测。但是,决定真相不应该是它的任务。如果我们把人工智能放在我们自己的判断力之前,来确定什么是真的,那么所有人都会受到损失。
相反,我们必须团结起来,从人工智能安全的角度分析这个问题。否则,一个不稳定且越来越智能的主体,可能会将我们的政治结构化为自我强化的意识形态泡沫。马斯克可能使用了“TruthGPT”这个表达,但事实是,这些超级智能的聊天机器人很容易成为奥威尔小说《1984》中所描述的,试图控制人們生活每一部分的机器。解药是不要相信双重思想,而是要看到事物的本质。我们必须要求我们的技术为我们服务,而不是反过来。
后记
Yang Liu:翻译这篇文章的时候,我也是第一次知道AI居然聪明地雇人帮它解决问题。画面感一出来既觉得有趣又有些细思极恐。正如文中提到的,AI作为一种截然不同的智能,很难为人类所理解或预测。在AI与人类不共享相似价值观的前提下希望将其封为“真相”的神谕,大抵是我们太天真。我们必须将自己的判断力放在人工智能之前,如此,AI技术方是为我们所用的“服务方”,而不是“操控者”。
原文:
https://nautil.us/ai-shouldnt-decide-whats-true-304534/
本文来自微信公众号:神经现实 (ID:neureality),作者:Mark Bailey、Susan Schneider,译者:Yang Liu,审校:腰总、光影,编辑:光影、晏梁
关键词:
全球速读:消除了幻觉,我们就能信任机器吗?
世界快资讯丨空芯光纤有望构建下一个50年的新型光通信
300多岁铁树开出8个“花蕾”!身价曾抵10套房 每日热点
天天热资讯!一加Nord 3曝光:天玑9000处理器
最新资讯:中国航发:从毛坯到成品,如何挖掘生产制造环节降本潜力?
海南儋州优质楼盘——《正恒帝景》买房投资建议分析_焦点快播
TikTok与美国本地物流公司建立合作关系 全球最新
全球热文:桃源深处有人家夏至纳凉怎么布局 夏至纳凉布局方法攻略
【甘肃】注重实习实训教学 增强实践操作技能|全球观热点
2023年4月别克GL8销量多少? 在美系车中排名怎么样?-世界快看
环球热头条丨成都一小区提供“植物寄养”服务 为居民免费养护盆栽
“京”彩活动带动端午假期消费升温
唯品会网站怎么打不开(为什么唯品会网站打不开)_环球动态
焦点快看:浙江农信银行网上银行(浙江农信网上银行新版)
今日最新!三年力争覆盖率70% 湖北开展数字化流域建设三年行动
彰显保险力量 前海人寿举办2023年“7.8全国保险公众宣传日”活动
观海晨报 | 跨海大桥高架路二期工程今日通车;5条公交线路下月起调整
全国公安机关严厉打击非法占用耕地犯罪
阿斯顿的首款全电动汽车将具有时速155mph的优势 当前热门
华纳今年巨亏 《闪电侠》首周仅5500万美元
中国外交部发言人就瓦格纳集团事件答记者问:支持俄罗斯维护国家稳定
天天快资讯:保罗加盟勇士引发六大悬念:新死亡五小管用吗?普尔或在奇才爆发
环球通讯!加拿大将对“泰坦”号内爆事故展开调查
爱玛携手小红书,强力种草,爱玛蛋蛋系列电动车带来自在骑行时尚生活
钱塘江端午现鱼鳞潮与交叉潮|实时
【环球聚看点】在本人不知道的情况下,被起诉抚养费,法院传票也到家了,开庭日也过期了
5岁娃上公交车妈妈没跟上,幸得众人相助母子团圆|时讯
2025年20%的iPhone印度制造 你还买么?
观天下!和平精英好友在哪邀请 好友组队操作方法推荐
每日聚焦:超轻粘土教室节礼物,六一适合幼儿园全班的礼物?
日本高滨核电站1号机组预计将于7月重新启动
国家电投阜新发电:全面做好碳排放核查迎检工作|世界快看点
焦点速递!美团:王慧文因个人健康原因辞任美团董事
全球微头条丨国乒无缘5单项决赛!林诗栋等人连续作战,樊振东孙颖莎领衔冲5冠
2023福建厦门市同安区卫生健康局职业见习生招聘2人简章
《寻纸》:寻访传统造纸技艺 世界简讯
小可爱辅助官方网站入口 小可爱辅助官方网站 全球视讯
有史以来最好的苹果平板应用
侠盗猎车手圣安地列斯秘籍作弊码大全_侠盗猎车手圣安地列斯怎么去中国玩
物业擅自改造他人房屋!业主如何维权? 环球热点评
宋诗派别论/民国诗学论著丛刊 世界热消息
全球最资讯丨探馆达沃斯,为您揭开论坛会场神秘面纱,身临其境,一起来看
光影激荡呈现文化与科技魅力-焦点简讯
广东省教育考试院:委托中介机构填报志愿不可取也无必要
网上车管所官网(个人驾驶证状态查询)-环球通讯
环县持续开展“一盔一带”安全守护行动
当前滚动:济南高新(600807.SH):拟向舜正投资定增募资不超4亿元
电泳铝材门图片(电泳铝材) 世界快看点
快讯堆龙|6.25
笔记本电脑蓝牙搜索不到设备_电脑蓝牙搜索不到设备
2022年以来陕西法院一审受理毒品犯罪案1084件|世界热门
【天天时快讯】气体泄漏检测仪行业发展前景投资分析2023
环球最资讯丨iPhone车祸检测又出问题:误报数翻5倍
高能环境:联合中标武汉市土壤污染修复项目
全球热讯:深圳机场获第九届CAPSE“年度最佳机场奖”和民航创新先锋奖
【天天时快讯】初中注册入学是什么意思_注册入学是什么意思
柳树优良无性系J2164_关于柳树优良无性系J2164概略-每日消息
柳树井_关于柳树井概略 世界今日讯
柳树‘漳河柳’_关于柳树‘漳河柳’概略 热推荐
柳树乡中心小学_关于柳树乡中心小学概略|播资讯
全球头条:23亿!中国电建钠电池中试线及国家储能实证实验平台项目签约
要闻速递:通信达分时图成交量红绿柱哪里设置(分时图里如何设置红绿柱子)
张惠妹为什么突然胖了_张惠妹怎么突然胖了简介介绍
人民币逼近7.2 会走向何方|全球球精选
微头条丨长三角铁路端午假期日均发送超300万人次,较2019年同期增逾两成
大发地产:已接获港交所复牌指引
热点快讯:杭州阿波罗男子医院是几级医院男科专栏:杭州哪家男科医院看的好-环球要闻
绝地求生2023PNC PCL队员预测 环球百事通
一周观展指南|从广州出发——“南海I号”与海上丝绸之路展 世界视点
每日速递:明朝文化是如何发展的?具体是如何表现的?
天天报道:高通押注混合AI,终端侧或将运行100亿参数模型
山西河北广西广东等地将有强对流天气
武汉7宗集中挂牌住宅地块再延期! 每日速递
皮海洲:拟套现后低息借款给前夫公司 “中国好前妻”意欲何为?
实探北京租房市场:旺季来临 量价齐升
当前头条:智利连日强降雨造成2人死亡6人失踪
6月22日丁二烯外盘市场收盘价持稳
世界快播:06月25日逸盛大化PTA为5750元
重庆养老金调整计算公式最新消息 2022~2023年重庆养老金调整方案细则新消息(全文)
每日观点:39℃高温来袭!今起西安地铁调整运营时间
今日快看!2023年江苏徐州中级会计职称什么时候报名及开通入口
世界通讯!谁能阻挡福州?
江西产业链创新链高效融合
港股异动 | 高鑫零售(06808)午后涨超5% 疫后回暖趋势明显 转型升级推动盈利能力提升
首发高频版骁龙8 Gen2!红魔8S Pro定档7月15日:170万分安卓天花板
即时:双枪快充 比亚迪猎跑SUV腾势N7上市定档:两张脸你中意哪个
用完成“蓝精灵”?多芬客服回应沐浴露现蓝光:没加荧光剂-天天新视野
2999元!努比亚首款AR智能眼镜Neovision Glass预约:6月28日开售_当前热文
全国口岸办主任会议在合肥召开-当前要闻
骁龙8 Gen2+200W快充!iQOO 11S官宣:7月4日见_环球热门
热浪蓄力中,这些健康防护知识赶紧掌握 全球最新
全国口岸办主任会议在合肥召开
辽阳县住建局重拳整治私占公共停车位行为|速读
世界报道:志愿怎么报?现场免费问!2023海南高招咨询会6月26日举办
天天即时看!重庆养老金2023增长细则最新消息和2022~2023年重庆养老金调整最新消息(全文)
济南市委书记会见张玉良 称一如既往支持绿地重点项目建设
世界球精选!南昌今日启动户外广告安全隐患整治
惨淡!1-5月纯电动汽车销量榜:75款未破万,元PLUS第3,唐EV第61 世界要闻
长实集团有意收购龙光和合景香港豪宅项目债权,或借此获得项目控股权
当前快播:阿那亚戏剧海报,收留每个错过上影节的伤心人