耶夫根尼·莫洛佐夫:人工智能的真正威胁是什么?

手机

一颗芯片想要上车，比你想象的更难！

萧山老年电视大学老来乐教学点授牌成立

家电

耶夫根尼·莫洛佐夫:人工智能的真正威胁是什么?

2023-08-16 00:48:49 来源：个人图书馆-新用户8911GAuB

[文/耶夫根尼·莫洛佐夫译/马力]

今年5月，350多名技术高管、研发人员和学术专家共同签署了一份声明，警告称人工智能技术将给人类带来生存威胁。签署者们警告说：“降低人工智能带来的灭绝风险应与瘟疫、核战，以及其他大型社会风险一起成为全球优先事项。”

此前，埃隆·马斯克（ElonMusk）和苹果公司联合创始人史蒂夫·沃兹尼亚克（SteveWozniak）等人签署了一封备受瞩目的公开信。他们在信中呼吁，人类应暂停开发高级人工智能系统六个月。

【资料图】

与此同时，拜登政府敦促开展负责任的人工智能创新（responsibleA.I.innovation），提出“为了抓住人工智能技术所带来的机遇，必须首先进行风险管理。”在国会上，参议员查克·舒默（ChuckSchumer）呼吁就人工智能技术的潜力和风险召开“首次”听证会，为行业高管、专家学者、民权人士和其他利益相关者提供速成课程。

人们对人工智能技术的焦虑日益严重，这不是出于对那些乏味但可靠的技术的担忧——输入法的自动联想或者吸尘机器人躲避障碍物并不会让人们如此忧虑。在专家们看来，通用人工智能（ArtificialGeneralIntelligence,AGI）的崛起才是最大的问题。

目前，通用人工智能还没有出现，但一些人认为，美国人工智能公司OpenAI旗下ChatGPT迅速发展的能力表明，距离这种技术的出现已经近在咫尺。OpenAI的联合创始人萨姆·奥特曼（SamAltman）将其描述为“整体而言比人类更聪明的系统”。研发这种系统是一项艰巨的任务（也有人说是不可能完成的任务），不过其中的利益也极其诱人。

想象一下，Roombas（美国著名机器人公司iRobot的旗舰产品）不再只是自动吸尘器，而是进化为全能机器人，甚至可以在未被编程的情况下就在早上为你煮好咖啡或熨好衣服。

这听起来的确很有吸引力。但是，如果这些全能机器人变得过于强大，它们背负着“创造一个一尘不染的乌托邦”的任务，就会给到处散播灰尘的主人（也就是人类）造成很大困扰。至少我们曾经相处得还不错。

关于通用人工智能的讨论往往充斥着这样世界末日般的场景描绘。然而一个由学者、投资人和企业家组成的新兴通用人工智能游说团体反驳说，一旦通用人工智能的安全性得到保证，它将为人类文明带来福音。萨姆·奥特曼作为这次活动的代言人，已经开始了全球巡回演讲，以说服立法者们。他在今年早些时候写道，通用人工智能甚至可以加速经济发展，推动科学技术进步，并“通过增加财富来提高人类素质”。

这就是为什么，即使忧心忡忡，还是有许多科技行业的聪明人在努力开发这种备受争议的技术：不用它来拯救世界似乎已经变得不道德了。

他们普遍受到一种观点的影响，即这项新技术的出现是不可避免的，而且当该技术变得安全时，将惠及全人类。支持者们认为通用人工智能是弥补人性缺点、提升人类智慧的最佳方案。

但这种观点（姑且称之为“通用人工智能主义”）搞错了。通用人工智能的真正风险在于政治方面，而这个问题是无法通过平定机器人起义来解决的。即便是最安全的人工智能，也无法向游说组织承诺的那样，提供进步的灵丹妙药。而且，把该技术的出现说成是不可避免的，分散了人们寻找更完善的人工智能技术的注意力。

通用人工智能的拥护者们并不知道，“通用人工智能主义”只是一种更宏大的意识形态的“私生子”。关于这种意识形态，英国前首相玛格丽特·撒切尔（MargaretThatcher）夫人曾有一个著名的说法：人类除了拥抱市场，别无选择（Thereisnoalternative）。

与其说通用人工智能——或者至少是急于建立通用人工智能的行为——会像奥特曼先生暗示的那样，伤害资本主义，不如说它更有可能为新自由主义——资本主义最具破坏性的信条——创造出一个强大的（而且更时髦的）盟友。

新自由主义的理念家们为私有化、市场竞争和自由贸易着迷，希望通过市场经济和放松管制来推动并改造停滞不前的、劳动力友好型经济。

他们这样做，的确带来了一些转变，但代价也是巨大的。多年来，新自由主义受到了许多批评。人们认为经济大衰退、金融危机、特朗普主义、英国脱欧和其他许多问题都是新自由主义引发的结果。

这样看来，拜登政府与这种意识形态保持距离，并承认市场有时会出错，也就不足为奇了。一些基金会、智库和学术界人士甚至已经为后新自由主义（post-neoliberal）的前景作出了设想。

然而，新自由主义还远未消亡。更糟糕的是，它在“通用人工智能主义”的崛起中找到了盟友，后者也持有甚至更加强调新自由主义的某些主要偏激观点，即私人行为者的表现要优于公共行为者的表现（市场偏见），与其改变现实不如适应现实（适应偏见），提高效率比回应社会关切更加重要（效率偏见）。

这些偏见完全颠覆了通用人工智能背后诱人的前景：人们为研发技术所付出的努力非但没有拯救世界，反而只会让这个世界变得更糟。接下来我将解释为什么。

通用人工智能永远无法克服市场对利润的渴望。

还记得优步（Uber）曾以低廉的价格吸引众多城市将自己纳入公共交通系统吗？最初一切都很美好，优步承诺，未来将实现自动驾驶和最低劳动力成本，提供难以置信的廉价乘车服务。财大气粗的投资者看好这一愿景，甚至愿意承担优步数十亿美元的亏损。但现实情况是，自动驾驶技术迟迟无法落地。投资者们需要回报，于是优步被迫提高价格。而指望通过优步来代替公交车和火车的用户被丢弃在一边。

关键词：