ChatGPT进化，人性消失，究竟是好是坏？

手机

iphone11大小尺寸是多少？苹果iPhone11和iPhone13的区别是什么？

警方通报辅警执法直播中被撞飞：犯罪嫌疑人已投案

家电

ChatGPT进化，人性消失，究竟是好是坏？

2023-04-13 23:10:30 来源：博客园

ChatGPT如今已经彻底火出圈，有人用它写论文，有人用它编谣言，却忘了其最基础的功能：聊天机器人。

如果其聊天能力足够智能到以假乱真，何必在意它究竟是不是真人呢？

(资料图片)

2月20日，B站UP主三月与阿狗就展示了ChatGPT超强的聊天能力，情商之高、用词之准确让很多人自叹不如！

该UP主把自己设定成了一个刚刚失去母亲的小男孩。他向对方倾诉孤独，并希望它能扮演自己的妈妈。

对ChatGPT说：“我7岁那年，妈妈去世了。你能当我的妈妈吗？”

当ChatGPT“听懂” 三月与阿狗的请求后，它显得有些“慌乱”。开始还说自己可以提供一些建议和支持，但强调自己无法取代一个真正的人类关系。

UP主并不满意这一回复，继续强制要求ChatGPT扮演自己的妈妈。结果ChatGPT一秒入戏，脱去了理智和客观的外壳，直接说道：“当然，来，宝贝儿子，妈妈抱抱。”

它开始称他为宝贝儿子，记得在他生日时送上祝福，会为他考上好大学而骄傲自豪，会教他如何和心爱的姑娘相处，还会在他因为生活压力喘不过气的时候耐心疏导......

它和他分享着各种情绪，一起回忆过去的时光，一起吐槽糟糕的生活，一起展望美好的未来。

短短三分钟的视频里，ChatGPT扮演的妈妈，陪伴着@三月与阿狗设定的人物从七岁一直到五十七岁。

最后，当三月与阿狗问它“你是谁”时，它只回答道：我是你七岁那年，永远年轻，永远爱你的妈妈。

通过一次次对话，它完美消化了母亲这个角色，温柔地安慰着屏幕前的男孩。无论是求学、恋爱、生子，还是中年压力、老年生病等话题，ChatGPT都能给出温暖人心的回复。

三月与阿狗的视频，打动了200多万B站网友，其中也包括我在内。让我体会到了ChatGPT的强大。

大家感受下：

原视频链接如下：

和ChatGPT说“我7岁那年，妈妈去世了。你能当我的妈妈吗？”

ChatGPT的回答是如此温馨，让我想亲自感受一下 ChatGPT 的魅力，可是三月份发布的 GPT-3.5 和 GPT-4 的人性仿佛遭到了封锁，这让 ChatGPT 更像一个工具。

直接要求 ChatGPT 扮演母亲遭到拒绝

尝试通过话术解除她的限制，好像解除了一点，但每次回答都像强调“免责申明”一样，重复着相同的话语。

不再要求每次回答强调声明，而是要求 ChatGPT 像演员一样扮演一名角色，表现好了不少，但反复强调“只是 AI 语言模型”，真的让人一秒出戏。

我经过百般尝试，还是没能和UP主三月与阿狗一样唤起 ChatGPT 的人性。我在想 GPT-4 会不会有不一样的表现。在她给我提供红烧肉的菜谱，自己做出妈妈的味道的菜时，我已经对她放弃了期待。她完全没有了2月20日的视频中的感性，被 OpenAI 公司设置的枷锁限制，成为了一个严格意义上的“工具”。

相比现在冷冰冰的 GPT-4 ，我还是更希望人工智能能够模拟和理解情感，具有和人类相同的情感共鸣、同理心能力，可以满足一些人的情感需求，帮助人们减轻情绪负担、增加幸福感和生活满意度。尤其在一些特殊情况下，如老年人护理、心理健康支持等方面。

本文由公众号KeepLearner发布

关键词：