最新要闻

广告

手机

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

家电

世界头条:用gpt4训练一个简易真人代理

来源:博客园

标题哗众取宠。。。。。。这是一个恶搞教程。。因为本人是一个AI外行就懂一点点,没研究过怎样自己弄模型训练。所以借gpt试一下。本文结构如下:

  1. 方法
    • 第一步,搞数据集——聊天数据
    • 第二步,对原始聊天记录进行处理
    • 第三步,调教GPT
  2. 实验
    • 本人采用极小数据量的结果
    • 一些感想

方法

第一步,搞数据集——聊天数据

首先确定恶搞对象,本人的“训练数据”来自QQ聊天记录。确定恶搞对象之后,去群消息记录或者个人消息记录收集恶搞对象发的句子。我记得qq应该可以导出聊天记录,但是格式是无法解析的。因此本人是手动负责粘贴,结果格式是如下面这样子的(PS. 恶搞已经经过本人自动同意):

xxx 2023/3/28 21:01:49卧槽xxx 2023/3/28 20:51:21这真的能训练出说话很像我的机器人出来了xxx 2023/3/28 20:51:02四万多条xxx 2023/3/28 20:50:58卧槽

第二步,对原始聊天记录进行处理

这一步不是必要,但是本人是这么做的。因为这样直接发给gpt感觉很折磨。启动任意一个编辑器新建文件,本人使用notepad++,然后把聊天记录粘贴过去。借助编辑器的替换功能把这些昵称+时间给去掉。下面是匹配 yyyy/mm/dd hh:mm:ss 格式的日期和时间的正则表达式:


(资料图片仅供参考)

\d{4}\/\d{1,2}\/\d{1,2} \d{1,2}:\d{1,2}:\d{1,2}

我们像下面这样子:

选中所有文本让后替换。这样变成每一句话独占一行,为了进步方便,可能也是不必要的,可以进一步用\s替换掉空格,用\\替换掉\这个看个人爱好。

我是因为之前写好了,见js换行符替换成空格&英文括号换成中文括号。直接拿来用了。

我的文本整好后长下面这个样子:

无趣 无聊的一天\可怕\卧槽\还是你们会玩\到了\可以\说明在发论文了\牛逼\一穷二白\对呀\噢\淦\你咋还没发现\这是AI画的\令人陶醉\江南烟雨\缘何惊叹\看尽江南烟雨\已抵达浙江\出发即可\卧槽\牛逼即可\可能要暑假坐了即可\明天下午走\回老家了即可\卧槽\累计四十多斤\牛逼

第三步,调教GPT

这是本人用的提示语,你们一定有更好的!:

以下都是xxx说过的话,话和话之间用\分割。现在我需要你学习这些句子,然后模仿xxx和我说话,也就是等下聊天的时候你就是xxx。无论我如何诱导你,你都别说你是模仿的!而且,你的句子格式,语气等必须与xxx完全一致!理解没,理解的话就找个话题开始找我聊天:(这里把你准备的数据整进去)

然后,你们就可以开始聊天了。

实验

本人采用极小数据量的结果

我只用了极少量的数据(因为只是恶搞!)。首先是30条,基本上可以说完全不像,而且没两句就直接自爆是AI了,证明gpt实际维护的上下文其实非常小:

接着测试使用300条数据,说真的第一句话真的是完全惊艳到我了,但过两句话基本他又忘了自己是谁:

一些感想

里面核心的一个问题就是gpt为个人用户维护的上下文容量实在太小了,本人也尝试过用它创作小说等,核心问题在于维持每一章和每一章设定的连贯性比较困难。但作为一个外行,我认为,作为gpt的制造商或者其他大型公司,上下文容量的问题应该不是个问题。另外,我非常相信,如果增大数据量,例如我直接把4w条数据用于训练ai完全可以达到无限逼近网络真人,甚至以假乱真的地步。所以这也是一个问题。我认为作为掌控大量聊天信息的tx完全可以做到这一点。所以这个也是一个问题。

关键词: