最新要闻
- 环球观察:《庆余年2》又新增七位女角色,金晨出演叶灵儿
- 赛力斯SERES 5出海欧洲市场:德国不限速高速飙到225Km/h
- 颜值超高碾压一众国产!长安启源A07路试:上市就打比亚迪汉
- 宝马5系首获半自动驾驶认证:变道只需看眼后视镜|世界短讯
- 100元记3分!杭州对“加塞”司机开罚 网友:请全国推广 消息
- 广东荔枝价格跌至5年来最低:仅需3、4元一斤
- 街拍,游走在法律和道德边缘
- 世界观热点:6月20日 11:03分 迈普医学(301033)股价快速拉升
- 日系还香吗?新一代本田皓影混动/插混上市:19.99万起要打比亚迪_世界报资讯
- 16.5亿打造!《封神三部曲》第一部7月20上映:预告片发布
- 全脂/低脂可选:特仑苏纯牛奶2.7元/盒大促(商超6元)
- 世界快看点丨微软明确不会涉足VR:市场实在太小
- 红魔8S Pro首发高频版骁龙8 Gen2!170万跑分比骁龙8 Gen3还猛 焦点速讯
- 【全球新要闻】对在建工程“全面体检”
- 最资讯丨失乐园电影迅雷下载 失乐园电影未删减版迅雷下载
- 债市相对更强,股市估值处相对低位-焦点速递
手机
iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?
- 警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案
- 男子被关545天申国赔:获赔18万多 驳回精神抚慰金
- 3天内26名本土感染者,辽宁确诊人数已超安徽
- 广西柳州一男子因纠纷杀害三人后自首
- 洱海坠机4名机组人员被批准为烈士 数千干部群众悼念
家电
ChatGPT 初探 - 冰蓝老师 天天微头条
今天分享《ChatGPT 初探》这门课程分为四个部分:ChatGPT 的简介、原理、技巧和 API 。
简介
第一部分,首先说下 ChatGPT 的含义,ChatGPT 是 Chat Generative Pretrained Transformer 的缩写,中文名是聊天生成式预训练转换器。其是由 OpenAI 在 2022 年 11 月发布的大规模语言模型(LLM, Large Language Model),采用了监督和增强学习(Supervised and Reinforcement Learning)方法进行微调(fine-tuned)。
由于 ChatGPT 相对于之前的产品效果有巨大的提升,因此在其面世以来大受欢迎,并引发了新一轮大规模语言模型的热潮。ChatGPT 可以对自然语言输入,也就是提示(prompt),进行理解并作出回应。由于提示的质量(Quality of Prompt)是 ChatGPT 会话成功的关键因素,从而衍生出了 Prompt 工程。其实,Prompt 工程已经是一门成熟的技术,虽然 ChatGPT 是 2022 年底提出来的,但 Prompt工程技术早已存在,在网上还存在着售卖 Prompt 网站(如 PromptBase),也有 Prompt 综述论文(如 Pengfei Liu, Weizhe Yuan et al. Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing. 2021)。
(资料图片仅供参考)
这里重点介绍下 AI hallucination,也就是人工智能幻觉。与人类幻觉(human hallucination)相比,人类幻觉更多的是一种错觉,比如把筷子放在水里,发现筷子弯了,这是迷惑眼睛的一种现象,实际上,筷子没有弯曲。而 AI 幻觉(Artificial Intelligence hallucination)可以说是,AI 在一本正经的胡诌。这里,我举两个比较著名的例子,一个是 OpenAI ChatGPT 例子,据纽约时报(New York Times)报道,这事情发生在今年 5 月份,纽约两个律师使用 ChatGPT 生成相关案例文件,并把这些案例提交到法院,而这些由 ChatGPT 生成的案例都虚构的,后果也是很严重的,这两个律师会受到法律制裁,甚至可能会吊销其律师执照;另一个是 Google AI chatbot - Bard 例子,据 The Verge 新闻报道,在 Google 在 2023 年 2 月发布的 AI 聊天机器人 Bard 的 demo 中出现了事实性错误(factual error),这个错误最早是由天文学家发现并提出的。具体的 demo,如下图所示
从上图中,可以看到,对 "What new discoveries from the James Webb Space Telescope can I tell my 9 year old about?" 问题的回应中,第 3 条 "JWST took the very first pictures of a planet outside of our own solar system." 是一个事实性错误,詹姆斯韦伯太空望远镜(James Webb Space Telescope, JWST)并没有首次拍摄到太阳系外的星球,JWST 是在 2021 年发射升空的,而早在 2004 年美国航空局(National Aeronautics and Space Administration, NASA)网站就发布太阳系外的星球照片。而 Google 作为有史以来最伟大的公司之一,对此事的应对是值得赞赏的。Google 保留了原始的 Bard 发布演示 demo,直面问题,其发言人 Jane Park 向 The Verge 声明,“这凸显了严格测试过程的重要性,本周我们将通过受信任的测试人员计划启动这个过程。我们将外部反馈和我们自己的内部测试相结合,确保 Bard 的回答在质量、安全性和真实信息的基础性方面达到高标准。”(“This highlights the importance of a rigorous testing process, something that we’re kicking off this week with our Trusted Tester program. We’ll combine external feedback with our own internal testing to make sure Bard’s responses meet a high bar for quality, safety and groundedness in real-world information.”)
OpenAI ChatGPT 目前已经应用到各行各业,如客户服务(Customer service)、教育(Education)、信息提供(Information provision)、私人助理(Personal assistant)、社交(Social interaction),尤其是娱乐产业(Entertainment industry)。
原理
第二部分,介绍下 ChatGPT 的原理,也就是如何得到 ChatGPT 的。具体过程,如下图所示,该图来自 OpenAI 研究员 Andrej Karpathy 在微软 Build 2023 大会 PPT。
从图中可以看出,ChatGPT 的训练过程分为 4 个阶段:预训练(Pretraining)、监督微调(Supervised Finetuning)、奖励建模(Reward Modeling)和增强学习(Reinforcement Learning)。由于预训练的数据量达到万亿级别,所以需要的 GPU 较多,超过一千,花费数月时间,占了训练时间的大半部分。
技巧
第三部分,介绍 Prompt 技巧,以此创建有效的 ChatGPT prompts ,推动吸引人的且信息丰富的会话。下面介绍一些有效的 prompts 的关键原则(key principles),这些原则的前提是你希望从 ChatGPT 获取有用信息。如果你只是想要闲聊、侃侃大山,就没有必要使用这些原则。Good Prompts 的关键原则如下:
- 清晰(Clarity),改进 ChatGPT 对 Prompt 的理解;
- 聚焦(Focus),聚焦主题,避免 Prompt 太泛,或过于开放;
- 相关(Relevance),与 ChatGPT 对话主题相关,从而更高效地从 ChatGPT 获取信息;
下图所展示的是,一些有效的 Prompt 和无效的 Prompt 例子。
有效的 prompts,如对文章要点的总结、巴黎最好的素食餐厅、中国的首都在哪里,等等;
无效的prompts,如告诉我关于整个世界的一些事情、 可以帮我做作业吗、你怎么样了,等等;
有些 prompts,可能是无效的,也可能是有效的,关键看你与 ChatGPT 对话的目的是什么。比如询问天气,如果你只是想知道具体的天气情况,那么这个 prompt 就是有效的;如果你只是把其当做一个开场白的话,那就是无效的,你没有从中获取到有效信息。
提示技巧(Prompt Tips)
- 开始对话前,明确对话的目标或目的(clear goal or purpose);
- 使用具体的、针对性的问题(specific, targeted questions),而不是开放性的(open-ended);
- 避免单独一条 Prompt 中避免包含过多信息;
- 使用明确的、简明的语言(clear, concise language),而不是行话(jargon)或有歧义的语言(ambiguous language);
- 使用过渡短语顺利地从一个主题转移到另一个;
- 使用"act as" hack帮助 ChatGPT 理解对话中的角色;
- 注意 ChatGPT 的能力(capabilities)和限制(limitations);
- 测试并调试你的提示以确保它们是有效的(effective);
总而言之,制作清晰的、简洁的 prompts 以提供 ChatGPT 必要的上下文信息(context)、指令(instructions)和限制(constraints)。
更多例子,如下图所示
下面看看 ChatGPT 的回答
API
最后一部分,介绍 OpenAI API的申请和测试。OpenAI 平台提供 API 用于构建应用或者 ChatGPT 插件。申请 OpenAI API 需要准备三件套:VPN(Virtual Private Network, 虚拟专用网)、Google GMail 邮箱账号和国外手机(接收验证码,可用接码平台代替)。测试 OpenAI API 可以采用两种方式:curl 命令和 Python 代码。这里的测试希望完成一个简单的任务,让OpenAI ChatGPT 输出 "This is a test!"。
具体的 curl 命令,如下所示:
curl --http1.1 https://api.openai.com/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -d "{ "model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Say this is a test!"}] }"
具体的 Python 代码,如下所示:
import osimport openaiopenai.api_key = os.getenv("OPENAI_API_KEY")completion = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role":"user", "content":"Say \ this is a test!"} ] )print(completion.choices[0].message.content)
更多解释说明,参见我的博文 “OpenAI API keys 申请和测试小结”。
参考资料
[1]The Art of ChatGPT Prompting: A Guide to Crafting Clear and Effective Prompts.https://wethinkapp.medium.com/the-art-of-chatgpt-prompting-a-guide-to-crafting-clear-and-effective-prompts-1dfc2589295b[2]盘点8大网络新文体:生活体、甄嬛体等流行.http://www.xinhuanet.com/politics/2012-12/20/c_124121991.htm
关键词:
-
全球头条:maven构建报错:Unable to load the mojo 'install' (or one of its required compone
项目在执行mavencleaninstall时,报错:Failedtoexecutegoalorg apache
来源: ChatGPT 初探 - 冰蓝老师 天天微头条
天天新资讯:线性结构中的栈、队列和串是怎么回事?
当前看点!如何将PCM格式的原始音频采样数据编码为MP3格式或AAC格式的音频文件?
全球头条:maven构建报错:Unable to load the mojo 'install' (or one of its required compone
每日聚焦:“降息”靴子落地!
环球观察:《庆余年2》又新增七位女角色,金晨出演叶灵儿
赛力斯SERES 5出海欧洲市场:德国不限速高速飙到225Km/h
颜值超高碾压一众国产!长安启源A07路试:上市就打比亚迪汉
宝马5系首获半自动驾驶认证:变道只需看眼后视镜|世界短讯
100元记3分!杭州对“加塞”司机开罚 网友:请全国推广 消息
广东荔枝价格跌至5年来最低:仅需3、4元一斤
街拍,游走在法律和道德边缘
CSS3有哪些新特性_全球最资讯
全球即时看!数据库三大范式(考试必备)
世界要闻:使用 JMX-Exporter 监控 Kafka 和 Zookeeper
A Practical Methodology, HSM, Handler,Service,Model, for Golang Backend Developm
【环球聚看点】直播源码搭建技术弹幕消息功能的实现
世界观热点:6月20日 11:03分 迈普医学(301033)股价快速拉升
日系还香吗?新一代本田皓影混动/插混上市:19.99万起要打比亚迪_世界报资讯
16.5亿打造!《封神三部曲》第一部7月20上映:预告片发布
全脂/低脂可选:特仑苏纯牛奶2.7元/盒大促(商超6元)
世界快看点丨微软明确不会涉足VR:市场实在太小
红魔8S Pro首发高频版骁龙8 Gen2!170万跑分比骁龙8 Gen3还猛 焦点速讯
【全球新要闻】对在建工程“全面体检”
全球新资讯:关于线性结构中的双向链表如何实现?
NCalc 学习笔记 (六)|天天观热点
也说一说IDEA热部署Web项目最终解决方案,确实大大提高工作效率
每日视点!详解在 Linux 启动时,如何自动执行命令或脚本
最资讯丨失乐园电影迅雷下载 失乐园电影未删减版迅雷下载
债市相对更强,股市估值处相对低位-焦点速递
墓地无人汽车探测到“鬼影”!真相到底是什么?
上海双层敞篷观光巴士将永久退役:已达13年强制报废标准 后继无车
首创双枪充电遥遥领先!比亚迪腾势N7首批量产车下线
高考过后 多所知名大学校长纷纷出镜招生|全球短讯
新买不到一个月特斯拉充电冒烟爆炸 女车主:很失望 产生心理阴影_天天动态
世界观点:菲律宾多方人士反对日本强推核污染水排海:不要污染我们的海洋
springboot~http请求头中如何放中文 当前快报
“泰坦尼克”号残骸观光潜艇氧气仅剩96小时 美加部署飞机搜寻
“全球第一吊”挑战191米最大陆上风力发电机 仅17分钟升至40层楼高
每日短讯:男子长城藏时间胶囊12年多人留纸条 网友直呼奇妙交流:很浪漫
屏摄电影被男子怒斥 影院称屏摄会对胶片有损伤 网友质疑:侮辱智商?-速讯
每日热门:美系开卷国产电动车!别克中大型轿跑E4上市:18.99万起
今日阵雨叨扰,周三周四阳光又将登场,抓紧洗晒! 环球热消息
【读财报】券商资管基金透视:财通、国泰君安资管年内收益领跑 中银证券业绩垫底 视讯
水电大省遭遇“水荒” 四川云南5月水电仍在下降
全球首例!杭州医生用5G帮5000公里外的新疆病人切除肝脏 画面网友惊叹
海口一特斯拉撞飞小车致一死一伤 现场视频被撞车360度旋转、有孩子被甩出-天天时快讯
电瓶车室内充电爆炸 墙都裂了 轮椅老人被吓得拔腿就跑 全球时讯
自救失败!“海航系”公司退市…
读发布!设计与部署稳定的分布式系统(第2版)笔记06_用户_世界观焦点
信息:手机可拆卸电池即将回归:利大于弊 别再被苹果牵着走
环球热资讯!回忆杀!高圆圆晒与贾静雯私照 梦回《倚天屠龙记》周芷若和赵敏
今日看点:早泄能治好吗?
100个物联网项目(基于ESP32)2快速入门
【linux命令】“瑞士军刀”nc的用法简介-天天关注
STL
马云指出淘宝天猫未来三个方向:回归淘宝、回归用户、回归互联网
花了1330万 还有600万只:巴黎向老鼠投降了 要“同居”_全球热点
冷清的618 焦虑的手机厂商:未来只能靠苹果创新了?
跳桥救人小哥引来女网友公开示爱:网友警告切勿炒作 世界热点评
中国男足亚运队1-0胜韩国U24队:孙沁涵抽射建功
美国能单挑全世界吗(美国军力全球第一敢于与世界敌么)
观焦点:登陆百度网盘错误 1550017 百度云同步盘登录失败155010
趋之若鹜的鹜什么意思_趋之若鹜
《王者荣耀》发布S32赛季漂泊之剑预告PV 两款战令皮肤奖励公布
韩国首尔教育厅将对学校供餐用水产品进行全面辐射检测 旨在保证食品安全
微信上线“安静模式” 专为有听力障碍的人创造更好的环境
《庆余年2》公布喜相逢版角色海报 增加一些重要新人物
JUC同步锁原理源码解析五----Phaser 今日热搜
ASP.NET Core MVC 从入门到精通之日志管理_世界热闻
计算几何之两条线段的交点|世界时快讯
看点:博客项目01
“狗狗嫌天热自己坐电梯回家”登上热搜 主人急里忙慌寻找
炒菜用什么油好?
车企卖衣服 不务正业? 焦点信息
微软Win11处理器要求变动:AMD、英特尔一大波新U加入支持
InnoDB 缓冲池
天天资讯:俄罗斯天然气工业银行拟参与无担保人民币债券市场
做小吃前途如何?惠记粉汤羊血加盟开店,开哪儿都火!
天天短讯!特斯拉车祸后复出 演员林志颖首次现身内地商演
专家称年轻人撑不起车市:中老年人才有足够能力拉动市场|视讯
今日精选:予以的拼音(予以)
【财经分析】数据赋能城市升级——2023中国资源型老工业城市转型发展指数研讨会在北京举办
每天喝咖啡的人 20年后都怎么样了?三大好处、三大不要 焦点精选
2024年见 龙芯也要做显卡了:IP设计已完成 还在优化
冷知识!大熊猫近视高达800度:只能看清几米之内物体 看热讯
索尼粉丝迷惑行为:请愿Xbox第一方游戏《星空》成PS5独占
开票!2023年安阳首场演唱会等你来抢!附购票入口
Liunx nginx服务|环球要闻
Manacher算法学习笔记
世界最新:799元价格屠夫!小米电视把国外品牌全打趴了
外来生物美国珍珠鳖被放生太湖:围观者欢呼雀跃|世界简讯
天天热讯:Mate发布Voicebox AI模型:仅需2秒片段即可“学会”语音细节
全球热资讯!首发4899元 外星人新款27英寸游戏显示器上架:180Hz高刷
国产操作系统赶超Win 10 统信UOS更新:换机可批量重装软件
世界头条:因编造、传播与期货交易有关的虚假信息行为 上海点钢电子商务被罚30万元
【环球热闻】Rust语言 - 接口设计的建议之显而易见(Obvious)
天猫品牌评估一般几天_天猫品牌评估_最新消息
北京电动自行车新规今起实施:电池温度达80度需有报警音
世界新消息丨女孩毕业典礼捐10万:含4年奖学金 用于帮助乡村孩子