最新要闻

广告

手机

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

iphone11大小尺寸是多少?苹果iPhone11和iPhone13的区别是什么?

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

警方通报辅警执法直播中被撞飞:犯罪嫌疑人已投案

家电

模型训练与推理中为什么需要使用GPU?基本概念梳理

来源:博客园


(相关资料图)

随着AI尤其是ChatGPT的大火,像英伟达、国内的寒武纪等GPU芯片/AI芯片厂商股价也随之大幅攀升。

(寒武纪股价)

GPU就是我们日常所说的“显卡”,那么为什么显卡和AI有关系呢?而美国政府又为什么要出台关于GPU的芯片禁令呢?

实际上,我们这里所说的GPU,与日常用于图形渲染的显卡,还是有一些差别,它更多的是一种AI专用的ASIC芯片(ASIC,Application Specific Integrated Circuit),只不过技术上有类似或者说相通之处,我们大多数时候还称它为GPU。

如GPT、BERT等LLM都需要在大量的数据上进行训练,而GPU具有高度的并行计算能力,可以加速深度学习模型的训练和推理,可以说,GPU是人工智能的算力基础,没有它,就玩不转人工智能。所以,美国的禁令直接针对的是中国的人工智能行业。

下面,我画了一张思维导图,梳理了GPU与CPU的区别,GPU在机器学习领域的优势,以及国内外主要的一些GPU/AI芯片厂商,希望大家能有所收获。目前,国内GPU/AI芯片领域仍然面临专利和制程两大困境,希望将来越来越好吧,加油。

对了,如果有小伙伴还没试用过ChatGPT,我搭了一个小跳板,免费的,关注下面公众号“后厂村思维导图馆”,私信留言索要,资源有限,先到先得哦

关键词: