找回密码
 立即注册

微信扫码 , 快速开始

火爆全网的ChatGPT,算力成本有多庞大?

2023-7-17 15:45| 发布者: admin| 查看: 374| 评论: 0|来自: 知乎

摘要: ChatGPT是人工智能落地应用的一个缩影。随着近年来5G、自动驾驶、工业互联网、智慧城市、元宇宙等诸多领域的迅猛发展,对高可靠、高性能、高安全算力需求更加突出,全球正掀起一场算力的军备竞赛。 ...
 近日,ChatGPT话题频频登榜热搜。据瑞银集团报告显示,截至2023年1月末,ChatGPT月活用户已经突破1亿,成为史上用户增长速最快的消费级应用程序。

从到大学生作业的代写,到以色列总统的演讲词的撰稿…ChatGPT正在深刻影响着世界。

(89%的美国大学生用ChatGPT做作业;以色列总统艾萨克·赫尔佐格2月1日发表了部分由ChatGPT撰写的演讲稿)

也许正如比尔·盖茨所言:“ChatGPT这种人工智能技术出现的重大历史意义,不亚于互联网和个人电脑的诞生。”

什么是ChatGPT?

ChatGPT是由微软投资的AI实验室OpenAI开发出的一款智能聊天机器人模型。与我们日常熟悉并使用的Siri、微软小冰、小爱同学、小度等聊天机器人相比,其语言组织能力、文本水平、逻辑能力更加强大,交流表现十分惊艳,有人甚至将ChatGPT比喻为“搜索引擎+社交软件”的结合体,因为能够在实时互动的过程中获得提问问题的合理答案。


(图片来源:陈巍谈芯)

所以ChatGPT不再仅仅局限于基本的聊天、娱乐功能,而是迭代升级成了一个生产力工具。我们日常的工作,如工作周报、文章创作、邮件、调研报告、视频脚本、编程代码等的撰写,都可以通过与其聊天完成。

ChatGPT根据命题撰写小说框架(图片来源:深燃)

并据外媒报道,Google有内部文件透露,ChatGPT通过了谷歌年薪达18.3万美元的L3工程师入职面试。

支撑ChatGPT的算力成本庞大

ChatGPT能够实现当前如此强大的交互,离不开背后庞大的算力支撑。有数据显示,ChatGPT的总算力消耗约为3640PF-days。按近期在国内落地的某数据中心为参照物,算力500P耗资30.2亿落成,若要支持ChatGPT的运行,需要7—8个这样数据中心支撑,基础设施投入需以百亿计。

并且随着ChatGPT优化模型的增大,算力需求倍数递增,带来的成本压力也在不断增长。据悉,从2018年起,OpenAI就开始发布生成式预训练语言模型GPT(Generative Pre-trained Transformer),可用于生成文章、代码、机器翻译、问答等各类内容。在当时,训练参数量只有1.17亿。在2019年2月发布GPT-2时,训练参数量为15亿。

而2020年5月的GPT-3,参数量更是达到了1750亿,仅是托管在微软的云服务器拥有28.5万个CPU和1万个高端GPU。AI训练所需算力指数的增长速度已然超越硬件的摩尔定律。

算力基础设施建设任重道远

ChatGPT是人工智能落地应用的一个缩影。随着近年来5G、自动驾驶、工业互联网、智慧城市、元宇宙等诸多领域的迅猛发展,对高可靠、高性能、高安全算力需求更加突出,全球正掀起一场算力的军备竞赛。

数据中心作为算力基础设施,被高度重视。但与此同时,算力基础设施建设运营中存在的高能耗、高成本等问题,急待解决,发展之路任重道远。

【文章来源】知乎


路过

雷人

握手

鲜花

鸡蛋

最新评论

QQ|手机版|小黑屋|博士驿站:连接全球智慧,共创博士人才生态圈 ( 浙ICP备2023018861号-3 )平台提供新鲜、免费、开放、共享的科技前沿资讯、博士人才招聘信息和科技成果交流空间。 平台特别声明:线上内容(如有图片或视频亦包括在内)来自网络或会员发布,均已备注来源;本站资讯仅提供信息和存储服务。Notice: The content above (including the pictures and videos if any) is uploaded and posted by user , which is a social media platform and only provides information storage services.

GMT+8, 2024-12-23 02:19

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

返回顶部