ChatGPT运行每天或花费70万美元微软开发自主芯片尝试降低成本

2023-04-21 12:52来源：TechWeb 阅读量：18641

北京时间4月21日早间消息，据报道，芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔表示，由于ChatGPT运行在价格昂贵的计算基础设施之上，OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。

帕特尔指出，ChatGPT需要庞大的算力，才能基于用户的输入信息做出反馈，包括撰写求职信、生成教学计划，以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

此外，帕特尔最初的估计基于OpenAI的GPT-3模型，而在采用最新的GPT-4模型之后，ChatGPT现在的运行成本可能更高。

对此，OpenAI尚未对此做出回应。

帕特尔和SemiAnalysis的另一位分析师阿夫扎尔·艾哈迈德表示，此前外界已经注意到，训练ChatGPT背后的大语言模型可能要花费上亿美元，但运营费用，或者说人工智能推理的成本，以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上，按周来看，ChatGPT的推理成本超过了训练成本。”

过去几年，使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克·沃尔顿表示，运行该模型，以及相应的购买亚马逊AWS云服务器的费用2021年达到每月20万美元。因此，沃尔顿最终决定改用AI21 Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半，至每月10万美元。

沃尔顿在接受采访时表示:“我们会开玩笑说，我们有人类员工和人工智能员工，在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元，而且我们也不是一家大型初创公司，所以这是一笔巨大的开支。”

近期有报道称，为了降低生成式人工智能模型的运行成本，微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于2019年启动。在此几年前，微软与OpenAI达成了10亿美元的投资协议，要求OpenAI仅在微软的Azure云服务器上运行其模型。

微软启动这一芯片项目的背后有两方面思考。知情人士透露，微软高管意识到，他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时，微软正在寻找更便宜的方案去替代英伟达的GPU芯片。

目前，微软大约有300多名员工正在开发这款芯片。消息人士称，该芯片最早可能在明年发布，供微软和OpenAI内部使用。微软拒绝对此消息置评。

郑重声明：此文内容为本网站转载企业宣传资讯，目的在于传播更多信息，与本站立场无关。仅供读者参考，并请自行核实相关内容。

责任编辑：樊华

最新阅读

“深交所·创享荟”打造资本市场服务国企改革新典范

9月27日，深交所举办第九期“创享荟”国企专业化整合专场活动。“创享荟”是深交所着力打造的具有深市特色的市场服务品牌，目前已围绕热点主题举办了多期专场活动，影响力和吸引力不断增强。深交所相关负...
微软在GitHub上线开发工具包，助力开发者使用Rust语言编写Wind

，微软Azure首席技术官MarkRussinovich日前在X平台发文，公开微软最近宣布“扩大采用Rust语言的成果”，微软同时还在GitHub中发布了一系列开发工具包，让开发者可以使用Rust语言...
擦亮“金融为民”底色光大银行多维发力谱写“人民金融”新篇章

像这样面向听障人士的手语服务模式，光大银行已持续运行了四年。四年来，光大银行通过收集听障客群金融业务需求及沟通痛点，让金融服务更贴近听障人士的日常生活。而这，只是光大银行践行“金融为民”初心，努力提供...
云南信托联合多家金融机构进乡村开展金融知识普及教育

近日，为帮助广大农村群众进一步提升金融素养及金融风险防范意识，助力打造诚信、健康、安全、和谐的金融环境，在云南省农村信用社联合社、昆明市农村信用社联合社及昆明市西山区农村信用合作联社的共同协调组织下，...
“领头羊”计划走进广州番禺，超59家企业具备上市潜力

南方财经全媒体记者翁榕涛实习生曾日丽广州报道 9月26日下午，广州企业上市“领头羊”行动计划“番禺行动”启动仪式在番禺节能科技园交流中心举行。据南方财经全媒体记者了解，今年7月以来，广州市地方金...
算力牛股中际旭创股价“反攻”800G能否助三季度业绩惯性增长？

21世纪经济报道记者雷晨实习生原婷婷北京报道近期受国内外AI利好消息驱动，二级市场上，中际旭创股价重新抬头，9月26日、9月27日连续上涨。截至9月27日收盘，公司股价报收于114.07元/股，收...
索尼申请外置小型触摸屏专利，可“架在”PS5手柄上远程游玩游戏

，据外媒gamerant报道，索尼近日注册了一项新专利，从文件内容上来看，这项专利主要显示，外加可以使用一个“触摸屏”连接DualSense手柄，来游玩PS5游戏。图源索尼索尼于此前正式公布了...
14幅图看懂债市潮起潮落

超越城乡居民储蓄存款规模和A股总市值，拥有百万亿以上体量的债券。如同资产配置中的“米面粮油”，在投资中无处不在。相较于股票，您可能是更加委婉地参与其中，大部分人是通过银行理财、债券基金、保险、资管计划...
国庆黄金周运输今日启动，长三角铁路预计发送超250万人次

国庆黄金周运输启动。 9月27日，澎湃新闻记者从中国铁路上海局集团有限公司获悉，今天是铁路国庆黄金周运输首日，长三角铁路预计发送旅客逾250万人次，较2019年同期多发送60余万人次，增幅超三成。 ...
阿里拟分拆菜鸟在港上市菜鸟子公司已申请上百项物流专利

9月26日，阿里巴巴港交所公告，拟通过以菜鸟股份于香港联交所主板独立上市的方式分拆菜鸟。拟议分拆完成后，阿里巴巴将继续持有菜鸟50%以上的股份，菜鸟将仍为其子公司。天眼查App显示，菜鸟网络科技有...