微软正在方案投资1150亿美圆、数百万芯片制作数据中间，撑持OpenAI连续扩大其AI体系的范围到达万万亿级参数。

　　这个被称为星门 （Stargate）的超等计较机，将于2028年推出。这一数据中间估计将需求5GW电力，为OpenAI供给的算力将提拔多少个数目级。

　　金额1150亿美圆方案，相称于微软今朝整年本钱收入的3倍，分为五个阶段，微软曾经开端了第四阶段，为OpenAI构建一个较小的超等计较机，估计2026年推出。今朝OpenAI与微软正忙于前三个阶段。

　　进入最初两个阶段，微软将推销大批的芯片，估计英伟达的GPU仍旧是主力，但芯片供给将会愈加多元化，既包罗微软本人研发的次要用于推理的芯片，也包罗其余芯片厂商的供给。

　　据硅谷科技媒体Information流露，OpenAI CEO奥特曼正在鞭策这一方案，微软也做出了开真个本钱预算。

　　微软很能够卖力赞助该名目，其本钱将是今朝一些最大数据中间的100倍，这表白将来多少年能够需求巨额投资来建立AI的计较才能。

　　据硅谷业内传说风闻，今朝GPT-5曾经实现预锻炼，正处于对齐阶段，估计夏日推出。假如像业内预估的那样其参数范围将是GPT-4的十倍，GPT-5的参数范围将在20万亿阁下。

　　微软曾经开端为GPT-6的锻炼布置算力，根据今朝的大模子扩大节拍，以每一代模子一年到一年半阁下扩大一个数目级，GPT-6的参数范围将在200万亿阁下，2026年推出。2028年将是GPT-7推出的工夫，参数范围将会到达2000万亿。

　　不单单是锻炼需求消耗大批的算力，跟着天生式野生智能进入大范围布置使用阶段，推理需求的算力更大。

　　正如对Sora所需算力的预算，其推理的峰值，需求72万个H100GPU的算力，以今朝H100的市场价计较（3.65万美圆/每一H100（80GB）），GPU的投资就需求274亿美圆。估计Sora将于年内推出。

　　据博通公司流露，它的一个主要客户，正在筹办在多少年内打造一个百万加快芯片级的算力集群，业内以为就是google。现在朝 Meta号称最大的算力集群，相称于65万张H100GPU。

　　别的，苹果然正入局天生式AI，宣布小我私家AI时期的到来，被以为是AI真正进入大范围布置使用阶段。据传苹果与google、OpenAI都在洽商，在其超越20亿的装备上成立SOTA大模子Gemini以及GPT等的进口。而google正在疾速把Gemini模子布置到数十亿部安卓装备上，包罗三星以及google本人的终端装备。近来亚马逊也在放慢布置Claude3。本年下半年，AI PC的推出也将进入。今朝ChatGPT上亿的活泼用户，日耗电约50万度。

　　大模子的锻炼以及推理阶段，都将消耗宏大的能源。特别是大模子的功用愈来愈强，从大型言语模子扩大到多模态模子，而且经由历程视觉了解物理天下，视觉的能耗强度比言语功用能耗强度超出跨越三个数目级。

　　据Information报导，微软以及OpenAI能够思索选址威斯康星州的Mount Pleasant。这个别系能够需求的电力到达5GW，以致于微软以及OpenAI正在思索配套建立核电厂。

　　这么大范围的数据中间将面对各种应战，由于需求“在一个机架中放入比微软凡是利用的更多的GPU，以进步芯片的服从以及机能。”这象征着还需求设想新的冷却手艺。

　　微软以及OpenAI也能够操纵这名目标设想，削减对英伟达的依靠。虽然微软在以后名目中利用英伟达的InfiniBand电缆，但OpenAI期望在星门名目中制止利用InfiniBand。OpenAI宣称它更情愿利用以太网电缆。

　　本年早些时分传出奥特曼故意打造AI芯片，并追求筹集高达7万亿美圆的资金投资芯片的工场。客岁，微软宣布了其专为AI名目设想的128核Arm数据中间CPU以及Maia 100 GPU。另有报导称微软正在为其AI数据中间开辟本人的收集装备。

　　但超等计较机将位于那边，以及它将建在一个单一的数据中间仍是“在天文地位附近的多个数据中间中”，也都存在着不愿定性。

　　台积电猜测，在将来10年，GPU集成的晶体管数将到达1万亿个。与此同时，将来15年，每一瓦GPU机能将进步1000倍。

　　GTC 2024大会上，英伟达CEO黄仁勋祭出天下最强GPU——Blackwell B200 ，整整封装了超2080亿个晶体管，它包罗了两个GPU的芯粒（die）。比起上一代H100（800亿），B200晶体管数是其2倍多，并且训AI机能间接飙升5倍，运转速率提拔30倍。价钱将在3万美圆到4万美圆之间。