以后AI大模子正成为手艺力气新的发作点，以ChatGPT为代表的AIGC使用如火如荼，连续演进的AI对收集的需要指数级增加：一方面，AIGC带来的宏大流量以及交互AI使用对收集的带宽以及及时性提出了更高请求；另外一方面，AI大模子锻炼需求海量算力支持，大范围、散布式AI集群使智算节点间通讯面对着愈来愈大的应战。

　　环球范畴内的AI经济代价估计将到达数万亿美圆，收集与算力作为数字根底设备，在AI加持下，势必进一步鞭策实体经济以及数字经济新一轮高质量开展，追求供给极致高机能收集已成为AI主要研讨标的目标之一。

　　在效劳AI客户过程傍边，青云发如今这四种场景：NLP天然言语处置，CV计较机视觉范畴，GIS天文空间以及卫星遥感数据，ASR云分解标的目标，存在着数据收罗的成绩，即跟着多场景、多样化的数据不竭积聚，各类边沿侧的数据该怎样高效、快速、宁静、实时地传输到数据中间，从而保证数据加密过程傍边的诸多成绩。

　　边沿收集的不愿定身分也带来不小应战，好比边沿装备的弱网、断电、通讯非常招致数据传输不实时，没法保证数据传输过程傍边的数据宁静隐衷性；另有今朝物联网装备、硬件装备多元化开展的状况下，边沿装备以及物联网收集多样情况下暴暴露来的限制；芯片层、操纵体系层差别接口以及谈兼容性的差别等。

　　面向AI倏地的开展，在AI锻炼以及推理高机能计较、容器云平台计较面对了多场景营业整合的瓶颈：跟着AI大模子的不竭开展，怎样更好患上办理、布置好模子的使用，以及晋级及使用模子？

　　青云边沿侧自立研发的EdgeWize平台平台适配多种硬件、多种操纵体系，以便于用户整合边沿端多侧装备；同时平台预留撑持计较、边沿计较的才能，依靠SD-WAN高可用链路停止传输，基于拓扑网的主动挑选途径才能，包管数据传输的牢靠性以及宁静性。关于边真个加密数据，青云科技推出多种加密以及谈保证边沿数据向数据中间的传输宁静性，并依靠云上多Region、广域收集环网停止平台建立，构建云效劳上的基石，保证用户的持续性以及牢靠性。

　　起首，青云科技在QKE容器引擎上撑持一键式布置，能为用户供给操纵便利、简朴易用的界面，从而保证集群上效劳易用的才能。

　　同时，青云科技在SD-WAN收集组件上的容器化适配，收缩了边沿使用收聚会合会见的途径，从而满意边沿使用多样性的收集需要。

　　最初，从边沿侧到IaaS层K8s办理营业集群，再到上层PaaS平台配套效劳以及响应的办理效劳，青云科技都能依靠高效的收集才能，在运维监控以及可视化界面上为用户供给全方位的效劳保证。

　　青云科技公布了AI智算平台并提出一个观点：算力中间建立新形式，像办理当地资本同样办理AI根底设备。

　　在云边协同的场景下，不只大批数据会被收罗到云端，另有海量营业数据会被停止洗濯、阐发以及响应的锻炼，而这些都离不开底层多元化算力的撑持。基于此，青云AI智算平台以处理多样化算力需要、智能化算力调理办理，以及智简化运维办理为中心目的。

　　青云科技提出跨地区混淆组网架构。从图中能够看到在数据中间收集建立中，青云科技会将计较办理节点、存储收集以及专有GPU收集集群做具体分别。特别在今朝大模子锻炼场景下，青云科技效劳客户过程傍边，在高机能并行空间存储集群以及GPU计较集群，管帐划满意客户公用的IB收集，经由历程SDN收集手艺手腕停止计较资本、存储资本、工具存储，好比U10000节点停止收集办理，再接纳经营商供给的UFMRESTAPI接口，完成多地跨地区、高速互联，以此满意收集层面响应的掌握。

　　经由历程跨地区混淆组网的搭建方法，青云AI智算平台在搭建以及效劳用户过程傍边，供给多个层面的产物范例。从底层物理节点层到上层逻辑效劳层以及响应的云效劳层，都依靠底层高速的IB交流机收集以及营业的办理交流机收集，在GPU计较节点、并行文件存储节点以及纳管GPU的裸金属节点上，均可觉患上客户供给配套的PaaS产物效劳。依靠数据中间多层效劳才能，在差此外埠区、差此外Region均可觉患上用户供给全局的锻炼、推理、营业模子以及资本办理调理效劳。同时基于青云科技多年私有云效劳响应经历，还可觉患上客户供给整套经营运维办理的配套组件。

　　为处理现今AI倏地开展、海量数据增加的状况，青云科技除了供给高效的组网，完美的根底设备效劳，也供给多样的存储撑持。青云具有自研的U10000工具存储，能够低落用户存储本钱，协助用户供给完美的性命周期分层战略，同时供给满意大模子以及高机能计较场景下并行文件存储的EPFS，它撑持高达百GB的会见带宽。在数据存储上也为用户供给多样化的，契合营业请求的各品种型的数据库以及非干系型数据库。

　　在收集侧，青云科技为用户供给三种方法，即用户公网加密链器、接纳自研SD-WAN互联网收集以及专线收集接入，能够灵敏地接入青云AI算力调理云平台，也可以基于容器化K8s、QKE集群的AI算力调理平台接入。

　　经由历程上层MaaS产物效劳，用多种算力装备高速的IB收集，可支持用户在青如此平台上倏地上线其预锻炼模子、通用模子以及行业使用模子，从而助力其倏地展开本身锻炼推理的使用。跟着AIGC的不竭开展，青云也在不竭地探究以及迭代MaaS模子的产物效劳。

　　在底层AppCenter，青云能够撑持差此外VM、BM以及GM办理集群，而且适配多种操纵体系、芯片以及模子锻炼根底效劳镜像。在上层能够接纳Slurm调理体系以及QKEK8s调理体系，满意客户在模子锻炼以及模子层、数据层、AI层、AIGC使用层的公布。青云也撑持从数据的办理、模子的锻炼以及测试公布团体的全性命周期的办理，会辅佐AIGC行业为用户供给更便利、更倏地的AI自助式效劳。在模子生态上接入了许多贸易化模子，给用户供给垂直范畴行业以及互联网使用行业模子的才能。

　　将来，青云期望能够一键式托付团体情况，同时撑持挂载高机能存储，咱们也会不停交融市场更多的模子供给商，协助用户在模子堆栈中获患上更挑选，而且在垂直行业范畴以及行业模子上做更多的测验考试以及探究。青云不断承袭“连续立异、协作、开放、双赢”的立场，期望与行业协作同伴及客户，共筑数字天下的新将来。