13万块英伟达B200 GPU，甲骨文AI集群有点猛！
甲骨文AI集群配备131072万块NVIDIA B200 GPU：恐怖算力24万亿亿次
甲骨文AI集群携131072块NVIDIA B200 GPU：真正的算力革命
2024-09-12 23:51 发布于：北京市

2024年9月12日，甲骨文公司宣布推出一系列新的GPU计算集群，这些集群将通过甲骨文云基础设施（Oracle Cloud Infrastructure）为用户提供人工智能（AI）训练服务。

其中最为瞩目的是一款顶级配置的集群，该集群计划使用超过10万张的NVIDIA Blackwell GPU卡，具体数字为131,072张B200 GPU加速卡。

这款集群在FP8浮点和INT8整数运算上的峰值性能达到了2.4 ZettaFLOPS（即24万亿亿次每秒），在规模和性能上均超越了先前的一些报道中提到的马斯克相关项目的数据。

该顶级集群的基础架构由NVIDIA GB200 NVL72液冷机柜构成，每个机柜内含72张GPU加速卡，并且各个机柜间通过具有129.6 TB/s带宽的NVLink总线实现高速互联。

然而，尽管这一集群在技术规格上令人印象深刻，但实际上其仍处于预告阶段。甲骨文表示，NVIDIA预计在明年的上半年才能开始大规模交付Blackwell GPU，因此该集群的确切上线时间尚未确定。

除了上述顶级集群外，甲骨文还推出了另外两套GPU集群。

一套配备有16,384张NVIDIA H100 GPU卡，在FP8/INT8上的峰值性能达到65 PFlops（即6.5亿亿次每秒），并拥有总计13 Pbps的数据传输能力。

另一套则使用了65,536张NVIDIA H200 GPU卡，其FP8/INT8峰值性能达到了260 EFlops（即2.6万亿亿次每秒），总数据吞吐量为52 Pbps，这套集群计划在今年晚些时候投入使用。

目前已有包括WideLabs和Zoom在内的多家企业开始利用甲骨文提供的新集群服务来进行其业务需求。

近年来，人工智能领域的发展日新月异，其中算力的提升是推动技术进步不可或缺的一环。2024年9月12日，甲骨文（Oracle）宣布推出一款新的GPU计算集群，令人瞩目的算力配置让该集群成为了业界的新标杆。该集群配备了多达131072块NVIDIA B200 GPU，FP8浮点和INT8整数峰值性能达到惊人的2.4 ZFlops，即每秒24万亿亿次的计算能力，这一数据足以让人瞠目结舌，超越多数现有的AI计算解决方案。

集群架构与高效互联

甲骨文新发布的AI集群主要依托于NVIDIA的Blackwell架构，其基本节点为NVIDIA GB200 NVL 72液冷机柜，每个机柜中集成72块GPU加速卡。这个集群通过129.6 TB/s带宽的NVLink总线连接，不论是加速卡的数量，还是峰值性能，均在业界处于领先地位。这意味着在海量的数据处理和模型训练中，甲骨文的集群能够以极高的效率工作，极大缩短了AI模型的训练时间。

多重集群配置：满足不同需求

甲骨文此次推出了多个GPU计算集群供不同企业选用，除了最顶级的配备131072块B200 GPU的集群外，第二套集群配置了16384块NVIDIA H100，FP8/INT8峰值性能达到65 PFlops（每秒6.5亿亿次）。而第三套集群则配备65536块NVIDIA H200，峰值性能可达260 EFlops（每秒2.6万亿亿次）。这几类集群的推出使得企业在进行AI训练时，能够根据自身的需求，灵活选择最适合的算力方案。

应用场景与技术前沿

随着AI技术的快速发展，数据处理的能力直接影响到生成式AI（如AI绘画、文本生成）等应用的效果。甲骨文的AI集群将为计算机视觉、自然语言处理等领域提供强大的算力支撑，促使这些技术的精确性和效果达到新的高度。WideLabs和Zoom等企业已经开始采用甲骨文的新集群服务，利用这一强大的算力提升业务效率和创新能力。

在图像生成和文本生成的实际应用中，算力的强大使得模型能够处理更复杂的数据，对细节进行更加精准的分析，从而生成高质量的图像和文本。例如，借助强大的GPU资源，AI绘画工具可在几秒钟内生成高清晰度的艺术作品，而AI写作工具则能够快速生成专业文章，大幅节省创作时间。

行业展望：算力与AI的发展

甲骨文此次的GPU集群不仅是技术的升级，更是面对未来AI需求不断提升的回应。随着大模型和多模态AI的发展，未来对算力的需求将会持续上升。这一趋势不仅适用于科技行业，医疗、金融、媒体等行业也将因AI技术的逐步普及而受益。数据科学家和AI工程师将能够利用更强大的算力，训练出更加智能和高效的AI模型。

然而，高算力的普及不仅仅是技术层面的突破，背后还需要关注能耗、环境影响等可持续发展的议题。算力的提升必须和节能减排协同进行，推动技术进步的同时，也要兼顾社会责任。

结语：AI技术的未来

总之，甲骨文推出的这个GPU计算集群在算力和架构上都树立了新的标杆，将极大推动AI行业的发展和技术的进步。企业应当积极拥抱这样的新技术，提升自身的竞争力。同时，AI技术本身也在不断成熟，从初步实验阶段走向日常应用，真正实现为人类服务的目标。

最后，强烈建议大家，日常一定要学习使用先进生产力，要把AI用起来。不管任何人，不论你是多熟悉你的业务，也不要排斥AI。聪明的人已经把像chatgpt这样的AI工具用得风生水起了，但大部分职场人还只知道埋头苦干，结果就是吃了信息闭塞的亏。会用AI和不会用AI的人，工作效率真的是天壤之别！其实只要愿意花点时间学学怎么用，简单的操作就能让工作效率翻个好几倍，省下大把时间做自己的事情。比如我常用的AI工具——简单AI，就是一个全能型AI创作助手，功能包括AI绘画、文生图、图生图、AI文案、AI头像、AI素材、AI设计等。可以一键生成创意美图、动漫头像、种草笔记、爆款标题、活动方案等

甲骨文携手英伟达加速推动企业采用人工智能技术
Oracle 云基础设施充分利用支持端到端 NVIDIA AI 软件和服务的主要 GPU，以获得强大动力

甲骨文全球云大会，拉斯维加斯—2022年10月18日
Nvidia

甲骨文和英伟达 (NVIDIA) 进一步深化合作伙伴关系，宣布推出多年期的合作新项目，协助客户通过加速计算和人工智能 (AI) 解决业务挑战。该项目旨在将完整的 NVIDIA 加速计算堆栈（包括GPU 、系统、软件）迁移到 Oracle 云基础设施 (Oracle Cloud Infrastructure, OCI)。

在此次合作中，OCI 将加入数万个 NVIDIA GPU。结合 OCI 包括裸金属、集群网络和存储的 AI 云基础设施，可为企业提供海量且易于访问的 AI 训练和深度学习推断产品组合。

甲骨文公司首席执行官 Safra Catz 表示：“为了在当今的业务环境中取得长期成功，企业需要比以往更快地获得解决方案和洞察。我们与英伟达的扩大合作将提供两家公司出色的专业知识，帮助来自医疗卫生、制造、电信、金融服务的各个行业客户克服他们面临的诸多挑战。”

英伟达创始人兼首席执行官黄仁勋 (Jensen Huang) 表示：“加速计算和 AI 是应对运营业务各方面成本上升的关键。许多企业渐渐转向云优先的 AI 策略，以实现快速开发和可扩展的部署。我们与甲骨文公司的合作将使数千家企业能够轻松使用 NVIDIA AI。”

NVIDIA AI 联手 Oracle 云基础设施
英伟达和甲骨文公司多年来一直通过Oracle 云基础设施 (OCI) 为企业提供加速计算实例和软件服务。借助基于 OCI 实例的完整 NVIDIA AI 平台，此次深度合作旨在帮助各行各业加速基于 AI 的创新，从而更好地为客户提供服务并支持销售。

NVIDIA AI Enterprise 是 NVIDIA AI 平台中被全球企业广泛采用的应用软件，包含了 AI 工作流每个步骤的关键处理引擎，包括数据处理、AI 模型训练、模拟和大规模部署。NVIDIA AI 可助力企业开发预测模型以实现业务流程自动化，并利用会话式 AI、推荐系统、计算机视觉等应用快速获得业务洞察。双方计划在 Oracle 云基础设施 (OCI) 上发布新版 NVIDIA AI Enterprise，让客户能够轻松访问 NVIDIA加速、安全且可扩展的平台，从而实现端到端 AI 开发和部署。

此外，甲骨文现在支持客户提前访问 NVIDIA RAPIDS 加速功能，以在 OCI 数据流服务 (OCI Data Flow)完全托管的 Apache Spark 服务上进行Apache Spark 数据处理。数据处理是其中一种主要的云计算工作负载，为了满足这一需求，OCI 数据科学计划 (OCI Data Science) 将提供裸金属配置支持，托管笔记本电脑会话、作业和模型部署等流程。

NVIDIA Clara? 是一款即将推出的医疗卫生 AI 和高性能计算机群 (HPC) 应用框架，主要面向医学影像、基因组学、自然语言处理和药物研发领域。此外，甲骨文公司和英伟达还在新 AI 加速的 Oracle Cerner 医疗卫生产品方面开展合作，该产品涵盖了分析、临床解决方案、运营、患者管理系统等领域。