DOCA GPUNetIO如何统一GPU网络通信架构
NVIDIA DOCA GPUNetIO将GPUDirect RDMA、GDA-KI等技术整合为统一框架,使CUDA内核可直接驱动以太网、RDMA及DMA操作,绕过CPU实现GPU主导的网络通信。该框架已集成至NCCL、...
NVIDIA DOCA GPUNetIO将GPUDirect RDMA、GDA-KI等技术整合为统一框架,使CUDA内核可直接驱动以太网、RDMA及DMA操作,绕过CPU实现GPU主导的网络通信。该框架已集成至NCCL、...
多家NVIDIA Inception初创企业正将AI应用于乳腺癌诊疗全流程:iSono Health的可穿戴超声设备可在两分钟内完成乳房扫描,Whiterabbit.ai开发AI辅助乳腺密度评估与风险预测工具,Atara...
NVIDIA发布AI Cluster Runtime v1.0,通过版本锁定的配置"食谱"解决GPU加速Kubernetes集群的组件兼容难题。该工具支持Helm、Argo CD等主流部署工具,提供签名验证证据,并已吸引...
NVIDIA CUDA 13.1 新增对 Green Contexts 的 Runtime API 支持,允许应用在单进程内显式划分 SM 和工作队列资源,隔离不同工作负载的执行单元。测试显示,相比等优先级流,Green...
戴尔技术公司宣布扩展Dell AI Data Platform,新增统一语义层和企业知识图谱,帮助AI代理从企业自有数据中获取可信上下文;同时借助Nvidia cuDF库实现GPU加速,测试显示Apache Spark任...
NVIDIA 在 GitHub 上发布 DOCA AI Agent Skills,为 AI 智能体提供经过验证的 API 签名、硬件能力要求和构建约束。测试显示,使用该技能后,智能体在 65 个 DOCA 开发提示中清单...
NVIDIA开源项目DIN Deploy结合ONNX Runtime与TensorRT RTX执行提供程序,提供C++示例代码,支持语音识别、图像分割和图像生成等任务,可在Windows与Linux(含Arm64)上实现...
CoreWeave宣布Nvidia Vera Rubin NVL72机架级AI平台正式上云,首位客户Cognition测得推理吞吐量较GB200 NVL72提升4.8倍。同期,CoreWeave推出AI开发平台Forge...
NVIDIA Dynamo-Triton通过结合PyTorch AOTI编译、FlexKV-backed KV缓存与NV嵌入缓存,为HSTU生成式推荐模型提供端到端推理方案,在RTX PRO 6000 GPU上实现最高5...
NVIDIA宣布cuObject正式发布并扩展xio-sig,推出SCADA Server SDK供存储厂商构建GPU发起的RDMA加速存储访问,IBM已完成原型集成。
NVIDIA NeMo Relay与Hermes Agent集成,通过ATOF和ATIF两种格式记录模型调用、工具调用、错误、延迟与Token用量,并支持将追踪数据导出至Arize Phoenix等OpenTelemet...
Nvidia将2025年推出的Halos安全系统扩展至机器人,推出Halos for Robotics,覆盖自驾车、人形机器人等,物理AI年收入近100亿美元。
NVIDIA发布开源项目TensorRT Model Connect,提供基于TensorRT的C++ AI模型参考实现,已覆盖128个模型家族,支持文本、视觉、音频等多类任务,旨在降低开发者使用NVIDIA推理栈的门槛...
NVIDIA发布VSS Blueprint 3.3,新增Build Vision Agent技能可通过自然语言在30分钟内完成视觉AI智能体部署;自适应EVS技术通过剪枝冗余视觉Token,使VLM输入Token减少80...
YC Paper Club 上,深度学习老兵 Francois Chaubard 回顾了 NVIDIA 芯片十余年的路线转向,并抛出零阶优化与 SOMA 架构等替代反向传播的实验性方案,重新追问 AI 计算该长什么样子。
Nvidia推出Open Agent Safety Platform,提供跨软硬件的AI智能体治理能力,包含OpenShell安全运行边界和Sentry实时监控组件。微软、Salesforce、Anthropic等逾百家...
英伟达发布Open Agent Safety Platform,整合OpenShell软件与运行于BlueField-4 DPU上的Sentry硬件监控系统,可在毫秒内隔离越权AI智能体。该平台回应了近期Anthropi...
NVIDIA推出开放式AI智能体安全平台,包含OpenShell沙箱运行时和BlueField硬件级监控组件Sentry,通过带外策略执行与实时行为检测,为自主AI智能体提供独立安全控制层。
NVIDIA发布BioNeMo MoE训练方案,结合Transformer Engine的GroupedLinear、MXFP8精度及融合GroupedMLP内核,在8块B200 GPU上相比Hugging Face基线...
NVIDIA发布开源Kubernetes控制器NVCRE,可在AI工作负载上线前通过真实分布式任务验证GPU集群就绪性,自动定位故障节点,支持自适应故障隔离与NCCL、NeMo等多类测试。