/ ai资讯

【NVIDIA生态】具有100 TOPS强劲算力的AIBOX!

发布时间:2024-12-05 13:46:05

近年来,AI 正在通过自动化、改进数据分析以及提升参与度来推动企业变革。借助强大的嵌入式 AI 计算机,为生成式 AI、计算机视觉和高级机器人技术打造新一代产品。

Firefly 推出搭载 NVIDIA 原装Jetson Orin 模组的高算力AI主机:AIBOX-OrinNano 和 AIBOX-OrinNX

英伟达系列 AIBOX

该系列可提供 40 或 100 TOPS的 AI 计算能力、大容量统一内存和全面的软件堆栈,能够以超高能效驱动 Transformer 架构下大模型,最新的生成式 AI 应用。

边缘生成式 AI

支持目前主流大模型的本地化运行,包括LLaMa3,ChatGLM3,Qwen等语言大模型,SAM等视觉大模型,以及Stable Diffusion AI绘图。

嵌入式软件堆栈

借助全面的 AI 软件堆栈和生态系统,使边缘 AI 和机器人应用开发实现大众化。为 AI 应用提供端到端加速,并可利用驱动数据中心和云部署的技术能力,快捷推动更多 AI 产品上市。

边缘计算的优势

物联网和移动设备采用嵌入式处理器收集数据,边缘计算将 AI 直接引入这些设备,在捕获数据的边缘端处理数据,而不是在云端或数据中心,从而加快实时决策和自主机器的 AI 工作流。

AIBOX在MLPerf‌的实测表现

MLPerf‌是一个用于衡量机器学习硬件、软件和服务性能的标准化基准测试平台,通过一系列标准化的基准测试任务和数据集,来评估和比较不同系统在执行机器学习任务时的性能,AIBOX-OrinNX 在该平台的实测中表现出卓越 AI 性能。

支持多种深度学习框架

支持所有主流大模型深度学习框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

边缘 AI 应用场景

可广泛适用于边缘计算、机器人、大模型本地化、智慧城市、智慧医疗、智慧工业等行业领域。

产品参数

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:bangqikeconnect@gmail.com