IOEHM-MS1688V1微服务器是算能联合生态伙伴推出的软硬一体的生态产品，采用BM1688强劲AI芯片，是面向深度学习推理、计算机视觉等高集成深度学习视觉处理器。可集成于微服务器、 智算模组、工控机、专业网络摄像机、AIOT等多种类型产品。高效适配市场上所有深度学习算法，实现图 片分类、目标检测、实例分割、语义分割、行为分析、文字识别、自然语言处理、语音识别、语音合成、搜 索推荐等应用，为各个行业进行智算赋能；并集成图像处理硬件: 支持HDR 宽动态、3D 降噪、3A、去雾 等多种图像增强，为客户提供专业级的视频图像质量。

随着人工智能技术的飞速发展，AI已经从实验室走向了实际应用，成为各行各业的得力助手。今天，我们要介绍的不仅仅是AI技术本身，更是一场关于如何将这些技术更高效、更安全地应用于现实世界的革命——端侧AI与大模型的私有化部署。为响应市场需求，伽亚泰推出了基于算能BM1684X平台的大模型私有化部署产品方案，包括：MS1684X及MS1684计算盒子。 可集成于边缘智算盒、工控机等多种类型产品， 高效适配市场上所有 AI 算法。实现图片分类、目标检测 、实例分割、语义分割、行为分析、 文字识别、语言处理、语音识别、语音合成、搜索推荐等应用，为各个行业进行 AI 赋能！   ▎端侧AI：智能的起点   伽亚泰科技有限公司推出的端侧AI整机，基于算能最新的AI芯片，是面向AI推理场景的核心板。这款核心板不仅能够高效适配市场上所有AI算法，还能实现包括图片分类、目标检测、语义分割等在内的多种应用。它就像是一个智能的起点，为各个行业注入了AI的活力。   ▎大模型：AI应用的扩展   在人工智能领域，大模型以其强大的能力，丰富了AI的应用场景。它们能够处理复杂的任务，如语言处理、语音识别等，但同时也面临着计算资源和数据隐私的挑战。为了解决这些问题，将大模型部署到边缘侧成为了一个有效的解决方案。   ▎数据隐私与安全：企业的核心关切   在数据驱动的时代，数据隐私与安全成为了企业的核心关切。边缘计算盒子不仅能够减少延迟和带宽消耗，还能增强数据隐私保护，这对于维护企业的数据安全至关重要。  AI计算盒：小盒子，大功能    一、型号：MS1684X计算盒   MS1684X基于算能BM1684X推出的高性能边缘计算盒子，INT8算力高达32Tops，配置了16GB大内存，支持混合精度计算，款式有5网口和8网口，并支持定制。是业内少数能同时兼容国内外深度学习框架，并且能够流畅运行大语言模型推理的边缘计算设备之一。 二、型号：MS1684计算盒   MS1684基于算能BM1684强劲AI芯片，峰值算力：17.6 TOPS (INT8) / 2.2 TFLOPS (FP32)，配置了12GB大内存，重点面向园区领域，内置人车非结构化分析、人脸识别，行为分析、周界警戒、消防警戒等多种AI算法，切实保障工业园区，校园，社区等生产与设备资产安全，一键部署，及时生效，为客户提供最具竞争力的智能化解决方案。 ▎不凡的表现，省心省力的选择 最快5分钟实现以下功能部署：    结语    AI技术的发展，让我们看到了智能世界的无限可能。AI大模型的私有化部署，不仅提高了效率，更保障了安全。让我们一起迎接这场技术革命，探索智能新世界。 更多资讯请关注IOEHM官方网站 www.ioehm.com   关于我们 北京伽亚泰科技有限公司是一家提供云边协同的AI算力产品与AI应用解决方案的人工智能企业。包含人工智能产品、数据采集产品、智慧商业显示产品、物联网光伏设备产品，并已在航天军工，公安系统、城市管理、智慧停车、智慧社区、司法系统、轨道交通、智慧安防、工业系统、风电系统、智能运维等多个AI场景得到成功应用。伽亚泰科技以“拥抱智能，计算未来”为核心理念，致力成为国内专业的，AI硬件解决方案供应商。

在人工智能的浪潮中，算力是推动技术革新的关键。SOPHON BM1688 AI处理器以其卓越的性能和广泛的应用场景，成为行业智能升级的新引擎。本文将深入探讨BM1688的核心技术优势和行业应用潜力。为响应市场需求，伽亚泰推出了基于算能BM1688平台的大模型私有化部署产品方案，包括：AI计算盒、核心模组、拓展版、核心板、底板及应用于无人机吊舱的解决方案。 可集成于微服务器、智算模组 、工控机、专业网络摄像机、AIOT等多种类型产品。高效适配市场上所有深度学习算法，实现图片分类、目标检测、实例分割、语义分割、行为分析、文字识别、自然语言处理、语音识别、语音合成、搜索推荐等应用，为各个行业进行智算赋能；并集成图像处理硬件 : 支持 HDR 宽动态、3D 降噪、3A、去雾等多种图像增强，为客户提供专业级的视频图像质量。为各个行业进行 AI 赋能！     ▎核心优势：BM1688 AI处理器的性能解析   SOPHON BM1688 AI处理器以其16 TOPS INT8的峰值算力，成为市场上的佼佼者。搭载ARM A53 8核处理器，主频高达1.6GHz，内建神经网络加速引擎TPU，支持混合精度计算，确保了在AI推理和计算机视觉领域的高效性能。   ▎图像处理能力   支持HDR宽动态、3D降噪、3A等图像增强技术 JPEG编解码速度高达480张/秒@1080P 支持多路sensor串行输入，最高6路sensor，适应多种视频输入标准   ▎视频编解码能力 支持16路H.264/H.265 1080P@30fps视频解码 10路H.264/H.265 1080P@30fps视频编码 满足超高清视频处理需求 ▎网络通讯能力 支持2路千兆以太网，可通过SDIO接口扩展WIFI/蓝牙 通过USB3.0接口扩展5G/4G无线网络，确保高速数据传输  应用场景：BM1688的行业赋能  BM1688 AI处理器的广泛应用，为多个行业带来了智能化的解决方案。 智能安防 结合强大的图像处理能力和多路视频AI处理性能，BM1688在智能安防领域大放异彩，实现人脸检测、车牌识别等功能，提升安全监控的智能化水平。   AIOT与工控机 在AIOT和工业控制领域，BM1688通过其高速接口和丰富的扩展能力，为智能制造和物联网设备提供了强大的数据处理和智能决策支持。   智能网络摄像机 BM1688的集成应用，使得智能网络摄像机在图像采集、处理和智能分析方面更加高效，为智慧城市建设贡献力量。 ▎国产化定制 ，一站式开发支持 可实现100%国产化硬件方案定制，技术完全自主可控，工业级产品质量，稳定的供货周期，满足各种行业的需求。提供一站式深度学习开发工具包SOPHON SDK，支持ONNX、Caffe、TFLite等主流框架，简化了AI算法的本地化部署流程。同时，提供丰富的开发资料和参考设计，加速产品开发和市场响应速度。    伽亚泰解决方案展示（部分，支持定制）  1.BM1688 AI计算盒   2.无人机吊舱：目标跟踪、夜视、高清双光   3.核心板+底板   4.核心模组      结语    SOPHON BM1688 AI处理器以其高性能、高兼容性和广泛的应用场景，成为推动行业智能化升级的重要力量。随着技术的不断进步和应用的深入，BM1688将在更多领域展现其巨大潜力，引领智能时代的新潮流。 更多资讯请关注IOEHM官方网站 www.ioehm.com   关于我们 北京伽亚泰科技有限公司是一家提供云边协同的AI算力产品与AI应用解决方案的人工智能企业。包含人工智能产品、数据采集产品、智慧商业显示产品、物联网光伏设备产品，并已在航天军工，公安系统、城市管理、智慧停车、智慧社区、司法系统、轨道交通、智慧安防、工业系统、风电系统、智能运维等多个AI场景得到成功应用。伽亚泰科技以“拥抱智能，计算未来”为核心理念，致力成为国内专业的，AI硬件解决方案供应商。

随着人工智能和物联网技术的飞速发展，AIoT（人工智能物联网）正成为智能设备创新的核心。瑞芯微最新推出的RK3588人工智能主板，以其卓越的性能和广泛的应用潜力，为AIoT领域带来了革命性的变革。伽亚泰携手RK3588芯片，为用户落地强大的解决方案。   RK3588：性能新高度 RK3588是瑞芯微新一代旗舰级AIoT芯片，采用8nm LP制程，搭载八核64位CPU，主频高达2.4GHz。其内置的NPU提供6TOPS的强劲算力，支持INT4/INT8/INT16混合运算，为人工智能应用提供了强大的动力。 核心特性一览 CPU架构：四核A76（2.4GHz）+ 四核A55（1.8GHz） GPU：ARM Mali-G610 MP4 NPU算力：6TOPS，支持主流深度学习框架 视频处理：8K@60fps H.265/VP9视频解码，8K@30fps H.265/H.264视频编码 技术生态：完善的开发支持 瑞芯微为RK3588提供了全面的技术支持和开发资料，包括： 操作系统支持：Android、Linux及国产操作系统 开发资料：源代码、教程、技术资料和开发工具 参考设计：提供底板参考设计和完整技术资料，加速产品开发 应用场景：AIoT领域的多面手 RK3588的高性能不仅局限于技术参数，更在于其在多个领域的广泛应用： （1）ARM PC应用案例：作为ARM PC的处理器，RK3588可以提供足够的计算能力，支持多任务处理和高负载应用，适用于办公自动化、教育和娱乐等场景。 （2）边缘计算应用案例：在工业自动化中，RK3588可以作为边缘计算节点，处理传感器数据，执行实时分析和决策，减少对中心服务器的依赖。 （3）云服务器应用案例：RK3588可以作为轻量级云服务器的核心，处理数据存储、备份和轻量级计算任务，适用于小型企业和远程办公环境。 （4）人工智能应用案例：RK3588的NPU可以支持复杂的AI算法，如图像识别、语音识别等，在智能家居、智能客服等领域发挥作用。 （5）云计算应用案例：在云计算环境中，RK3588可以作为分布式计算节点，处理大规模数据集，支持云服务的弹性扩展。 （7）虚拟/增强现实应用案例：RK3588的高性能GPU和NPU可以支持VR/AR应用的渲染和交互，提供沉浸式体验，适用于游戏、教育和训练模拟。 （8）区块链应用案例：RK3588的计算能力可以用于区块链网络中的节点计算，处理交易验证和智能合约执行，适用于去中心化应用。 （9）智能NVR应用案例：作为智能网络视频录像机的处理器，RK3588可以处理多路视频流，执行视频分析和存储，适用于安全监控系统。 这些应用案例展示了RK3588的多功能性和强大的适应性，伽亚泰科技能够结合不同行业的需求特性，定制化解决方案以满足不同行业和应用场景的需求。   更多资讯请关注IOEHM官方网站 www.ioehm.com   关于我们 北京伽亚泰科技有限公司是一家提供云边协同的AI算力产品与AI应用解决方案的人工智能企业。包含人工智能产品、数据采集产品、智慧商业显示产品、物联网光伏设备产品，并已在航天军工，公安系统、城市管理、智慧停车、智慧社区、司法系统、轨道交通、智慧安防、工业系统、风电系统、智能运维等多个AI场景得到成功应用。伽亚泰科技以“拥抱智能，计算未来”为核心理念，致力成为国内专业的，AI硬件解决方案供应商。

在数字化转型的大潮中，企业面临着前所未有的机遇与挑战。随着AI技术的不断成熟，AI算力产品已成为推动企业创新和效率提升的关键。为此,伽亚泰携手生态伙伴,开创了AI硬件租赁的新模式,以满足开发板发烧友及小微科技公司市场需求，更好地让AI技术爱好者和相关企业能够以更低成本参加到新技术潮流中。 您是否也有以下困扰？ 没资金，缺设备 不确定是否适用自身需求，想试用一段时间 想买设备但没有合适的渠道 想换新设备，不知道哪款性能合适 怕没有售后保障 别担心，伽亚泰科技AI硬件租赁为您提供： 灵活性与成本效益：通过租赁AI硬件，企业可以避免一次性的高额投资，根据业务需求灵活调整硬件配置，有效降低运营成本。 专业设备支持：伽亚泰科技提供的AI硬件产品，专为高性能计算和数据分析设计，满足企业在航天军工，公安系统、城市管理、智慧停车、智慧社区、司法系统、轨道交通、智慧安防、工业系统、风电系统、智能运维等多个AI场景的应用需求。 全生命周期服务：从设备部署到维护升级，伽亚泰科技提供一站式服务，确保企业。 设备租赁流程 1 选择设备：企业根据自身需求选择需要的设备 2 签订租赁合同：企业与伽亚泰签订租赁合同，明确租赁期限、租金以及购买选项等条件。 3 租赁设备：企业支付协议中约定的租金和押金，并开始使用设备。 4 定期付款：企业按合同约定的周期支付租金，当租金总金额大于当前设备金额时，企业可选择当前设备归企业所有。 5 合同期满：租赁合同到期后，企业归还设备。伽亚泰退回押金。   伽亚泰AI算力产品租赁推荐: 目前,众多搭载最新的产品和方案正在陆续推出,其中比较热门的自主研发生产的算能BM1688、BM1684、BM1684X；瑞芯微RK3588等核心板、主板和AI边缘计算盒等等,有租赁需求的企业或个人,不妨重点关注一下这些产品! 更多资讯请关注IOEHM官方网站 www.ioehm.com   关于我们 北京伽亚泰科技有限公司是一家提供云边协同的AI算力产品与AI应用解决方案的人工智能企业。包含人工智能产品、数据采集产品、智慧商业显示产品、物联网光伏设备产品，并已在航天军工，公安系统、城市管理、智慧停车、智慧社区、司法系统、轨道交通、智慧安防、工业系统、风电系统、智能运维等多个AI场景得到成功应用。伽亚泰科技以“拥抱智能，计算未来”为核心理念，致力成为国内专业的，AI硬件解决方案供应商。

随着人工智能在安防、泛安防等领域迅速落地和普及，各类图像视觉类AI算法落地的精度和实际效果在提升，获得了更深广的业务价值，如安防领域的人脸布控、人车视频结构化等，泛安防的社区园区通行，新零售的VIP客户识别等，都是AI技术商业化的典型场景。 同时，视觉类AI算法的深度学习计算，也逐步从云端部署扩展到边缘部署。边缘的设备比云端多1-2个数量级，业内对边缘AI计算硬件的需求快速升温，大家呼唤高算力、低功耗、接口丰富的芯片和模组方案的出现，来替代原来的CPU、GPU方案。而比特大陆算丰AI计算模组SM5，定位为国内最强算力的AI边缘计算模组，成为让人眼前一亮的选择。它基于AI专用芯片(ASIC)，在算力上突破了17 TOPS量级，达到了惊人的16到30路的潜在视频计算分析能力。难得的是，在高算力同时保持了相对低功耗、被动式无风扇散热、接口丰富等优点。可以说是国内AI边缘计算模组中的领军产品，吸引了诸多安防、泛安防客户的眼球。不仅如此，作为国产厂商的纯自主研发产品，也为特种行业领域提供了新的选择。比特大陆算丰AI计算模组SM5实测效果如何，我们一一验证。 小体积 大集成 从外形来看，比特大陆算丰AI计算模组SM5 (Sophon SM5)极为小巧，尺寸仅为普通信用卡大小，算连接器为87×65×8mm，不算连接器为87×65×3mm。底座为144针高密接口，供客户开发底板，嵌入到各类设备之中。该模组采用宽温设计，散热方案可以选配比特大陆的被动或主动散热方案，客户也可自行设计。可适应-20℃到+55℃的工作环境，有效降低恶劣环境对模组的影响，从而支持系统的持续运作。模组满足极端环境的作业需求，可应用在室外半封闭场所。比特大陆该模组采用双模驱动，内置12G内存，既可作为AI计算的从设备(PCIE mode)，也可作为主设备独立运行(SOC mode)，可支持FP32(2.2T)高精度的计算，INT8计算经过自动化编译校准的精度损失可小于<0.5%。另外，该模组接口丰富，具有10+接口类型。支持PCIE EP/ PCIE RC / Ethernet / RS485/ RS232/ GPIO /SDIO / PWM等接口。扩展性强，可扩展USB/SATA/HDMI等，可扩展SATA存储，可扩展4G/5G/wifi等。总的来说，比特大陆算丰AI计算模组SM5体积小、低功耗、双网口、接口丰富，工作宽温，高集成度，可以方便的被集成在各类边缘计算设备、嵌入式设备、自动化机器之中。   SM5模组底面图 自主研发芯片 算力强大 比特大陆算丰AI芯片是其纯自主研发产品，具备200+专利申请。比特大陆算丰AI计算模组SM5基于比特大陆算丰AI芯片BM1684，为比特大陆的第三代云端AI芯片，属于历代规格最高，算力最强，同时3代的产品研发迭代，在客户持续使用反馈中，产品的成熟度得到了诸多行业客户的打磨和提升，进入了成熟阶段。判断芯片的主要标准即为算力、功耗。a&s实测该模组的算力达到17.6TOPS，在Winograd卷积加速下最高可达35.2TOPS。ARM CPU下算力最强，8核A53主频2.3GHz，边缘AI芯片内最强，可灵活开发应用。实测中，该模组Resnet50的测试吞吐可达到1000 张/秒以上。安防的应用要从整体的视觉应用层面，端到端的来看性能指标。典型的安防视觉AI计算过程包含从外部视频流/图片流进入模组，网口取数据，视频/图片解码，视频前后处理，AI计算，同时CPU参与部分计算，最终输出等。从该模组的测试结果看，其最高支持32路30FPS的1080P解码，支持H264/H265格式，支持视频编码最高960 FPS;具备硬加速的图像前后处理能力(Crop/Resize/色域变换)，有效提升应用性能。常见Resnet50等神经网络运行典型功耗12W以内，16路视频流全流程分析典型功耗为16W。在满载情况下，典型功耗也不到20W功耗。可以在无风扇的被动散热方案下，持续有效的长期运行。 业界比对测试 效果良好 除了从典型安防视觉AI计算过程衡量模组的算力和整体性能，a&s将英伟达TX2、华为ATLS200等模组方案与比特大陆算丰AI计算模组SM5进行横向对比测试，同类对比技术规格来看，算丰SM5的技术指标在CPU、AI算力、视频解码、内存、以太网端口等等都具备较大的优势，可以说说得上是业内超强算力。从测评数据中可以看出以下几点：在AI算力方面，与TX2 、ATLS200相比具有明显优势;在视频解码上，是TX2 、ATLS200的两倍;内存为12GB，是TX2 、ATLS200的1.5倍;以太网端口是2个，而TX2 、ATLS200均只有1个;从测评数据来看，比特大陆算丰AI计算模组SM5的优势相对英伟达TX2、华为ATLS200优势明显，虽然功耗相对较大，但与其余对比项相结合后，性价比仍然最高。 测试数据来源为比特大陆实验室 算力和AI分析路数从实际应用和神经网络benchmark两个角度测试比特大陆算丰AI计算模组SM5。该模组在安防的实际应用主要指标为可接入的视频路数和视频分析应用能力。在安装1块SM5模组搭载的测试底板后，引出来网络、电源等接口，将视频流服务器发过来视频进行多路处理和分析，并将检测人脸框打在视频流上编码输出显示。在16路1080p视频流输入的情况下，每路视频实时画面达到10人脸以上，单个SM5模组可以实现完全实时的满帧的处理人脸检测和跟踪。 上图是16路1080P的满帧处理情况，仅仅为初步部署，并未进行优化。用户可以自行开发算法软件，并进行适度优化，完全有可能实现单个模组超过16路甚至30路视频流的人脸检测分析，或者视频结构化的业务分析能力，可以说在应用端到端的算力非常强大。SM5模组的实际应用算力实测非常强，相应的神经网络模型速度肯定也很快。a&s将SM5模组、Nvidia TX2模组，以及Huawei ATLAS 200模组做了性能实测比对，在几种典型的神经网络分类模型测试中，吞吐数据如下表： 测试数据来源为比特大陆实验室从实测结果来看，在性能上，SM5相比TX2有十倍级别的性能优势。相比ATLAS 200，虽然理论峰值标称算力SM5和ATLAS200很接近(17.6T vs 16T)，但是从实测来看，SM5的性能倍数在最典型Resnet 50上有1.5倍的优势，在Mobilenet上有2.38倍的优势!这说明，标称算力和实际获得的算力具有一定的差别。算丰SM5具有较高的有效计算利用率。 总的来看，无论是实际应用的性能，还是神经网络模型的速度吞吐，SM5模组都是很强大的，和业内其他产品相比也有较大的优势。 工具链完备，易用度高 对于开发者而言，都希望开发简单易用，特别是从CPU，GPU等的以前的模型和算法，能够比较轻易的转到新的AI硬件上来。而比特大陆的算丰AI芯片的多种产品(板卡、模组、盒子)，保持统一的工具链和系统软件。其中工具链完备，开发友好：包括底层驱动环境、编译器、推理部署工具等一系列软件工具；支持Caffe、Tensorflow、PyTorch、PaddlePaddle等深度学习框架，离线编译和校准工具易用；完备的性能监控工具、神经网络运行库、视频编解码库、图像编解码库、图像处理库；可提供算法测试用例，包括人脸检测、物体检测等。 可应用场景广泛 比特大陆算丰AI计算模组SM5的定位是被集成，所以应用场景是多种多样的，包括了AI边缘计算服务器，智能NVR，AI边缘计算盒，机器人，大中型无人机等等。模组的主要功能就是进行视觉AI的计算，能够为传统产品附加AI功能，支持人脸检测与识别、面部表情分析、物体检测与识别、车牌识别、声纹识别等，可应用于人脸识别、自动驾驶、城市大脑、智能安防、智能医疗等人工智能场景，应用领域广泛。 可以说，BM1684作为比特大陆多年AI技术积累和沉淀的第三代AI芯片，构建的AI模组具有鲜明的特点，优势诸多。 产品特色 1、超强算力、低功耗、自主芯片。2、易被集成、低功耗、双网口、接口多。3、体积小，被动散热，易集成。4、双模驱动，接口丰富，扩展性强。 5、工具链完备，易用度高。 点评 这是一款算力超强的AI计算模组，从应用性能和神经网络实测来看，算力非常强大，可以说是目前阶段业内最强。同时具备视频解码、后处理、CPU强大能力，有可能在视觉AI全流程起到完美的加速效果。同时还保持了易集成，低功耗等特点，如此强大的边缘计算模组，确实是业内的强算力模组的最佳选择之一。预计算丰SM5模组会在安防、智慧城市、机器人、新零售等领域，加速AI在业务中的普及和落地。 主要规格参数 算力 17.6T算力，32路解码，16路-30路AI分析 芯片 比特大陆算丰品牌，自主研发12nm芯片BM1684，成熟第三代 功耗 <16瓦，被动散热，-20—55℃ (高温定制设计) 双模驱动 PCIE、SoC双模，FP32、INT8精度双模 集成度 信用卡大小，12G内存，10+接口类型 工具链 Caffe、Tensorflow、PyTorch、MXnet，Paddle Paddle （本次测试为a&s与厂家共同内部测试，产品后续发布时间敬请期待！）