0
本文作者: 星瑶 | 2025-01-08 11:52 |
1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。
为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、MXNet等机器学习和神经网络的模型进行压缩,并转换为适合端侧部署的最优模型,以匹配不同智能终端应用场景。AI Stack支持Android、Linux、Ubuntu等系统,帮助终端客户实现跨芯片平台、跨操作系统的端侧高性能推理与部署。
AI Stack拥有完整AI工具链,集成易于部署的代码,可进行数据标注、模型训练、模型微调。针对模型移植,AI Stack提供模型转换、模型量化和算子替换等能力。广和通还提供包含基准测试、性能监控、性能分析等评测服务,协助开发者更直观地验证终端部署效果。
高性能推理引擎作为AI部署的关键组件,将训练、转换完成的模型高效部署在端侧并执行推理任务,从而在实际业务场景中实现多样化的AI应用。推理引擎支持C++/Python/Java等多种编程语言接口,可满足跨平台的应用开发,显著降低开发者端侧AI开发的难度和复杂度。通过异构调度、和硬件加速等策略,可最大化发挥AI模组性能,提升推理速度,降低功耗。
同时,AI Stack提供一套全面、丰富的模型仓,包含机器视觉、听觉、多模态、大语言模型以及行业端侧模型等海量模型,可助力行业终端实现目标检测、语义分割、对话问答、语音识别、图像问答、多语言翻译等功能。
得益于其通用性、易用性、高效性等特点,AI Stack可最大程度满足客户多层级算力要求,缩短终端开发周期,降低端侧AI开发难度,助力智能座舱、智能穿戴、智能零售、机器人等千行百业的业务场景拥抱端侧AI。
广和通AI研究院院长刘子威表示:
“广和通于2024年成立AI研究院,并将端侧AI作为公司战略方向之一,助力产业数智化升级。随着终端芯片算力、模型能力增强,以及应用场景对实时响应及隐私保护需求增加,端侧AI将助力更多IoT场景智能化。Fibocom AI Stack为客户提供了一站式端侧AI部署的能力,未来将广泛帮助智能零售、智能网联车、智能穿戴、机器人等场景快速AI升级。广和通将积极联合产业伙伴拓展AI创新应用,助推端侧AI商业落地。”
雷峰网版权文章,未经授权禁止转载。详情见转载须知。