利好

高通发布 IMSDK 2.0 支持生成式 AI 边缘推理

08-26

新增 Python/C++ API 及 AI 代理技能,支持多模型切换与企业级连接,加速机器人等落地。

据 Woofun AI 消息,高通发布 Qualcomm Intelligent Multimedia SDKIMSDK)2.0,面向 Qualcomm Dragonwing 及 Linux 边缘平台提供统一 AI 与多媒体开发框架。该版本新增 Python 和 C++ Pipeline API、应用构建器、生成式 AI 推理、容器化微服务、AI 编程代理技能以及"文档即代码"功能,旨在简化摄像头、音视频、传感器、AI 推理及云端连接的集成,加速智能相机、机器人、无人机及工业 AI 等产品落地。

IMSDK 2.0 基于 GStreamer 架构,结合硬件加速插件、零拷贝数据传输和多流、多模型管线能力,支持视觉 AI、LLM/VLM、音频 AI 及文生图等应用。开发者可通过 QAIRTONNX RuntimeTFLite 等多种推理运行时,在不重构整体多媒体管线的情况下切换 AI 模型。其容器化微服务覆盖推理、分析和平台服务,并支持 Kafka、MQTT、AWS IoT 及 Azure IoT 等企业级连接。

此外,引入的 AI 编程代理技能可通过自然语言辅助完成管线配置、模型接入、编译、调试及部署。高通称,该 SDK 已被三星亚马逊Bose 等企业用于相关产品开发。

WOOFUN AI

影响力评估 · 一键速读

IMSDK 2.0 将生成式 AI 推理能力深度整合至边缘多媒体管线,降低了在机器人、无人机等终端设备上部署 LLM/VLM 的技术门槛。支持主流推理运行时无缝切换及企业级 IoT 连接,有助于推动边缘 AI 从单一视觉任务向多模态智能演进。三星、亚马逊等头部企业的采用,验证了该框架在复杂工业场景下的工程可行性,或加速边缘侧 AI 应用的标准化与规模化落地。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论

回复 @用户
0/800

暂无评论

消息提醒

登录后查看消息
查看全部消息管理订阅