为了优化硬件部署的模型,AMD 特地为开发者提供了专门的量化工具。为了简化开发体验,AMD 提供了针对特定框架预配置的 Docker 容器。此外,该平台还可实现无缝集成 Visual Studio 和 Python 等流行开发环境,使 AI 开发变得更加容易。
简单来说,AMD 的 Ryzen XDNA AI 引擎是一种位于芯片上的“加速器”,专为低强度 AI 推理工作负载设计,如音频、照片和视频处理,旨在提供比在线服务更快的响应时间,并且比基于 CPU 或 GPU 的解决方案更节能。
IT之家从官方获悉,该引擎可以处理最多 4 个并发 AI 流,并处理 INT8 和 bfloat16 指令。AMD 声称该引擎比苹果 M2 处理器的神经引擎更快。
值得一提的是,AMD 的主要竞争对手英特尔将于本月将推出代号为 Meteor Lake 的酷睿 Ultra 处理器,而这款 CPU 引入了 AI 加速模块。虽然目前还不清楚其 AI 引擎是否能够带来什么样的益处,但至少可带来与 AMD Ryzen AI 引擎相媲美的竞品。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
上一篇:浩云科技:AutoGPT是一个开源的AI代理Python应用程序
下一篇:2018排名前10的AI开源项目速来围观!