微软推出Olive AI绘图Stable Diffusion出图速度翻倍

微软推出一款易于使用的硬件感知模型优化工具Olive，直接导致Stable Diffusion的出图速度翻倍，这下玩大了！

微软推出的Olive，汇集了跨模型压缩、优化和编译的行业领先技术。给定一个模型和目标硬件，Olive会组合最适合的优化技术，输出在云端或边缘设备上进行推理的最高效模型，同时考虑到准确性和延迟等约束条件。

由于每个机器学习加速器供应商都实现了自己的加速工具链以充分利用其硬件，因此硬件感知优化呈碎片状。有了Olive，可以为云端和边缘设备上的模型优化减少工程师努力,开发人员需要学习并使用多个针对特定硬件供应商的工具链来准备并优化他们训练好的部署模型。Olive旨在通过整合和自动执行针对所需硬件目标的优化技术来简化体验。

微软推出的Olive后不久，随即英伟达Nvidia宣布：

“5 月 24 日，我们将发布 532.03 版驱动程序中的最新优化，这些优化与 Olive 优化模型相结合，可大幅提升 AI 性能。使用 Olive 优化版本的 Stable Diffusion 文本到图像生成器和流行的 Automatic1111 发行版，新驱动程序的性能提高了 2 倍以上。”

532.03 版驱动程序，特别针对了机器学习和Stable Diffusion进行了优化，Stable Diffusion的基础模型以及lora模型都可以通过该工具进行优化处理，微软展示了相关优化demo脚本，不过lora还没适配safetensors格式，实际使用需要等实装。

微软推出Olive详情网址：

https://github.com/microsoft/Olive/tree/main/examples/directml/stable_diffusion AI领域如此大的技术更新，显卡厂商自然不甘落后纷纷跟进，英伟达宣布支持微软推出Olive优化的N卡驱动，经过测试，旗舰RTX4090显卡在768分辨率下的Stable Diffusion跑分提升2倍性能，提升效果十分惊人。