随着智能手机的功能越来越强大,越来越多的工作负载正在设备上和云外移动。高通的MWC演示展示了其人工智能研究团队的工作。
AI艺术生成器是一种有趣且越来越流行的工具,用于通过输入提示并允许AI模型(将在数十亿图像的数据集上进行训练)来创建图像和艺术品。OpenAI的DALL-E2工具是主要示例,但还有其他几个工具,包括StabilityAI的StableDiffusion。
StableDiffusion是一种开源大型语言AI模型,在LAION-5B数据集的23亿张英语标记图像的子集上进行训练,该数据集包含58.5亿个图像文本对。您可以通过Web访问在云中运行的StableDiffusion,或者在配备GPU封装6GB或更多视频RAM的PC上运行,或者在运行MacOS(13.1)或iOS(16.2)的AppleSilicon设备上运行。最新版本的StableDiffusion2.1于2022年12月发布。
现在,在世界移动通信大会(MWC)上,高通将首次展示在采用该公司最新的骁龙8Gen2芯片组的高端智能手机上本地运行的StableDiffusion。
这一开发是高通人工智能研究团队的工作,利用了高通的人工智能堆栈和开发者工具。StableDiffusion语言模型使用int8进行量化和优化,这使得整个模型可以存储在智能手机上。四个AI堆栈优化可以在查询输入后的15秒内生成高质量的512x512像素图像,显示从随机像素到完成图像的20个推理步骤。“我们正在不断改进延迟时间和准确性,”高通公司副总裁兼全球产品、合作伙伴和技术营销主管MikeRoberts在MWC前的简报中说。
性能、隐私、安全和成本方面的考虑推动了在设备上而不是在云中处理AI工作负载。罗伯茨说:“设备上的越多,在边缘,我们可以使这项技术跨应用程序的可扩展性就越大。”