源码云商 
Hi20240217
RK3588 ArmNN CPU/GPU ResNet50 FP32/FP16/INT8 推理测试
本文在RK3588芯片上测试了ResNet-50模型在不同精度（FP32、FP16、INT8）下的推理性能与精度损失。首先将PyTorch模型转换为ONNX格式，再进一步转换为TFLite格式，并在RK3588平台上使用ArmNN进行CPU和GPU推理测试。通过均方误差（MSE）和执行时间评估模型表现。结果显示，FP32和FP16模型在CPU和GPU上均能正确推理，而INT8模型在CPU上出现较大精度损失，暂未分析原因。测试数据表明，GPU推理时间显著优于CPU，FP16模型在保持精度的同时提升了推理速度。
作者推荐
- LaoYuanPython
- 优快云 2020年博客之星TOP3。博客主要关注音视频剪辑、数字图像处理、图形界面开发等Python相关知识！ 另有高数、图像处理、OpenCV、Python以及架构类等电子书，如需要请扫描博客左下部二维码加微公号咨询。
关注
- 胡小牧
- 岁月推动着年华，伴随着流水的脚步走过春夏秋冬。回想一路走来磕磕绊绊，感谢前辈们的无私奉献，本文重在共享,欢迎大家转载,评论,收藏,点赞,谢谢,如果您对文章存在疑问，或者和您的文章类似，请私信，----------------期待是心痛的根源，心不动，则不痛。
关注
- 蒙娜丽宁
- 华为HDE（HUAWEI Developer Experts)，UnityMarvel创始人，开放原子基金会银牌讲师，51CTO学堂金牌讲师，IT畅销书作者。从事软件研究和开发超过20年，长期从事编译器、人工智能、Python、Go、JavaScript、Java及跨平台技术的研究和开发工作，曾出版超过40本IT图书。主要著作包括《Python从菜鸟到高手》、《Python爬虫从菜鸟到高手》、《奇妙的Python：神奇代码漫游之旅》。
关注
- 翱翔天地
- 技术在于专注！主要从事前端开发，熟悉vue、jQuery、uniapp等，有微信公众号和微信小程序开发经验，熟练使用echarts、highcharts、帆软报表；了解Java、python和mysql
关注
