Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

量化paddle模型后通过Paddle2Onnx导出onnx存在的问题 #1247

Closed
God-song opened this issue May 11, 2024 · 29 comments
Closed

量化paddle模型后通过Paddle2Onnx导出onnx存在的问题 #1247

God-song opened this issue May 11, 2024 · 29 comments
Assignees
Labels
Bug Something isn't working PaddleDetection

Comments

@God-song
Copy link

现在使用paddledetection中的slim配置文件,进行了QAT量化训练,已经设置了onnx_format=True
image

量化训练后,得到结果
进行导出
,通过文档正常导出
image
得到paddle infer模型
image

接下来通过paddle2onnx,将该结果导出量化后的 onnx
用这个命令可以导出
cmd = ['paddle2onnx', '--model_dir', str(output_dir), '--model_filename', 'model.pdmodel',
'--params_filename', 'model.pdiparams', '--save_file', model_onnx,
'--opset_version', '13', '--deploy_backend', 'tensorrt','--enable_onnx_checker', 'True',
'--enable_dev_version', 'True']

image
但是没有量化配置文件(calibration_table.txt),calibration.cache
,根本没有这个文件。

环境如下
image

如果使用 --save_calibration_file 指定保存路径。会直接报错,显示没有该参数,paddle提供的量化模型文档的步骤,根本无法正常的让我导出量化的模型,请告知如何正常导出,并使用

@God-song
Copy link
Author

将paddle2onnx升级到1.2.1版本后会出现以下错误
image

@Zheng-Bicheng Zheng-Bicheng added the Bug Something isn't working label May 16, 2024
@Zheng-Bicheng
Copy link
Collaborator

您这个是哪个模型呀

@Zheng-Bicheng Zheng-Bicheng self-assigned this May 16, 2024
@God-song
Copy link
Author

@Zheng-Bicheng PP-yoloe-L 模型,目标侦测

@Zheng-Bicheng
Copy link
Collaborator

我看了下,这应该是Windows的Paddle2ONNX版本过低导致的问题,请在amd64 Linux下使用哈,否则需要自行编译Paddle2ONNX

@God-song
Copy link
Author

God-song commented May 17, 2024 via email

@God-song
Copy link
Author

image

@Zheng-Bicheng
Copy link
Collaborator

我看你这张Log图片ONNX应该是正常导出了呀,量化配置文件(calibration_table.txt)是什么东西呢?Paddle2ONNX的哪个文档有提到这个文件吗?

@Zheng-Bicheng
Copy link
Collaborator

然后一个是您用Email回复的话,Github回复格式是有问题的,麻烦您到Github回复

@God-song
Copy link
Author

image
但是dao导出会出现这些问题,我现在期望是训练pp-yoloe-L模型目标侦测模型,训练完成后,期望感知量化训练,得到int8模型,然后再导出onnx

@Zheng-Bicheng
Copy link
Collaborator

这个是早期的导出方式了,新的导出方式是没有这个量化配置文件的

@Zheng-Bicheng
Copy link
Collaborator

你把你的模型压缩成zip上传一下把,我看一下

@God-song
Copy link
Author

好的,最主要
image
hai'you还有这个错误

@God-song God-song reopened this May 17, 2024
@God-song
Copy link
Author

@Zheng-Bicheng 能给个联系方式吗,正在上传

@Zheng-Bicheng
Copy link
Collaborator

@Zheng-Bicheng 能给个联系方式吗,正在上传

在Issues回复就行了哈

@God-song
Copy link
Author

God-song commented May 17, 2024 via email

@Zheng-Bicheng
Copy link
Collaborator

你这个模型怎么1.5个G呀

@God-song
Copy link
Author

God-song commented May 17, 2024 via email

@Zheng-Bicheng
Copy link
Collaborator

我的意思是,PPYOLOE模型训练出来会这么大吗?达到1.5个G

@God-song
Copy link
Author

God-song commented May 17, 2024 via email

@Zheng-Bicheng
Copy link
Collaborator

只需要把你需要的量化模型发过来就行哈,我这边1.5个G要下好久。还有,不要用邮箱回复Github信息,你现在的消息已经出现一堆乱码了。

@God-song
Copy link
Author

@Zheng-Bicheng 分享文件:test_ppyoloe_slim.zip
链接:https://pan.xunlei.com/s/VNy3aLEzkefLeE2Bt_FXKGs_A1?pwd=73gr#
复制这段内容后打开手机迅雷App,查看更方便

@Zheng-Bicheng
Copy link
Collaborator

@Zheng-Bicheng 分享文件:test_ppyoloe_slim.zip 链接:https://pan.xunlei.com/s/VNy3aLEzkefLeE2Bt_FXKGs_A1?pwd=73gr# 复制这段内容后打开手机迅雷App,查看更方便

迅雷网盘我没办法下载呀,这玩意要下载客户端,Github上传不了你的模型吗?

@Zheng-Bicheng
Copy link
Collaborator

可以直接把压缩包拖到回复框里的,会自动上传

@God-song
Copy link
Author

God-song commented May 17, 2024 via email

@Zheng-Bicheng
Copy link
Collaborator

我这边没有复现这个问题,是可以正常转换的,你看一下Paddle2ONNX是不是最新版本,最新版本应该是1.2.x

@God-song
Copy link
Author

God-song commented May 23, 2024 via email

@Zheng-Bicheng
Copy link
Collaborator

新建一个环境,PaddlePaddle升级到2.6,Paddle2ONNX升级到1.2.x再进行转换哈,不再对以往的环境做支持。然后重复一下,请您在Github网页端回复!!!!!你的每一个评论都有乱码,这样是不方便后续的用户浏览这个Issues的,我现在需要一个一个的删除你的乱码,给我增加工作量了。

@Zheng-Bicheng
Copy link
Collaborator

或者使用PaddleDetection 2.7 + PaddlePaddle2.6 + Paddle2ONNX 1.2.x

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
Bug Something isn't working PaddleDetection
Projects
None yet
Development

No branches or pull requests

2 participants