model-deploy

模型选型、量化、推理后端参数、多卡/多机调度与性能调优。根因在模型与推理服务层的问题归这里。