Onnxruntime源码解析
好久没有写博客了,这次我们来看一看onnxruntime的源码。大模型时代,模型部署尤为重要,onnx格式将数据和模型结构都保存在onnx文件中,不需要依赖其他库,另外还能做模型量化等操作,是一个非常好用的工具。之前只是简单地使用,没有细细研究过它的代码,这次来看一看,看到哪算哪。
我们选择了当前属于次新的1.22.2分支:Github链接
好久没有写博客了,这次我们来看一看onnxruntime的源码。大模型时代,模型部署尤为重要,onnx格式将数据和模型结构都保存在onnx文件中,不需要依赖其他库,另外还能做模型量化等操作,是一个非常好用的工具。之前只是简单地使用,没有细细研究过它的代码,这次来看一看,看到哪算哪。
我们选择了当前属于次新的1.22.2分支:Github链接