使用convert_hf_to_gguf_update.py转换后得bce-reranker-base_v1得gguf文件，在ollama内使用报Error: invalid file magic？

[lianlian1212]

/llama.cpp/convert_hf_to_gguf_update.py . /bce-reranker-base_v1/ 转换为gguf文件成功

但是ollama使用此文件报异常，Error: invalid file magic

ollama直接使用bce-reranker-base_v1得文件报，Error: unsupported architecture

想请问下，有没有什么方法可以让ollama能使用此模型呢？

[lianlian1212]

已经解决了，下载这个 https://huggingface.co/maidalun1020/bce-reranker-base_v1/tree/refs%2Fpr%2F9

[chminsc]

已经解决了，下载这个 https://huggingface.co/maidalun1020/bce-reranker-base_v1/tree/refs%2Fpr%2F9

请问转化出来是量化版本？能否不量化？

[lianlian1212]

已经解决了，下载这个 https://huggingface.co/maidalun1020/bce-reranker-base_v1/tree/refs%2Fpr%2F9

请问转化出来是量化版本？能否不量化？

没有量化