当前位置：首页 > news >正文

Ollama Embedding模型运行与使用

news 来源：原创 2025/6/8 10:22:35

1. Ollama中运行 Embedding 模型

选择你想使用的 Embedding 模型：

ollama run mofanke/acge_text_embedding
ollama run shaw/dmeta-embedding-zh
ollama run herald/dmeta-embedding-zh

2. Ollama中 Embedding 模型的使用

可以在向量数据库应用中，通过如下方式使用Ollama中 Embedding 模型。

主要代码如下，主要是URL的设置。

ollama_ef = embedding_functions.OllamaEmbeddingFunction(
                url="http://192.2.22.55:11434/api/embeddings",
                model_name="nomic-embed-text:latest"
)

应用示例代码：

# 不同嵌入模型及函数示例
from chromadb.utils import embedding_functions

#默认使用all-MiniLM-L6-v2，维度为384
default_ef = embedding_functions.DefaultEmbeddingFunction()
embedding1 = default_ef("this is test")

#Ollama 部署的embedding模型
ollama_ef = embedding_functions.OllamaEmbeddingFunction(
                url="http://192.2.22.55:11434/api/embeddings",
                model_name="nomic-embed-text:latest"
)

embedding2 = ollama_ef("this is test")
#OpenAI
openai_ef = embedding_functions.OpenAIEmbeddingFunction(
                api_key="sk-fastgpt",
                model_name="m3e-large",  #"text-embedding-ada-002"
                api_base="http://192.2.22.55:3001/v1"
            )
embedding3 = openai_ef("this is test")

参考链接

[1] Ollama 运行 Embedding 模型

[2] 向量数据库-CSDN博客