当前位置：首页 > news >正文

源码分析Eino框架工具调用--创建篇

news 2025/8/12 11:14:05

Eino框架中通过tool node这个官方的组件给模型加上了手脚，工具有多种创建方式，本文不讨论如何创建tool而是聚焦于调用工具过程的底层实现，关于工具的其他内容可以参考这里创建tool
调用一个工具需要这些东西：名称，描述，参数说明以及实现(本地or mcp)
先看tool node的创建，总的来说创建节点的过程分为以下几步

info方法检测
invoke && stream方法实现，二选一即可
打包原信息，和运行时有关
打包具体的实现了runnable这个interface的struct，至此通过下面的函数实现了所有工具以来信息的

// NewToolNode creates a new ToolsNode.
// e.g.
//
//	conf := &ToolsNodeConfig{
//		Tools: []tool.BaseTool{invokableTool1, streamableTool2},
//	}
//	toolsNode, err := NewToolNode(ctx, conf)
func NewToolNode(ctx context.Context, conf *ToolsNodeConfig) (*ToolsNode, error) {tuple, err := convTools(ctx, conf.Tools)if err != nil {return nil, err}return &ToolsNode{tuple:                tuple,unknownToolHandler:   conf.UnknownToolsHandler,executeSequentially:  conf.ExecuteSequentially,toolArgumentsHandler: conf.ToolArgumentsHandler,}, nil
}

最后的ToolNode结构其实是这样的

type ToolsNode struct {tuple                *toolsTuple // 核心结构unknownToolHandler   func(ctx context.Context, name, input string) (string, error) // 当模型调用了不存在的func时触发这个handler，若没有指定会直接报错executeSequentially  bool // 多个工具的调用顺序是穿行还是并行toolArgumentsHandler func(ctx context.Context, name, input string) (string, error) // 处理入参的handler
}
/* 
这个是toolNode的核心结构,可以看到indexes是map其他的都是切片，这点是为了根据被调用工具的名字快速找到index后去meta和rps中找到需要的其他数据
meta存储一些元信息
rps是工具执行的关键，实现了eino框架的invoke或者是stream
*/
type toolsTuple struct {indexes map[string]int meta    []*executorMetarps     []*runnablePacker[string, string, tool.Option]
}

我们这里重点关注一下tuple的创建过程，以invoke调用进行说明，创建tuple的源码如下

func convTools(ctx context.Context, tools []tool.BaseTool) (*toolsTuple, error) {ret := &toolsTuple{indexes: make(map[string]int),meta:    make([]*executorMeta, len(tools)),rps:     make([]*runnablePacker[string, string, tool.Option], len(tools)),}for idx, bt := range tools {// 检测是否实现了info方法tl, err := bt.Info(ctx)if err != nil {return nil, fmt.Errorf("(NewToolNode) failed to get tool info at idx= %d: %w", idx, err)}toolName := tl.Namevar (st tool.StreamableToolit tool.InvokableToolinvokable  func(ctx context.Context, argumentsInJSON string, opts ...tool.Option) (string, error)streamable func(ctx context.Context, argumentsInJSON string, opts ...tool.Option) (*schema.StreamReader[string], error)ok   boolmeta *executorMeta)if st, ok = bt.(tool.StreamableTool); ok {streamable = st.StreamableRun}if it, ok = bt.(tool.InvokableTool); ok {invokable = it.InvokableRun}// 工具只有invoke和stream两种调用方式，如果这两个方法都没实现会直接error，同时进行了流的转换，因为eino框架默认支持了流的拼接if st == nil && it == nil {return nil, fmt.Errorf("tool %s is not invokable or streamable", toolName)}// 设置上面所说的meta信息if st != nil {meta = parseExecutorInfoFromComponent(components.ComponentOfTool, st)} else {meta = parseExecutorInfoFromComponent(components.ComponentOfTool, it)}ret.indexes[toolName] = idxret.meta[idx] = meta// 这个packer通过源码可以看到是包装出一个struct实现了runnable这个interface，也就是说我们最终调用工具的时候，其实是通过这个interface的具体实现来的ret.rps[idx] = newRunnablePacker(invokable, streamable,nil, nil, !meta.isComponentCallbackEnabled)}return ret, nil
}func parseExecutorInfoFromComponent(c component, executor any) *executorMeta {componentImplType, ok := components.GetType(executor)if !ok {componentImplType = generic.ParseTypeName(reflect.ValueOf(executor))}return &executorMeta{component:                  c,isComponentCallbackEnabled: components.IsCallbacksEnabled(executor),componentImplType:          componentImplType,}
}