AI编辑器(FIM补全,AI扩写)简介
文章目录
- 前言
- 为什么选择千问的这个AI模型
- 什么是FIM
前言
由于AI逐渐越来越流行,身为前端也要向AI靠拢a
打算写一个编辑器 当然也不能只是一个简单的编辑器,肯定要涉及点AI的东西 那很容易能够想到扩写等功能 :
涉及技术栈: react18 antd5.x redux unocss(样式库) tiptap(富文本编辑库)
涉及到的AI: Qwen/Qwen2.5-Coder-7B-Instruct
涉及到的功能:
- 支持md,各种文本操作(居中 下划线 高亮 斜线 插入链接 图片 blabla等等)
- 支持目录展示 目录定位
- 支持AI扩写 AI改错 AI文本补全 代码自动补全(类vscode 但是有bug )
为什么选择千问的这个AI模型
这也是别无选择a 其他模型要钱
我怎么知道的? 硅基流动
在硅基流动中我看了看支持FIm模型并且免费的只有这个模型了 ,当然其他的我也不信邪的试过,然后失败了
当然最后我也没用硅基流动简介调用API 因为里面是python示例 而且信息较少 因此直接去阿里官网看了
什么是FIM
简单来说 就是一般的AI 如果不使用fim 的话 就是通过prompt 提示词来进行一个补全,也就是所谓的前缀补全 一问一答
当然不使用FIM也可以通过前后缀补全
你猜怎么用? 直接在prompt 里告诉AI 前缀是啥 后缀是啥 告诉他 我要中间的部分 给我补全一波,这种方法我也用了 是用来降级处理的
为什么不直接用prompt 的方式当做主方式
是因为使用下来我发现 准确度远远没有使用fim的准确度高