阿里云百炼平台使用避坑记录
阿里推出的全链路大模型服务与应用开发平台:
https://bailian.console.aliyun.com/?tab=home#/home
我们在研究/使用AI大模型时很可能会用到上面的大模型服务,这里随时随地记录此平台的使用避坑项。
一、“业务空间:key、大模型/服务”管理方式
遇到问题:
在进行阿里云百炼ACP课程时,使用云端qwen-max模型,明明API KEY配置的没问题,打印出来的也正确,但与大模型对话,就是报错:
解决:
如上管理方式,所以使用百炼平台时一定先有“业务空间”的概念,key和你要使用的大模型都是属于某个业务空间的,所以
1、若无业务空间,先开通:
https://bailian.console.aliyun.com/?spm=5176.12818093_47.resourceCenter.4.3be92cc9P7LQ3u&tab=globalset#/efm/business_management?agentName=&pageNo=1&z_type_=%7B%22pageNo%22%3A%22num%22%7D
点上图1创建业务空间。
2、开通大模型
没开通也无法在代码里API使用。
创建后点上图2进入:
你要开通哪个,就点后面的“编辑”,然后“模型调用”和“模型部署”下面的“未授权”就变成可编辑状态,直接置为“已授权”。也可以编辑其他字段。
一个业务空间中可以开通多个大模型/服务,比如上面的两个红框条目都可以开通。
3、创建业务空间的api key
然后点上图左侧栏里的“API-Key”,进入创建/管理 api key界面:
点击“创建API-KEY”:
选账户
归属业务空间 里选刚才创建的业务空间。
这样这个key就关联着这个业务空间及其中开通的所有大模型/服务,你在代码里才能使用大模型。
号外:
阿里云百炼平台的大模型一般都有免费额度的,你可以先试用或作为调研使用。需注意要开启“免费额度用完即停”,避免被意外扣费。步骤如下:
1)进入大模型广场:
https://bailian.console.aliyun.com/?tab=model#/model-market
2)点击你要使用的模型的“查看详情”,进入如下页面:
3)按你在代码里使用的模型的名字,打开后面的“免费额度用完即停”开关就好。