大家好,好久没有更新了,一直忙于工作,学习,感情的事,一直也不太顺利,就没有更新。平时都以充电学习为主,所以也就没有精力分享干货给大家。
今天分享的是一个 github 上可以白嫖主流模型的渠道,然后调用api到dify中去使用。(这样就可以高度自定义化)
网址
可以看到,有很多模型可以用,这里以 GPT-4o 举例,点击进入
进入下一个页面以后,找到右侧的 Get APl key (获取 API 密钥)
点击右侧的 Get developer key (获取开发者密钥)
如果点击 Get developer key 按钮后,出现以下界面的朋友,说明第一次使用,没有创建过github账号,创建一下,再继续后面的操作!
注册好github账号以后,再回到刚才的页面,继续点击 Get developer key 按钮
然后点击 创建新的令牌
- 填写 Token 名称 (名称随意)
- 选择 No expiration (永不过期)
点 生成令牌
复制 Token
切记!!!复制完,立马保存到 例如:txt文档、微信文件助手、或笔记中保存好
借助dify平台使用api
Dify 平台就是一个能让你方便创建智能体的地方,跟扣子一样。
特点:支持多种模型、方便数据处理和接入多种服务且便于部署管理的平台。
网址:https://dify.ai/zh
进入主页,点 开始使用
邮箱登录以后,点击左侧的 创建空白应用
填写 智能体名称(名字随意)
点击创建以后,进入新的页面,点击右上角个人用户名称,在下拉菜单中,找到设置,点击它
选择这个 兼容 Open Ai -API模型 的接口 ,滑动条大概滑动到中下位置。
添加模型后,会弹窗以下窗口
1.填写模型名称:gpt-4o
2.填写刚才在github上创建的Token
4.选择 Function Call (函数调用)
5.选择 支持
6.选择 支持
滑动条往下滑,选择 4、5、6 中对应的选项,然后 保存
保存以后,回到模型供应商,滑动条滑最前面,就可以看到已添加的模型供应商 OpenAl-APl-compatible ,确认已添加后,关闭窗口
当前页右上角,点击 gpt-3.5-turbo-1106 这个模块,进行模型更换。
回到模型供应商,找到刚才的模型,点击 显示模型
鼠标移动到这里,会显示配置,点击它
点完配置以后,弹出的页面中,再点一次保存
再次点击 gpt-3.5-turbo-1106 这个模块,进行模型更换。
可以看到已经有了 新添加的 ,从 github 调用的 gpt-4o ,不是那个紫色图标的 gpt-4o-mini
最后选中 gpt-4o ,点击它,就更换好模型了。
确认更换好以后,在页面左侧,填写智能体的提示词,给它人设和任务设定
如果需要模型识别图片功能,打开视觉开关
设置好以后,在右侧,输入问题,测试智能体是否连接成功
最后
1.发布
2.更新
3.对话
这里的运行,代表着和智能体对话的聊天界面,是在外部聊天,而不是在当前创建智能体的后台操作页面中对话。
外部对话,简洁美观,不会误操作导致设置不当无法使用
点击 运行 后,会跳转到新的对话页面。
注意:当前网页的链接,可以随时和你的智能体对话,把这个链接发送到手机,在手机浏览器中,也可以使用。
即使不开梯子,也可以用。等于不开梯子,就可以和 gpt-4o 模型对话
补充:
1.对话次数
每日对话次数 150 次
每分钟限制对话 15 次
最大输入token量:8000
最大输出token量:4000
进入后,在文章底部有说明
2.模型调用
模型列表中的其他模型,也可以尝试调用,我只是单一举例说明演示了 gpt-4o 模型的调用。
如果需要调用api,给智能体创建知识库,可以选择以下模型 OpenAl Text Embedding 3 (large)
调用方法和开始的步骤一样
模型名称和地址填写
回到模型供应商
填入:
模型名称
text-embedding-3-large
Api调用地址
https://models.inference.ai.azure.com
token
(建议重新创建一个)
以上分享,有任何问题,可以在下面评论区互动。
暂无评论...