现在AI模型很多,我曾经就分享过产品经理还是停留在API调用上,都没有亲自去在AI模型的参数、研发上做自己的二次开发。

因为我带着团队正在完成云木鸟新媒体伴侣的AI公众号排版,所以我们就选了一个能够支持若干API对接的AI模型管理工具:dify

也就是这段时间我几乎花了一周的时间来完成dify的部署、知识库训练以及任务流的搭建,还在进行中。

上面我分享过6个AI模型管理工具,这些模型工具是开源的,针对对话、企业开发、以及个人知识库的使用,有各自的擅长点。

如果一点都没有开发能力,想简单粗糙的使用那么就使用anythingllma即可,傻瓜即可用,但是无法二次开发。

作为产品经理显然是要开发的,那么就离不开API接入了,比如现在支持如下对话型应用API,就是DIfy支持的接口调用与监控。包括还有各类Wikipedia手册支持调试。

而如果要完成自己的开发,我们选择DIFY,还有一个重要原因是其开源的外,每个封装的应用都支持各类API的接入以及配套的开发与调试套件。

DIFY提供了每个AI应用的日志监控与标注,方便随时了解自己组件的agent应用能力的使用情况与并发数,做好数据分析。

比如我们创建的公众号排版agent,就可以用dify作为基座来完成排版,这些公众号排版的格式本身就是一堆HTML和CSS,所以就可以自己先利用dify实现公众号编排,再将这个机器人封装为API提供给我们的系统即可使用。

而产品经理除了设计其产品原型设计,还有设计任务以及提示词,才能够完成机器人可以用。

只有当agent可用了之后,才能说可以将其封装成一个API给到自己系统进行集成

并在dify创建的时候,除了多个类型的应用可以选择,从最简单的工作流、到agent、到其他工具,每一个都可以作为一个单独的API进行封装。

如上我用chatflow搭建了一个知识库工作流,其中AI模型的处理节点与知识库工作内容都可以用以dify为基础开始建设。

在DIFY,我们可以放心的创建自己工作流程,这种AI任务工作流程是可以支持若干外部工具的以及自己企业应用调用

工具调用几乎能够实现其他工具调用,从文字转声音到声音转文字都支持

使用DIFY之前,是需要你要有这样的模型,比如我们这里有声音转文字的模型,因为我还没有下载,所以无法选择。

本地化部署dify就需要相当多的显存可以使用,从现在的模型来看,要想使用DEEPSEEK V3、R1、以及llama或阿里同义千问至少要准备1TB的显存才可以使用,而现在在显卡如此昂贵的情况下这个还是有限制。

从科研的成本来看,调用API是最快的,但是也不最佳选择。加上如果像我们这样做医疗方面,数据的安全性也更加重要,所以API并不合适。

API的调用就涉及到对这些API进行付费,当然现在也有聚合的API的方式,但是要想分类调用模型就不太现实了。

Dify的测试,就是AI产品模型需求测试

在Dify里面有若干的测试参数选项,如下是这些参数的选择

这些都是我们可以针对其AI模型的参数进行调整,让AI产品经理即使不会Python开发,也能够手动微调模型。

后续会单独针对这些参数的配置分享我们在做产品设计中的技巧。

目前Dify支持多个工具的应用创建,包括聊天助手、流程、机器人、多个机器人的方式。

工具从通用的到进阶用户,学习dify的各个工具使用,还要关系到提示词的使用,可以配置其中的关键词与输入内容。

如下是模型设置,有多个参数可以选择,可以让其任务流的控制更加精准

在dify上我们可以支持调用查询、对话、用户ID以及文件等若干属性来完成任务流的创建,相比直接粗的文本输入,精细化的变量参数更加可以控制模型的生产力。

用Dify和直接用原型做AI产品设计的区别

可以这么说,Dify是AI产品经理的模型需求内核,配装构建出能够使用的AI任务流以及AI模型机制,才能够说界面与交互长什么样子。

而界面长什么样子并不困难,这都是前端工作,而让AIagent实现对应的结果,除了配置任务流还有提示工程、还有知识库都需要进行建设。

产品经理的工作就变得非常具体了。

Dify支持市面上众多的开源或闭源模型,这种建设框架其实也是AI产品经理要推崇的,也就是不管你AI模型是哪一个,我的产品框架不变,更换API即可,从而不影响我的用户使用。

而要训练成为这种产品设计框架,dify的配置与应用的创建必不可少。

今天的分享就在这里

“关注我,一个产品经理的创业故事”

每日案例拆解库,AI等产品打卡群

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品。

在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回

报名后添加星球助理

PMTalk123