始智AI wisemodel.cn开源社区
始智AI wisemodel.cn社区是源自中国的中立开放的AI开源社区。正在。wisemodel社区上线,H800/H20等资源上线,价格实惠,灵活方便,支持在线微调训练模型,及模型和,并。
CogView3-Plus是由智谱技术团队推出的图像生成模型,它是 CogView3 的 DiT 版本。在CogView3(ECCV'24)的基础上引入了最新的 DiT 框架,以实现整体性能的进一步提升。CogView3已将代码、模型和技术报告开源,模型已经发布在始智AI wisemodel开源社区,wisemodel社区上也已经提供了CogView3的镜像,可以通过创建开发环境来使用CogView3模型了。
https://wisemodel.cn/models/ZhipuAI/CogView3-Plus-3B
01
使用CogView3-Plus-3B-Deploy镜像直接运行
点击模型详情页-“训练或微调”按钮,创建一个开发环境,选择“CogView3-Plus-3B-Deploy”的镜像,使用1张A5000或3090的配置(如果需要跑2048*2048的图片可以选择1张H20的配置),选择CogView3-Plus-3B的模型文件路径“/llm/ZhipuAI/CogView3-Plus-3B”,完成其他属性的填写或选择,然后直接点击下一步:
然后确认一下计费方式,如果是简单体验可以选择按量计费的模型,如果需要使用更长的时间,也可以选择包周或包月的模式,相比于按量有一些折扣。确定计费方式之后,可以直接点击提交订单:
创建完成之后,等待1分钟左右,开发环境进入运行中的状态,可以通过ssh登录到容器内或者通过notebook的方式把 CogView3-Plus-3B服务启动起来。
下面通过SSH的方式来把 CogView3-Plus-3B服务启动起来, 在 终端里通命令行SSH连接到开发环境,输入密码登录到开发环境:
登入进来之后 先到代码所在的路径:
cd /home
cd CogView3
cd inference
进入inference路径之后直接执行:
python3 gradio_web_demo.py
CogView3-Plus-3B服务正常启动
服务启动之后回到开发环境详情里,点击“服务端口”选项卡,申请一个公网访问的地址,申请好之后直接复制链接到浏览器打开
发现服务确实正常启动了,并且可以直接在线运行进行图片生成了。
通过notebook的操作也基本类似。
02
使用基础镜像重新开始安装部署
创建开发环境部署,进入wisemodel的“算力”模块,选择3090-24G-PCIe,点击“创建开发环境”。CogView3-Plus生图大概占用20GB左右的显存。
分别填写好“中文名称”、“英文名称”,选择好”开发环境标签“、“选择镜像”、“资源配置”和“模型文件”后,具体选择可以参考图中红框内容,点击下一步。
选择好“停止时间”后,点击“提交订单”。
开发环境此时创建完成。需要注意右上角,等待20秒左右会变成绿色的启动成功,状态变成“运行中”。
此时,我们可以选择使用SSH进行开发,或者使用notebook进行开发,此处我们提供notebook的教程。
进入notebook后,点击Terminal,打开终端。
进入开发环境之后,可以先执行nvidia-smi查看一下GPU相关的信息。
可以发现目录下包括code、dataset和model三个文件夹,进入code文件夹,从github上下载CogView3仓库文件。进入CogView3文件夹,可以发现仓库文件已经被下载到code文件夹中。
进入inference文件夹中,可以发现文件夹中有一个requirements.txt文件。使用pip install -r requirements.txt安装推理所需要的python库。(速度慢可切换pip的清华镜像)
再使用pip install git+https://github.com/huggingface/diffusers.git安装diffusers库。(注意:此处不可以用pip install diffusers,因为CogView3-Plus还没有同步到pip中)
更改gradio_web_demo.py文件中的模型路径和端口。打开gradio_web_demo.py文件,将pipe中的文档路径改为“/llm/ZhipuAI/CogView3-Plus"
同时,我们可以在wisemodel的“服务端口”中申请端口,并且将得到的端口信息填到gradio_web_demo.py文件最后一行中。
将得到的端口信息填到gradio_web_demo.py文件最后一行中。
此时,如果我们运行python gradio_web_demo.py会发现遇到以下问题:
经查,发现是环境中的torchvision版本过低,安装0.19.0版本的torchvision解决问题。
使用命令pip install torchvision==0.19.0。之后我们再运行python gradio_web_demo.py。
可以发现,模型能够正常加载。
用浏览器打开““服务端口”中的“域名地址”,输入prompt,即可生成图像。生成一张图像大概需要1分钟左右。
加入图像生成群
整理:开源共创志愿者 潘佳栋
----- END -----
wisemodel相关
系统升级
系列模型:
关于wisemodel更多
1
欢迎持续关注和支持
开源社区建设需要长期坚持和投入,更需要广大用户的积极参与、贡献和维护,欢迎大家加入wisemodel开源社区的志愿者计划和开源共创计划。期待更多开发者将开源成果,包括模型、数据集和代码等发布到 wisemodel.cn 社区,共建中立、开放的AI开源社区生态。欢迎扫码添加wisemodel微信,申请加入wisemodel社群,持续关注wisemodel.cn开源社区动态,
2
欢迎加盟wisemodel开源社区
始智AI wisemodel社区自2023年9月上线以来,逐渐成为影响力日益扩大的中立开放的AI开源社区,为了加快公司发展,我们长期需要技术、运营等人才加盟,技术侧重在AI infra、后端开发,熟悉K8S、模型训练和推理等技术, 以及熟悉开发者生态运营的成员,欢迎感兴趣的朋友加盟,可以通过添加wisemodel微信,或者将简历投递到邮箱:liudaoquan@wisemodel.cn
3
欢迎投稿优质内容
欢迎投稿分享人工智能领域相关的优秀研究成果,鼓励高校实验室、大企业研究团队、个人等,在wisemodel平台上分享各类优质内容,可以是AI领域最新论文解读、最新开源成果介绍,也可以是关于AI技术实践、应用和总结等。投稿可以发邮件到liudaoquan@wisemodel.cn,也可以扫码添加wisemodel微信。
4
关于wisemodel开源社区
始智AI wisemodel.cn开源社区由清华校友总会AI大数据专委会副秘书长刘道全创立,旨在打造和建设中立开放的AI开源创新社区,将打造成“HuggingFace”之外最活跃的AI开源社区,汇聚主要AI开源模型、数据集和代码等,欢迎高校科研院所、大型互联网公司、创新创业企业、广大个人开发者,以及政府部门、学会协会、联盟、基金会等,还有投资机构、科技媒体等,共同参与建设AI开源创新生态。
向上滑动查看
热门跟贴