始智AI wisemodel.cn开源社区
始智AI wisemodel.cn社区将打造成huggingface之外最活跃的中立开放的AI开源社区。欢迎《》以及《》。
始智AI wisemodel.cn开源社区5月份逐步完善了模型的在线运行体验的功能，已经有不少用在wisemodel上进行了体验。最近我们又全面支持了ollama在线运行，ollama支持的gguf格式的模型，提供modelfile即可在wisemodel上直接运行。欢迎大家到到社区上创建gguf模型的体验，同时也欢迎大家把更多的gguf格式的模型文件发布到社区上来。
在模型列表页面的“在线体验模型”按钮可以筛选目前平台上已经支持在线体验的所有模型。
选择其中的gguf格式的模型，进入模型详情页面之后，点击右上角“在线体验”按钮之后将启动当前模型的在线部署流程。在“体验”空间页面，点击右上角的“新建体验”按钮，选择gguf模型镜像，也可以启动在线部署的流程。
通常ollma启动加载模型过程持续3分钟左右，大家可以留意一下体验状态的变化，如果体验过程中遇到任何问题可以微信联系wisemodel（文末有添加wisemodel的方式）。虽然ollma支持纯CPU运行，不过我们测试下来纯CPU运行输出结果非常慢，有些回答一个稍微复杂的问题可能需要2-3分钟才能输出结果。特别提醒一下，目前平台上ollama运行的gguf模型尚不支持流式输出，有些q4、q5等量化在纯CPU上运行输出结果很慢，如果体验这几个模型时请耐心一些。
欢迎在科研院所、企业等从事开源工作的朋友，将开源的模型、代码、和数据集等开源成果都发布到wisemodel社区。欢迎大家扫码加入wisemodel的社群：
加入wisemodel社群
----- END -----
wisemodel相关
系统升级
系列模型：
关于wisemodel更多信息
1
欢迎持续关注和支持
开源社区建设需要长期坚持和投入，更需要广大用户的积极参与、贡献和维护，欢迎大家加入wisemodel开源社区的志愿者计划和开源共创计划。期待更多开发者将开源成果，包括模型、数据集和代码等发布到 wisemodel.cn 社区，共建中立、开放的AI开源社区生态。欢迎扫码添加wisemodel微信，申请加入wisemodel社群，持续关注wisemodel.cn开源社区动态。
2
欢迎加盟wisemodel开源社区
始智AI wisemodel社区自2023年9月上线以来，逐渐成为影响力日益扩大的中立开放的AI开源社区，为了加快公司发展，我们长期需要技术、运营等人才加盟，技术侧重在AI infra、后端开发，熟悉K8S、模型训练和推理等技术， 以及熟悉开发者生态运营的成员，欢迎感兴趣的朋友加盟，可以通过添加wisemodel微信，或者将简历投递到邮箱：liudaoquan@wisemodel.cn
3
欢迎投稿优质内容
欢迎投稿分享人工智能领域相关的优秀研究成果，鼓励高校实验室、大企业研究团队、个人等，在wisemodel平台上分享各类优质内容，可以是AI领域最新论文解读、最新开源成果介绍，也可以是关于AI技术实践、应用和总结等。投稿可以发邮件到liudaoquan@wisemodel.cn，也可以扫码添加wisemodel微信。
4
关于wisemodel开源社区
始智AI wisemodel.cn开源社区由清华校友总会AI大数据专委会副秘书长刘道全创立，旨在打造和建设中立开放的AI开源创新社区，将打造成“HuggingFace”之外最活跃的AI开源社区，汇聚主要AI开源模型、数据集和代码等，欢迎高校科研院所、大型互联网公司、创新创业企业、广大个人开发者，以及政府部门、学会协会、联盟、基金会等，还有投资机构、科技媒体等，共同参与建设AI开源创新生态。
向上滑动查看
热门跟贴