Dify+Ollama+deepseek部署本地大模型

发布时间：2025-04-14 19:44:16编辑：123阅读（59）

    Dify+Ollama+deepseek部署本地大模型

    DeepSeek 是一款开创性的开源大语言模型，凭借其先进的算法架构和反思链能力，为 AI 对话交互带来了革新性的体验。

    通过私有化部署，你可以充分掌控数据安全和使用安全。你还可以灵活调整部署方案，并实现便捷的自定义系统。


    Dify 作为同样开源的 AI 应用开发平台，提供完整的私有化部署方案。

    通过将本地部署的 DeepSeek 服务无缝集成到 Dify 平台，企业可以在确保数据隐私的前提下，

    在本地服务器环境内构建功能强大的 AI 应用。


    以下是私有化部署方案的优势：

    性能卓越：提供媲美商业模型的对话交互体验。

    环境隔离：完全离线运行，杜绝数据外泄风险。

    数据可控：完全掌控数据资产，符合合规要求。


    登录dify, http://ip地址:端口，点击设置:

    image.png

    选择模型供应商，找到ollama点击安装：

    image.png


    Ubuntu 安装和Ollama

    curl -fsSL https://ollama.com/install.sh | sh


    ollama下载模型

    ollama run deepseek-r1:14b

    image.png


    ubuntu中ollama修改监听地址为0.0.0.0:11434 ,在service下添加一行

    sudo vim /etc/systemd/system/ollama.service

    Environment="OLLAMA_HOST=0.0.0.0:11434"

    image.png

    保存，重启ollama服务

    sudo systemctl daemon-reload

    sudo systemctl restart ollama.service

    再启动模型就恢复正常了，监听的是0.0.0.0这个IP了

    ollama run deepseek-r1:14b

    然后就可以通过ip地址+端口访问ollama

    image.png


    dify+ollama本地部署deepseek14b模型，点击模型供应商，配置如下：

    image.png

    保存后点击查看

    image.png

    访问dify点击工作室，点击创建空白应用

    image.png

    下一步

    image.png

    对话

    image.png

关键字：

上一篇： Ubuntu上安装部署Dify

下一篇： 没有了