1. 重启deepseek快速恢复

声明:该公众号大部分文章来自作者日常学习笔记,也有部分文章是经过作者授权和其他公众号白名单转载.

未经授权,严禁转载,如需转,联系开白.

请勿利用文章内的相关技术从事非法测试,如因此产生的一切不良后果与文章作者和本公众号无关.

现在只对常读和星标的公众号才展示大图推送,建议大家把「雪之梦技术驿站」“设为星标”,否则下次可能看不到了!

微信公众号「雪之梦技术驿站」

1.1. 引言

云服务每月赠送了 10000 分钟的免费时长,连续 24 开机只能用一周左右,本着节省的原则即开即用,不浪费时间.

所以总结出了快速上手 ai 的小妙招,细水长流,省点用!

腾讯云 Cloud Studio: https://ide.cloud.tencent.com/dashboard/gpu-workspace

1.2. 现象

工作空间关机后重新开启,内网穿透已失效,Ollama服务仍然还在正常运行!

ollama serve
#Error: listen tcp 0.0.0.0:6399: bind: address already in use

# Ollama is running(base)
curl localhost:6399

关机前的开启的内网穿透公网 ip 已失效: https://4024c15876f0c76757.gradio.live/

1.3. 解决

所以重新生成公网 ip 即可,也可以直接指定默认端口6399或者动态识别ollama端口:

# 自动配置内网穿透端口
PORT=$(lsof -i -P -n | grep "ollama" | awk '{print $9}' | cut -d':' -f2) && /root/miniforge3/bin/gradio-tun --port $PORT

重新生成新的动态公网 ip:

现在使用浏览器可直接访问该临时公网 ip:

千万记得一定要保存好自己的公网 ip,不要轻易暴露出去,可以自用也可以配置 ai 服务!

1.4. 应用

现在可以通过编程的方式访问我们自己部署好的 ai 服务,也可以集成到对话框中可视化问答使用.

  • 接口调用
curl -X POST "https://替换成自己的公网ip.gradio.live/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
  "model": "deepseek-r1:8b",
  "messages": [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "你是谁!"}
  ],
  "stream": false
}'

  • ai 对话

可以对接 Cherry Studio 这类 ai 助手应用,如果又不懂的地方,参考上一篇文章: DeepSeek 这个春节也太火爆了,现在就教你如何私有化部署云端 AI 大模型!

ai 对话连续思考能力展示:

1.5. 总结

本文主要介绍了如何在尽可能节省免费时长的前提下,重新开启 ai 服务以及简单使用示例,仅供学习交流使用!

ollama serve
#Error: listen tcp 0.0.0.0:6399: bind: address already in use

# Ollama is running(base)
curl localhost:6399

# 自动配置内网穿透端口
PORT=$(lsof -i -P -n | grep "ollama" | awk '{print $9}' | cut -d':' -f2) && /root/miniforge3/bin/gradio-tun --port $PORT

# 普通curl请求
curl -X POST "https://替换成自己的ip.gradio.live/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{
  "model": "deepseek-r1:8b",
  "messages": [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "你是谁!"}
  ],
  "stream": false
}'

下次遇到"服务器繁忙"这种提示,有了腾讯云 Cloud Studio 我们就可以开启专属 AI 服务了,想怎么用就怎么用,关键还免费不限制请求频率!

1.6. 推荐

1.7. 关注

微信公众号「雪之梦技术驿站」

欢迎扫码关注,私信回复『加群』一起交流技术

最后更新时间: 2025-02-07 10:27:35
作者: 雪之梦技术驿站
来源: 雪之梦技术驿站
本文原创发布于「雪之梦技术驿站」,转载请注明出处,谢谢合作!

/snowdreams1006-wechat-open.png

results matching ""

    No results matching ""