Qwen3.5-2B部署教程:HTTPS反向代理配置(Nginx)+域名访问企业内网方案
Qwen3.5-2B部署教程HTTPS反向代理配置Nginx域名访问企业内网方案1. 项目概述Qwen3.5-2B是一款20亿参数的轻量级多模态大语言模型专为企业内网部署优化设计。该模型支持轻量对话、文案创作、多语言翻译、基础代码生成等功能特别适合需要本地化部署的场景。核心特点多模态能力支持图文对话、图表理解、截图OCR识别长文本处理可处理超长文档总结和知识库检索本地化部署完全离线运行数据不出内网低延迟响应优化后的推理速度适合实时交互2. 环境准备2.1 基础环境检查确保您的服务器已安装以下组件Ubuntu 20.04/22.04 LTSNginx 1.18Python 3.8Conda环境已预装torch28验证Nginx安装nginx -v2.2 模型服务状态确认检查Qwen3.5-2B服务是否正常运行supervisorctl status qwen3-2b-webui预期输出应包含RUNNING状态。如未运行使用以下命令启动supervisorctl start qwen3-2b-webui3. Nginx反向代理配置3.1 基础HTTP代理配置创建Nginx配置文件sudo nano /etc/nginx/conf.d/qwen-proxy.conf添加以下内容server { listen 80; server_name your-domain.com; location / { proxy_pass http://localhost:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } }测试并重载Nginx配置sudo nginx -t sudo systemctl reload nginx3.2 HTTPS安全加固3.2.1 证书申请以Lets Encrypt为例安装certbot工具sudo apt install certbot python3-certbot-nginx获取证书sudo certbot --nginx -d your-domain.com3.2.2 自动更新证书设置自动续期sudo certbot renew --dry-run4. 企业内网域名访问方案4.1 内网DNS配置在内网DNS服务器添加A记录qwen.internal.example.com → 192.168.1.1004.2 Nginx内网专用配置创建专用配置文件server { listen 443 ssl; server_name qwen.internal.example.com; ssl_certificate /etc/letsencrypt/live/qwen.internal.example.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/qwen.internal.example.com/privkey.pem; location / { proxy_pass http://localhost:7860; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; } }5. 安全增强措施5.1 访问控制配置添加基础认证sudo apt install apache2-utils sudo htpasswd -c /etc/nginx/.htpasswd usernameNginx配置追加auth_basic Restricted Access; auth_basic_user_file /etc/nginx/.htpasswd;5.2 防火墙规则设置sudo ufw allow 443/tcp sudo ufw allow 80/tcp sudo ufw enable6. 服务管理6.1 常用命令汇总操作命令启动服务supervisorctl start qwen3-2b-webui停止服务supervisorctl stop qwen3-2b-webui查看日志tail -f /root/Qwen3.5-2B/logs/webui.log重启Nginxsudo systemctl restart nginx6.2 开机自启验证检查Supervisor服务状态systemctl status supervisor7. 常见问题排查7.1 端口冲突解决查看端口占用情况ss -tlnp | grep 7860终止冲突进程kill -9 PID7.2 证书更新失败处理手动更新证书sudo certbot renew --force-renewal7.3 性能优化建议对于高并发场景建议调整Nginx参数events { worker_connections 1024; } http { proxy_read_timeout 300; proxy_connect_timeout 300; }获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。