百川2-13B-Chat WebUI v1.0 保姆级教程check.sh状态检查→浏览器访问→对话实测全流程你是不是刚拿到一个预装了百川2-13B-Chat WebUI的服务器看着一堆文件有点懵不知道从哪下手别担心这篇教程就是为你准备的。我花了几天时间把这个WebUI从部署到使用全流程跑了一遍把踩过的坑、总结的经验都写在这里。你不需要懂深度学习也不需要会写代码跟着我的步骤10分钟就能让这个130亿参数的大模型跟你聊天。1. 先搞清楚你在用的是什么在开始操作之前我们先简单了解一下这个工具到底是什么。1.1 百川2-13B-Chat是什么简单说这是一个能跟你对话的AI助手。它基于百川智能开发的130亿参数大语言模型专门做了4bit量化处理。量化是什么意思打个比方原本这个模型需要24GB显存才能运行就像一辆大卡车需要很大的停车场。经过4bit量化后它只需要10GB左右显存相当于把大卡车改造成了小货车占的地方小了但运货能力模型性能只下降了1-2%。对你来说意味着什么普通消费级显卡比如RTX 4090就能跑起来响应速度快对话流畅支持中文和英文可以商用需要申请授权1.2 项目基本信息项目具体信息说明访问地址http://0.0.0.0:7860这是服务监听的地址实际访问http://你的服务器IP:7860从外部访问的地址项目路径/root/baichuan2-13b-webui/所有文件都在这里检查脚本/root/baichuan2-13b-webui/check.sh一键检查服务状态管理脚本/root/baichuan2-13b-webui/manage.sh服务管理工具现在你对要用的工具有个基本概念了接下来我们进入实战环节。2. 第一步检查服务状态最简单也最重要很多人一上来就急着打开浏览器结果发现网页打不开。其实第一步应该是检查服务是否正常运行。2.1 运行状态检查脚本打开终端如果你用Windows可以用PuTTY或MobaXterm连接服务器输入以下命令/root/baichuan2-13b-webui/check.sh这个脚本是我专门写的它会帮你检查所有关键环节。运行后你会看到类似这样的输出╔══════════════════════════════════════════════════════════════╗ ║ 百川2-13B-Chat WebUI 状态检查 ║ ╚══════════════════════════════════════════════════════════════╝ 【服务状态】 ✅ 运行中 baichuan-webui RUNNING pid 12345, uptime 1:23:45 【端口监听】 ✅ 7860 端口监听中 tcp 0 0 0.0.0.0:7860 0.0.0.0:* LISTEN 12345/python 【GPU 状态】 型号: NVIDIA GeForce RTX 4090 D 显存: 21500 MiB / 24576 MiB (87.5%) 利用率: 85% 【WebUI 访问】 ✅ 可访问 URL: http://0.0.0.0:7860 【开机自启】 ✅ 已启用 Supervisor 服务: enabled 项目配置: 已安装 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ ✅ 所有检查通过 项目运行正常可以正常使用。 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━2.2 看懂检查结果检查脚本会告诉你几个关键信息服务状态显示RUNNING就对了如果是STOPPED或FATAL说明服务没启动端口监听确认7860端口是否被监听这是Web服务的入口GPU状态查看显存使用情况确保有足够空间运行模型访问地址告诉你应该用什么地址访问开机自启确认服务是否配置了开机自动启动如果检查不通过怎么办别急后面有专门的故障排除章节。现在我们先假设一切正常继续下一步。3. 第二步浏览器访问Web界面服务检查正常后就可以打开浏览器访问了。3.1 确定访问地址这里有个容易混淆的点服务监听的是0.0.0.0:7860但你在浏览器里不能直接输入这个。分两种情况情况1你在服务器本机上操作如果你直接在服务器桌面打开浏览器可以用http://127.0.0.1:7860或者http://localhost:7860情况2从其他电脑访问如果你从自己的笔记本电脑或台式机访问需要知道服务器的IP地址http://服务器IP地址:7860怎么查服务器IP在服务器终端输入ip addr show或者hostname -I你会看到类似192.168.1.100这样的地址这就是你的服务器IP。3.2 第一次访问的注意事项第一次打开网页时可能会遇到以下情况加载时间稍长正常模型需要加载到GPU显存中这个过程大概需要30秒到1分钟。你会看到加载进度条耐心等待即可。安全警告可忽略因为是HTTP服务而不是HTTPS浏览器可能会提示不安全点击高级→继续前往即可。界面加载完成当看到类似下面的界面时说明加载成功了┌─────────────────────────────────────────────────────────┐ │ 百川2-13B-Chat 聊天助手 │ ├─────────────────────────────────────────────────────────┤ │ │ │ 对话历史区 │ │ ┌─────────────────────────────────────────────────┐ │ │ │ │ │ │ │ 欢迎使用百川2-13B-Chat │ │ │ │ 我可以帮你回答问题、写代码、创作内容等。 │ │ │ │ │ │ │ └─────────────────────────────────────────────────┘ │ │ │ ├─────────────────────────────────────────────────────────┤ │ 高级设置可折叠 │ │ ├─ Temperature: [|] 0.7 │ │ ├─ Top-p: [|] 0.9 │ │ └─ Max Tokens: [|] 512 │ ├─────────────────────────────────────────────────────────┤ │ [在这里输入你的问题...] [发送] │ └─────────────────────────────────────────────────────────┘4. 第三步开始你的第一次对话界面加载完成后就可以开始跟AI聊天了。我们先从简单的开始。4.1 基础对话测试在底部的输入框里输入你好请介绍一下你自己。然后按回车或者点击发送按钮。你会看到AI的回复大概是这样你好我是百川2-13B-Chat一个由百川智能开发的大语言模型。我基于130亿参数的架构经过大量文本数据训练能够理解和生成自然语言文本。 我可以帮助你 1. 回答各种问题知识问答、解释概念等 2. 协助写作文章、邮件、报告等 3. 代码生成和解释 4. 翻译任务 5. 创意内容创作 6. 学习辅导 我的回复是基于训练数据生成的虽然会尽力提供准确信息但建议对重要信息进行核实。有什么我可以帮你的吗恭喜你的第一次对话成功了。4.2 试试更多功能现在你可以问各种问题了这里有几个推荐的问题可以测试模型的不同能力测试代码生成能力帮我写一个Python快速排序算法要求有详细注释。测试知识问答用通俗易懂的方式解释什么是区块链技术。测试创意写作写一个关于人工智能帮助老人生活的短故事300字左右。测试多轮对话先问Python和JavaScript有什么区别等AI回答后接着问那它们各自适合做什么类型的项目你会发现AI记得之前的对话内容。4.3 界面功能详解让我们仔细看看Web界面的各个部分1. 对话历史区显示你和AI的所有对话记录最新的对话在最下面可以滚动查看历史2. 输入框在这里输入你的问题支持多行输入ShiftEnter换行按Enter或点击发送提交3. 发送按钮点击发送当前输入快捷键CtrlEnterWindows/Linux或 CmdEnterMac4. 清除按钮点击开始新的对话会清空当前对话历史模型会忘记之前的对话内容5. 复制按钮鼠标悬停在AI回复上时出现点击复制该条回复到剪贴板6. 高级设置可折叠Temperature控制回答的随机性Top-p控制词汇选择范围Max Tokens控制回答的最大长度5. 高级设置详解让AI回答更符合你的需求你可能注意到了界面上的三个滑动条它们可以微调AI的回答风格。5.1 Temperature温度控制创意程度这个参数控制AI回答的随机性范围是0.1到2.0。怎么理解温度想象一下低温0.1-0.3像严谨的科学家每次回答都很稳定、一致中温0.4-0.7像经验丰富的专家平衡稳定性和创造性推荐默认值0.7高温0.8-1.2像创意作家回答更有新意和变化超高温1.3-2.0像天马行空的艺术家回答可能很惊喜也可能很离谱实际效果对比问同样的问题写一句关于春天的诗Temperature0.2稳定春风拂面暖花开满园香。Temperature1.0有创意细雨润新绿燕归筑旧巢一季花开一季梦。Temperature1.8很随机数字春天在代码中绽放AI吟唱着0和1的诗歌。使用建议写代码、数学计算、事实问答用低温0.1-0.3日常对话、一般任务用中温0.4-0.7默认0.7就很好创意写作、头脑风暴用高温0.8-1.2实验、探索新想法可以试试超高温1.3-2.05.2 Top-p核采样控制词汇选择范围是0.1到1.0默认0.9。简单理解低Top-p0.1-0.5只从最可能的几个词里选回答更保守、可预测高Top-p0.9-1.0从更多候选词里选回答更丰富、多样和Temperature的区别Temperature控制有多随机Top-p控制从多少候选词里随机使用建议保持默认0.9就好一般不需要调整。如果你发现AI回答总是用相似的词汇可以稍微调高一点。5.3 Max Tokens最大长度控制回答长短范围是1到2048默认512。Tokens是什么可以粗略理解为字数但比字数复杂一点英文1个token约等于0.75个单词中文1个token约等于1-2个汉字设置建议设置值大概字数适合场景128约100字简短回答、事实查询512约400字中等长度回答推荐默认值1024约800字详细解释、较长文章2048约1600字很长的内容、完整文章注意设置太大会让回答过长可能包含无关内容设置太小会导致回答被截断不完整首次使用建议用512根据需求调整6. 实用技巧如何问出更好的问题AI的回答质量很大程度上取决于你怎么提问。这里分享几个实用技巧。6.1 清晰具体的提问不好的提问写代码AI不知道你要什么代码可能随便给一段。好的提问请用Python写一个快速排序算法要求 1. 包含详细的注释说明每一步 2. 包含测试用例 3. 说明算法的时间复杂度更好的提问我需要一个用户注册功能的Python代码使用Flask框架要求 1. 接收用户名、邮箱、密码 2. 密码需要加密存储 3. 验证邮箱格式 4. 返回JSON格式的响应 5. 包含错误处理6.2 让AI扮演角色你可以指定AI的角色让它用特定身份回答作为老师你是一位经验丰富的Python老师请用通俗易懂的方式解释什么是装饰器并举例说明。作为翻译你是一位专业的翻译请将以下英文技术文档翻译成地道的中文保持技术术语准确 [粘贴英文文档]作为顾问你是一位技术架构师请帮我分析一下微服务架构和单体架构的优缺点以及各自的适用场景。6.3 分步骤提问对于复杂任务拆分成小步骤第一步帮我列出开发一个博客系统需要哪些功能模块 第二步基于上面的功能模块设计数据库表结构。 第三步为用户管理模块编写RESTful API接口。6.4 要求特定格式AI可以按照你要求的格式输出表格格式请用表格对比Python、JavaScript、Java三种语言的优缺点包含学习曲线、性能、应用场景等维度。JSON格式请用JSON格式返回以下城市的信息北京、上海、广州、深圳包含城市名称、人口、GDP、特色产业。Markdown格式请用Markdown格式写一篇关于机器学习的入门指南包含标题、章节、代码块和列表。6.5 代码审查和调试审查代码请帮我审查以下Python代码指出潜在问题并提供改进建议 def process_data(data): result [] for i in range(len(data)): if data[i] 0: result.append(data[i] * 2) return result解释错误我运行Python代码时遇到这个错误IndexError: list index out of range请解释原因并给出解决方法。7. 服务管理和故障排除虽然服务一般都能正常运行但了解一些管理命令还是有必要的。7.1 常用管理命令检查服务状态最常用/root/baichuan2-13b-webui/check.sh使用Supervisor管理# 查看状态 supervisorctl status baichuan-webui # 启动服务 supervisorctl start baichuan-webui # 停止服务 supervisorctl stop baichuan-webui # 重启服务修改配置后常用 supervisorctl restart baichuan-webui查看日志# 查看访问日志谁访问了服务 tail -f /root/baichuan2-13b-webui/logs/access.log # 查看错误日志出问题时看这里 tail -f /root/baichuan2-13b-webui/logs/error.log # 使用管理脚本查看最近日志 /root/baichuan2-13b-webui/manage.sh logs7.2 常见问题解决问题1网页打不开检查步骤先运行检查脚本/root/baichuan2-13b-webui/check.sh如果服务没运行启动它supervisorctl start baichuan-webui检查端口是否被监听netstat -tulpn | grep 7860应该看到0.0.0.0:7860在LISTEN状态。检查防火墙如果有# 查看防火墙状态 sudo ufw status # 如果防火墙开启添加规则 sudo ufw allow 7860问题2回复速度很慢可能原因和解决首次加载慢第一次使用需要加载模型到显存大概30秒到1分钟正常现象。GPU被其他任务占用nvidia-smi查看GPU使用率如果接近100%可能有其他任务在运行。Max Tokens设置太大尝试从2048降到512或256。问题太复杂拆分成小问题。问题3回复不完整或中断解决方法增大Max Tokens参数重新提问加上请继续或接着说分步骤提问不要一次问太多问题4GPU内存不足检查GPU状态nvidia-smi如果显存不足停止服务释放显存supervisorctl stop baichuan-webui等待几秒后重启supervisorctl start baichuan-webui如果还不行重启服务器sudo reboot问题5服务开机不自启检查# 检查Supervisor服务 systemctl is-enabled supervisor.service # 检查项目配置 ls -l /etc/supervisor/conf.d/baichuan-webui.conf如果没启用# 启用Supervisor开机自启 sudo systemctl enable supervisor.service # 重新加载配置 sudo supervisorctl reread sudo supervisorctl update7.3 性能优化建议如果感觉响应慢降低Max Tokens从512降到256或128使用更简单的问题避免一次问太多内容关闭其他GPU应用确保GPU专用于百川模型定期重启服务每周重启一次释放资源监控资源使用# 查看GPU状态 watch -n 1 nvidia-smi # 查看CPU和内存 htop8. 总结从新手到熟练用户的完整路径通过这篇教程你应该已经掌握了百川2-13B-Chat WebUI的完整使用流程。让我们回顾一下关键步骤8.1 快速使用指南第一步检查状态/root/baichuan2-13b-webui/check.sh看到所有✅就继续有问题按第7章解决。第二步浏览器访问http://你的服务器IP:7860第一次加载需要耐心等待30秒左右。第三步开始对话从简单问题开始你好介绍一下你自己逐步尝试复杂任务根据需要调整Temperature等参数第四步进阶使用学习如何提问更清晰尝试让AI扮演不同角色使用分步骤提问处理复杂任务8.2 最佳实践建议根据我的使用经验给你几个实用建议1. 提问要具体越具体的问题得到越有用的回答。不要问怎么写代码要问用Python写一个用户登录功能要求验证用户名密码返回JSON响应。2. 善用角色扮演让AI作为老师、顾问、翻译等角色回答会更专业。3. 复杂任务分步骤把大任务拆成小问题一步步解决。4. 合理设置参数日常对话Temperature0.7, Max Tokens512代码生成Temperature0.3, Max Tokens1024创意写作Temperature1.0, Max Tokens7685. 定期检查服务每周运行一次check.sh确保服务正常运行。8.3 下一步学习方向如果你已经熟练使用基础功能可以尝试1. 探索更多应用场景代码审查和优化技术文档写作学习辅导和答疑创意内容生成2. 学习提示词工程如何设计更好的提示词Prompt来获得更精准的回答。3. 集成到其他应用通过API方式将百川模型集成到你自己的项目中。4. 性能调优学习如何根据你的硬件配置优化模型性能。百川2-13B-Chat是一个功能强大的工具无论是学习、工作还是创作都能给你很大帮助。关键是多实践多尝试你会发现它比你想象的更聪明。现在就去打开浏览器开始你的AI对话之旅吧获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。