web服务无法启动

[wangwei0305]

全部都启动成功了，就是8051端口访问不了。
netstat查看也没有服务。不知道为什么？
==============================Langchain-Chatchat Configuration==============================
操作系统：Linux-6.5.0-14-generic-x86_64-with-glibc2.35.
python版本：3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0]
项目版本：v0.2.9
langchain版本：0.0.352. fastchat版本：0.2.34

当前使用的分词器：ChineseRecursiveTextSplitter
当前启动的LLM模型：['chatglm3-6b'] @ cuda
{'device': 'cuda',
'host': '127.0.0.1',
'infer_turbo': False,
'model_path': '/opt/chat/chatglm3-6b',
'model_path_exists': True,
'port': 20002}
当前Embbedings模型： bge-large-zh @ cuda
==============================Langchain-Chatchat Configuration==============================

2024-01-11 08:38:05,714 - startup.py[line:651] - INFO: 正在启动服务：
2024-01-11 08:38:05,714 - startup.py[line:652] - INFO: 如需查看 llm_api 日志，请前往 /opt/chat/Langchain-Chatchat/logs
2024-01-11 08:38:07 | ERROR | stderr | INFO: Started server process [3536]
2024-01-11 08:38:07 | ERROR | stderr | INFO: Waiting for application startup.
2024-01-11 08:38:07 | ERROR | stderr | INFO: Application startup complete.
2024-01-11 08:38:07 | ERROR | stderr | INFO: Uvicorn running on http://127.0.0.1:20000 (Press CTRL+C to quit)
2024-01-11 08:38:08 | INFO | model_worker | Loading the model ['chatglm3-6b'] on worker b67d4760 ...
Loading checkpoint shards: 0%| | 0/7 [00:00<?, ?it/s]
Loading checkpoint shards: 14%|██▌ | 1/7 [00:00<00:02, 2.44it/s]
Loading checkpoint shards: 29%|█████▏ | 2/7 [00:00<00:02, 2.27it/s]
Loading checkpoint shards: 43%|███████▋ | 3/7 [00:01<00:01, 2.28it/s]
Loading checkpoint shards: 57%|██████████▎ | 4/7 [00:01<00:01, 2.35it/s]
Loading checkpoint shards: 71%|████████████▊ | 5/7 [00:02<00:00, 2.30it/s]
Loading checkpoint shards: 86%|███████████████▍ | 6/7 [00:02<00:00, 2.24it/s]
Loading checkpoint shards: 100%|██████████████████| 7/7 [00:02<00:00, 2.61it/s]
Loading checkpoint shards: 100%|██████████████████| 7/7 [00:02<00:00, 2.43it/s]
2024-01-11 08:38:11 | ERROR | stderr |
2024-01-11 08:38:12 | INFO | model_worker | Register to controller
INFO: Started server process [3704]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://127.0.0.1:7861 (Press CTRL+C to quit)

==============================Langchain-Chatchat Configuration==============================
操作系统：Linux-6.5.0-14-generic-x86_64-with-glibc2.35.
python版本：3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0]
项目版本：v0.2.9
langchain版本：0.0.352. fastchat版本：0.2.34

当前使用的分词器：ChineseRecursiveTextSplitter
当前启动的LLM模型：['chatglm3-6b'] @ cuda
{'device': 'cuda',
'host': '127.0.0.1',
'infer_turbo': False,
'model_path': '/opt/chat/chatglm3-6b',
'model_path_exists': True,
'port': 20002}
当前Embbedings模型： bge-large-zh @ cuda

服务端运行信息：
OpenAI API Server: http://127.0.0.1:20000/v1
Chatchat API Server: http://127.0.0.1:7861
Chatchat WEBUI Server: http://127.0.0.1:8501
==============================Langchain-Chatchat Configuration==============================

  👋 Welcome to Streamlit!

  If you’d like to receive helpful onboarding emails, news, offers, promotions,
  and the occasional swag, please enter your email address below. Otherwise,
  leave this field blank.

  Email:  

[dosubot[bot]]

🤖

你好，@wangwei0305! 我是 Dosu，一个帮助你解决Langchain-Chatchat仓库中的问题的机器人。我可以帮助你解决bug，回答问题，甚至帮助你成为一个贡献者。虽然我等待人类维护者的到来，但我在这里随时为你提供帮助。

根据您提供的日志，我注意到您的Web服务应该在8501端口上运行，而不是8051。这可能是您无法访问8051端口的原因。如果您想在8051端口上运行服务，您需要在运行脚本时将其作为参数传递。例如，您可以这样运行脚本：python webui_allinone.py --server.port 8051。

另外，我注意到在日志的最后部分，Streamlit欢迎消息正在请求一个电子邮件地址。如果您在远程机器上运行服务器并且没有浏览器，您可能需要设置端口转发才能访问Web UI。如果您看到这个消息，您应该填写您的电子邮件地址，或者简单地按Enter键继续。这个输入是Streamlit继续执行的必要条件。完成此操作后，服务应该会继续，您将能够访问Web UI。

如果您已经按照上述步骤操作，但问题仍然存在，那么可能是由于防火墙设置、网络配置或其他正在运行的进程等其他问题导致的。如果您需要更多的帮助，欢迎您提供更多的信息。

参考链接：

• webui无法启动是为什么？但是Chatchat API Server启动正常
• [BUG] 简洁阐述问题 / Concise description of the issue
• [BUG] webui没有正常执行不可以访问
• server/webui_allinone_stale.py
• server/api.py

Sources

• webui无法启动是为什么？但是Chatchat API Server启动正常
• [BUG] 简洁阐述问题 / Concise description of the issue
• [BUG] webui没有正常执行不可以访问
• server/webui_allinone_stale.py
• server/api.py

---

This response is meant to be useful and save you time. It is not meant to be a precise solution, but rather a starting point for your own research.

Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant.

If you want to continue the conversation, start your reply with @dosu-bot.

[zRzRzRzRzRzRzR]

这就是你随便填一个email就行了

[YXXXDD]

谢谢兄弟

[snow-like-kk]

太感谢了，我还以为哪里出了大问题