[THUDM/ChatGLM-6B][BUG/Help] <但是运行web_demo.py成功，对话没有响应>

目前的行为

使用ptuing_v2进行扭矩后，损失最终在4.几，这不会有点太高了，因为损失基本没降多少，然后打开网页后，无论输入什么问题，都得不到回应

预期行为

没有反应

重现步骤

环境与作者的一致

环境

- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

还要别的吗？

没有反应

tianyang820

同问，部署训练后的模型运行webdemo后模型无响应

Big-yellowa

我也是，至今没有找到合适的解决方法

JiXia830

Big-yellowa

https://zhuanlan.zhihu.com/p/633901827我参照这次运行成功了好一刻，谢谢

JiXia830

搞定了，被卡住了，改成返回就行，只是不能一个字一个字打印了

1701228494271

liuyuesheng

搞定了，被卡住了，改成返回就行，只是不能一个字一个字打印了

按照你的方法完美解决，你是我的英雄

Tombston6

回答