正常启动
重现步骤在conda配置的python3.10环境配置 :python web_demo.py
环境- OS: Ubuntu 20.04
- Python:3.10
- Transformers: 4.30.2
- PyTorch:2.1.0+cu121
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :True
还要别的吗?
没有反应
正常启动
重现步骤在conda配置的python3.10环境配置 :python web_demo.py
环境- OS: Ubuntu 20.04
- Python:3.10
- Transformers: 4.30.2
- PyTorch:2.1.0+cu121
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :True
还要别的吗?
没有反应
pip uninstall gradio pip install gradio==3.50.0 pip默认安装最新版本,降低版本即可。
运行环境:PyTorch 2.0.1+ Cu117 Python3.10 错误:输入信息后无回复,再输入后无法提交
我也是我也是,请问怎么解决啊
gpt给的方案,现在能够生长。改了风格,预测函数和reset_state: def Predict(input, chatbot, max_length, top_p, temp,history, Past_key_values): chatbot.append((parse_text(input), "") )对于 model.stream_chat 中的响应、历史记录、过去的键值(分词器、输入、历史记录、过去的键值=过去的键值、返回的过去键值=True、最大长度=最大长度、顶部_p=顶部_P、温度=温度):聊天机器人[-1] = (parse_text(输入) , parse_text(响应))
# 返回包含消息和聊天机器人回复的元组
return chatbot, history, past_key_values
def reset_user_input(): return gr.update(value='')
def reset_state(): 返回 [], 无
以 gr.Blocks() 作为演示: gr.HTML("""
chatbot = gr.Chatbot()
with gr.Row():
with gr.Column(scale=4):
with gr.Column(scale=12):
user_input = gr.Textbox(show_label=False, placeholder="Input...", lines=10, container=False)
with gr.Column(min_width=32, scale=1):
submitBtn = gr.Button("Submit", variant="primary")
with gr.Column(scale=1):
emptyBtn = gr.Button("Clear History")
max_length = gr.Slider(0, 32768, value=8192, step=1.0, label="Maximum length", interactive=True)
top_p = gr.Slider(0, 1, value=0.8, step=0.01, label="Top P", interactive=True)
temperature = gr.Slider(0, 1, value=0.95, step=0.01, label="Temperature", interactive=True)
history = gr.State([])
past_key_values = gr.State(None)
submitBtn.click(predict, [user_input, chatbot, max_length, top_p, temperature, history, past_key_values],
[chatbot, history, past_key_values], show_progress=True)
submitBtn.click(reset_user_input, [], [user_input])
emptyBtn.click(reset_state, outputs=[chatbot, history, past_key_values], show_progress=True)
demo.queue().launch(share=True, inbrowser=True, server_name='0.0.0.0', server_port=6865)
@JackieGLQ @Michael4933 web_demo.py执行后我也出现了问问题后卡住的现象,我执行的是web_demo_old.py那个文件。
@ZhangWenBo999 谢谢!我按照你的用web_demo_old.py能正常使用!
@Michael4933 请问你解决了这个问题了吗?
最新版本的gradio废弃了style,修改为"user_input = gr.Textbox(show_label=False, placeholder="Input...",lines=10,container=False)"
pip安装gradio==3.50.0
谢谢,回滚到3.50就可以了
graio 3.50,web_demo.py,提交后,结果区闪现一下就没有了。再提交就没成功了,除楼上各位的方法修改的,一个都行不了,还是老样子。
pip install gradio==3.40.0
修改gradio的版本可以安装3.40.0的不会报错
修改gradio的版本可以安装3.40.0的不会报错
是的,3.40.0版本可以正常运行的