[THUDM/ChatGLM-6B]A卡不能用嘛?6800显卡部署出错

2024-05-21 977 views
9

AMD 6800显卡部署出错,AMD显卡是否可以使用该项目? raise AssertionError("Torch not compiled with CUDA enabled") AssertionError: Torch not compiled with CUDA enabled

运行api.py,下载完产生如下错误: raise AssertionError("Torch not compiled with CUDA enabled") AssertionError: Torch not compiled with CUDA enabled

Environment
- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

回答

0

AMD的显卡不支持CUDA吧,只能用CPU方式训练

0

amd只能打游戏 ~~

1

用rocm

3

你好,我用A卡部署成功了,但是在ubuntu系统,理论上其他linux系统也是可以的。 使用这个方法配置的Text generation web UI,原作者用的是arch linux https://rentry.org/eq3hg

5

谢谢分享