[THUDM/ChatGLM-6B]A卡不能用嘛?6800显卡部署出错

2024-05-21 541 views
3

AMD 6800显卡部署出错,AMD显卡是否可以使用该项目? raise AssertionError("Torch not compiled with CUDA enabled") AssertionError: Torch not compiled with CUDA enabled

运行api.py,下载完产生如下错误: raise AssertionError("Torch not compiled with CUDA enabled") AssertionError: Torch not compiled with CUDA enabled

Environment
- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

回答

6

AMD的显卡不支持CUDA吧,只能用CPU方式训练

1

amd只能打游戏 ~~

7

用rocm

2

你好,我用A卡部署成功了,但是在ubuntu系统,理论上其他linux系统也是可以的。 使用这个方法配置的Text generation web UI,原作者用的是arch linux https://rentry.org/eq3hg

1

谢谢分享