BugFix

最新提问

3热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] Windows下使用多卡P-tuning微调，出现OOM

Windows Server下使用多卡微调出现OOM 报错信息： OutOfMemoryError: CUDA out of memory. Tried to allocate 96.00 MiB (GPU 0; 22.50 GiB total capacity; 19.86 GiB already allocated; 0 bytes free; 19.93 GiB reserved in to

10热度

7回答

[THUDM/ChatGLM-6B][BUG/Help] 在windows部署，做ptuning训练时，下载好数据集，执行bash train.sh的时候报错

train.sh: line 3: $'\r': command not found Traceback (most recent call last): File "/mnt/e/cqy-gpt/gpt-fine-tune/ChatGLM-6B/ptuning/main.py", line 26, in import numpy as np ModuleNotFoundError: No mo

10热度

6回答

[THUDM/ChatGLM-6B]我在做数据集-不知道多轮对话数据最终是不是这样的？

# 想确认一下是不是这样的？ {"prompt": "长城h3风扇不转。继电器好的。保险丝好的传感器新的风扇也新的这是为什么。就是继电器缺一个信号线", "response": "用电脑能读数据流吗？水温多少", "history": []} {"prompt": "95", "response": "上下水管温差怎么样啊？空气是不是都排干净了呢？", "history": [["长城h3风扇不转

3热度

6回答

[THUDM/ChatGLM-6B]Deepspeed finetune需要多大的显存？

3060 12G显卡deepspeed训练时报显存不够 deepspeed训练需要多大显存？ Environment OS: Ubuntu 22.04 Python: 3.10 Transformers: 4.26.1 PyTorch: 1.12 CUDA Support: True

4热度

11回答

[THUDM/ChatGLM-6B]训练的时候为啥labels都是100，只显示第一个的回答的input和labels

input_ids [65326, 108258, 67164, 130001, 130004, 5, 80842, 6, 87361, 66810, 64709, 6, 66284, 66810, 64165, 64426, 65120, 68938, 85536, 11943, 63850, 67077, 63823, 72457, 63826, 65077, 63891, 64219, 64

8热度

9回答

[THUDM/ChatGLM-6B]chatglm-6B-int4 如何在 Mac M2 上微调

推理过程遇到的问题加载模型的时候，使用 float() 可以正常加载，但是如果使用 to("mps") 也会报错 model = AutoModel.from_pretrained("chatglm-6b-int4", trust_remote_code=True).float() File "/Users/diaojunxian/anaconda3/envs/py3.11/lib/py

3热度

14回答

[THUDM/ChatGLM-6B][BUG/Help] p-tuning v2 报错：RuntimeError: Default process group has not been initialized, please make sure to call init_process_group.

GPU为单卡A100 运行p-tuning v2脚本后报错： Traceback (most recent call last): File "/mnt/dolphinfs/hdd_pool/docker/user/hadoop-shangchao/chenkunlong/main.py", line 431, in main() File "/mnt/dolphinfs/hdd_pool/do

4热度

3回答

[THUDM/ChatGLM-6B]P-tuning v2微调后只响应训练数据

P-tuning v2微调后，无论输入什么问题，都只响应训练的数据，即便这个问题是没训练过的/训练的数据只有一条，原有6B模型的内容好像都被覆盖了。我看其他issue有同样的问题，想知道如何解决或者是变相解决的解决方案正确的输出是不是应该在原有6B的基础上，增加了我想要的定制数据，即在他原有能力的基础上，丰富了一些个性化的问题的答案 train.sh： PRE_SEQ_LEN=128 LR=

5热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] ice_text.model词表长度与config里设置不一致

ice_text.model词表长度130344 >>> from transformers import AutoTokenizer, AutoModel >>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True) >>>

0热度

9回答

[THUDM/ChatGLM-6B]ptuning v2微调后的效果

一共准备了300多条数据，二八分为测试集和训练集；微调用的参数和项目一样；数据集准备是按照下面的方式准备的问答对，没有涉及多轮问答，history设置的是空list： Solutions 测试了一下微调后的效果，发现有点不太说人话，而且不同的问题重复回答同一个答案，并且感觉丧失了一些通用领域问题的回答能力：想了解一下，出现这种现象是什么原因造成的？如果微调用的数据集使用多轮对话的，会避

5热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] 运行bash ds_train_finetune.sh 报错：RuntimeError: expected scalar type Half but found Float

我希望使用ds_train_finetune对chatglm-6b-int4-qe模型进行微调，但报错：RuntimeError: expected scalar type Half but found Float 运行结果track back如下： 05/11/2023 13:43:01 - WARNING - transformers_modules.chatglm-6b-int4-qe.

3热度

5回答

[THUDM/ChatGLM-6B]数据集的格式都是输入问答对的方式，能不能直接输入一篇文档作为数据集来微调训练？[Feature]

数据集的格式都是输入问答对的方式，能不能直接输入一篇文档作为数据集来微调训练？比如我有一个法条的txt文档，一万字左右。我想塞进去直接训练，让模型理解。然后对模型提问相关的问题，让他回答法条问题。类似于chatpdf这种，但是跟chatpdf不一样，chatpdf是不用训练，直接embedding加知识库检索的方式。我这里能否直接塞进去一篇文档进行训练，让他达到chatpdf的效果？数据集

2热度

5回答

[THUDM/ChatGLM-6B][BUG/Help] <使用deepspeed对模型进行了全量参数的微调，发现模型直接微调崩了，完全不说人话，系统响应全是,,,>, ,。等>

使用的是官方给出的ds_train_finetune.sh进行微调。在4卡80G的A100上运行sh ds_train_finetune.sh。 Environment - OS:Linux - Python:3.7 - Transformers:4.27.1 - PyTorch:1.13.0 - CUDA Support 11.8 :

4热度

3回答

[youzan/vant-weapp]button组件不支持form-type 吗

这个功能解决了什么问题 button按扭有open-type解决了我的调取微信的授权功能，但没有form-type在一些表单提交还是得写原生的建议的API是什么样的 van-button是否下个版本支待form-type

3热度

3回答

[youzan/vant-weapp]mpvue 中使用Notify报未找到 van-notify 节点，请确认 selector 及 context 是否正确

官方没有修复这个bug，其实就是在节点还没有初始化就获取了节点。我去看了一下源码：然后再看了官方文档，嗯，果然官方也很垃圾，不服可以来砍我，于是我改了一下传参

10热度

3回答

[youzan/vant-weapp][Bug Report] Popup组件内容区域的区块使用transform属性偏离被截断无法展示

设备 ios、安卓 VantWeapp 版本 1.0.0-beta.2 基础库版本 2.6.6 如果是 UI 问题，截图链接（多图回车分隔）请提供核心代码片段链接 https://developers.weixin.qq.com/s/1bAIujmG7lcZ 描述问题 Popup组件内容区域的区块使用transform属性偏离被截断无法展示。如块元素使用transform: transla

8热度

6回答

[youzan/vant-weapp][Bug Report] 表单组件输入速度快会持续不断的回退，尤其是纯英文键盘或调起数字键盘进行输入的时候

设备 IOS 12（iPhone 7） VantWeapp 版本 1.0.0-beta.2 基础库版本 2.8.3 如果是 UI 问题，截图链接（多图回车分隔）请提供核心代码片段链接 https://github.com/youzan/vant-weapp/blob/dev/packages/field/index.ts#L82-L88 描述问题连续不断的setData导致出现性能问题，出现

8热度

3回答

[youzan/vant-weapp]picker 和 datapicker 同时使用会导致组件失效

同时使用两个组件的时候出现图中所示情况、使用的是mpvue2.0 vant-weapp 1.0.0.beta2

7热度

12回答

[youzan/vant-weapp][Bug Report] vant env 问题

设备 iphonex VantWeapp 版本 1.0.0-beta.2 基础库版本 2.9.2 请提供核心代码片段链接 https://gist.github.com/wsafight/5d1c3c91e29abb9fdb72ef438d11b09e 描述问题 .van-popup--safe{padding-bottom: env(safe-area-inset-bottom)} 无法在项目中

6热度

3回答

[youzan/vant-weapp][Bug Report] van-button 不传参

设备 MacOS VantWeapp 版本 0.5.23 基础库版本最新请提供核心代码片段链接 https://gist.github.com/Codes-Breaker/3548e3d60efd1e612812db0c52d00488 描述问题用了open-type="share"就传不了ID或者dataset