chatglm_6b_tokenizer/special_tokens_map.json

8 lines
125 B
JSON

{
"bos_token": "<sop>",
"eos_token": "<eop>",
"mask_token": "[MASK]",
"pad_token": "<pad>",
"unk_token": "<unk>"
}