MacBook Pro 15″使用ChatGLM2-6B 布暑时不能正确的使用GPU导致无法启动

@st.cache_resource

def get_model():

tokenizer = AutoTokenizer.from_pretrained("/Users/guhaizhou/work/AI/ChatGLM2-6B/THUDM/chatglm2-6b", trust_remote_code=True)

model = AutoModel.from_pretrained("/Users/guhaizhou/work/AI/ChatGLM2-6B/THUDM/chatglm2-6b", trust_remote_code=True).to('mps')

[经过版主编辑]