Ошибка AttributeError: 'LatentAttentionConfig' object has no attribute 'torch_dtype'
#5
by
achernov93
- opened
При воспроизведении примера из статьи возникает ошибка AttributeError: 'LatentAttentionConfig' object has no attribute 'torch_dtype' в строке
# load model with tokenizer
model = AutoModel.from_pretrained('ai-sage/Giga-Embeddings-instruct', trust_remote_code=True)
в чем может быть проблема?
помог даунгрейд pip install transformers==4.46.0
Такая же ошибка при использовании langchain_huggingface
embeddings = HuggingFaceEmbeddings(model_name="ai-sage/Giga-Embeddings-instruct", model_kwargs={"trust_remote_code": True})