buffer-embedding-002是一个文本嵌入模型,该模型可以不进行任何微调来生成针对任何任务(例如,分类、检索、聚类、文本评估等)和领域(例如,科学、金融等)定制的文本嵌入。
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("csdc-atl/buffer-embedding-002", trust_remote_code=True)
model = AutoModel.from_pretrained("csdc-atl/buffer-embedding-002", trust_remote_code=True)
text = '通过海外区账号的CLI将海外区的AMI下载到S3中,再将AMI上传到中国区S3中'
input_ids = tokenizer.encode(
text,
add_special_tokens=True,
return_tensors='pt'
)
with torch.no_grad():
embedding = model(input_ids)
print(y.shape)