SentenceTransformer based on truro7/vn-law-embedding

This is a sentence-transformers model finetuned from truro7/vn-law-embedding. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Base model: truro7/vn-law-embedding
  • Maximum Sequence Length: 512 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'Mức phạt nếu trồng cây trong phạm vi đất dành cho đường bộ làm che khuất tầm nhìn',
    '1 Phạt tiền từ 100000 đồng đến 200000 đồng đối với cá nhân từ 200000 đồng đến 400000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Bán hàng rong hoặc bán hàng hóa nhỏ lẻ khác trên lòng đường đô thị trên vỉa hè các tuyến phố có quy định cấm bán hàng trừ các hành vi vi phạm quy định tại điểm c khoản 2 điểm b khoản 5 điểm e khoản 6 Điều này; b Phơi thóc lúa rơm rạ nông lâm hải sản trên đường bộ; đặt máy tuốt lúa trên đường bộ 2 Phạt tiền từ 300000 đồng đến 400000 đồng đối với cá nhân từ 600000 đồng đến 800000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Sử dụng khai thác tạm thời trên đất hành lang an toàn đường bộ vào mục đích canh tác nông nghiệp làm ảnh hưởng đến an toàn công trình đường bộ và an toàn giao thông; b Trồng cây trong phạm vi đất dành cho đường bộ làm che khuất tầm nhìn của người điều khiển phương tiện giao thông; c Chiếm dụng dải phân cách giữa của đường đôi làm nơi: Bày bán hàng hóa; để vật liệu xây dựng trừ các hành vi vi phạm quy định tại điểm b khoản 5; điểm d điểm e khoản 6 Điều này; d Họp chợ mua bán hàng hóa trong phạm vi đất của đường bộ ở đoạn đường ngoài đô thị trừ các hành vi vi phạm quy định tại điểm d khoản 5; điểm d điểm i khoản 6 Điều này; đ Xả nước ra đường bộ không đúng nơi quy định trừ hành vi vi phạm quy định tại điểm h khoản 6 Điều này 3 Phạt tiền từ 500000 đồng đến 1000000 đồng đối với cá nhân từ 1000000 đồng đến 2000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Sử dụng đường bộ trái quy định để tổ chức các hoạt động văn hóa thể thao diễu hành lễ hội; b Dựng cổng chào hoặc các vật che chắn khác trái quy định trong phạm vi đất dành cho đường bộ gây ảnh hưởng đến trật tự an toàn giao thông đường bộ; c Treo băng rôn biểu ngữ trái phép trong phạm vi đất dành cho đường bộ gây ảnh hưởng đến trật tự an toàn giao thông đường bộ; d Đặt treo biển hiệu biển quảng cáo trên đất của đường bộ ở đoạn đường ngoài đô thị trừ các hành vi vi phạm quy định tại điểm b khoản 8 Điều này; đ Chiếm dụng dải phân cách giữa của đường đôi làm nơi để xe trông giữ xe; e Sử dụng trái phép đất của đường bộ ở đoạn đường ngoài đô thị làm nơi sửa chữa phương tiện máy móc thiết bị; rửa xe bơm nước mui xe gây ảnh hưởng đến trật tự an toàn giao thông đường bộ 4 Phạt tiền từ 1000000 đồng đến 2000000 đồng đối với cá nhân từ 2000000 đồng đến 4000000 đồng đối với tổ chức thực hiện hành vi đổ rác ra đường bộ không đúng nơi quy định trừ các hành vi vi phạm quy định tại: điểm a khoản 6 Điều này; khoản 3 khoản 4 Điều 20 Nghị định này 5 Phạt tiền từ 2000000 đồng đến 3000000 đồng đối với cá nhân từ 4000000 đồng đến 6000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Dựng rạp lều quán cổng ra vào tường rào các loại công trình khác trái phép trong phạm vi đất dành cho đường bộ trừ các hành vi vi phạm quy định tại điểm đ khoản 6 điểm b khoản 8 điểm a khoản 9 Điều này; b Sử dụng trái phép lòng đường đô thị hè phố để: Họp chợ; kinh doanh dịch vụ ăn uống; bày bán hàng hóa; sửa chữa phương tiện máy móc thiết bị; rửa xe; đặt treo biển hiệu biển quảng cáo; xây đặt bục bệ; làm mái che hoặc thực hiện các hoạt động khác gây cản trở giao thông trừ các hành vi vi phạm quy định tại điểm d điểm đ điểm e điểm g khoản 6; khoản 7; điểm a khoản 8 Điều này; c Chiếm dụng lòng đường đô thị hoặc hè phố dưới 05 m2 làm nơi trông giữ xe; d Chiếm dụng phần đường xe chạy hoặc lề đường của đường ngoài đô thị dưới 20 m2 làm nơi trông giữ xe 6 Phạt tiền từ 4000000 đồng đến 6000000 đồng đối với cá nhân từ 8000000 đồng đến 12000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Đổ để trái phép vật liệu chất phế thải trong phạm vi đất dành cho đường bộ trừ các hành vi vi phạm quy định tại khoản 3 khoản 4 Điều 20 Nghị định này; b Tự ý đào đắp san lấp mặt bằng trong: Hành lang an toàn đường bộ phần đất dọc hai bên đường bộ dùng để quản lý bảo trì bảo vệ công trình đường bộ; c Tự ý gắn vào công trình báo hiệu đường bộ các nội dung không liên quan tới ý nghĩa mục đích của công trình đường bộ; d Sử dụng trái phép đất của đường bộ hoặc hành lang an toàn đường bộ làm nơi tập kết hoặc trung chuyển hàng hóa vật tư vật liệu xây dựng máy móc thiết bị các loại vật dụng khác; đ Dựng rạp lều quán công trình khác trái phép trong khu vực đô thị tại hầm đường bộ cầu vượt hầm cho người đi bộ gầm cầu vượt trừ hành vi vi phạm quy định tại điểm a khoản 9 Điều này; e Bày bán máy móc thiết bị vật tư vật liệu xây dựng hoặc sản xuất gia công hàng hóa trên lòng đường đô thị hè phố; g Chiếm dụng lòng đường đô thị hoặc hè phố từ 05 m2 đến dưới 10 m2 làm nơi trông giữ xe; h Xả nước thải xây dựng từ các công trình xây dựng ra đường phố; i Chiếm dụng phần đường xe chạy hoặc lề đường của đường ngoài đô thị từ 20 m2 trở lên làm nơi trông giữ xe 7 Phạt tiền từ 6000000 đồng đến 8000000 đồng đối với cá nhân từ 12000000 đồng đến 16000000 đồng đối với tổ chức thực hiện hành vi chiếm dụng lòng đường đô thị hoặc hè phố từ 10 m2 đến dưới 20 m2 làm nơi trông giữ xe 8 Phạt tiền từ 10000000 đồng đến 15000000 đồng đối với cá nhân từ 20000000 đồng đến 30000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Chiếm dụng lòng đường đô thị hoặc hè phố từ 20 m2 trở lên làm nơi trông giữ xe; b Dựng biển quảng cáo trên đất hành lang an toàn đường bộ khi chưa được cơ quan quản lý đường bộ có thẩm quyền đồng ý bằng văn bản hoặc dựng biển quảng cáo trên phần đất dọc hai bên đường bộ dùng để quản lý bảo trì bảo vệ công trình đường bộ 9 Phạt tiền từ 15000000 đồng đến 20000000 đồng đối với cá nhân từ 30000000 đồng đến 40000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Chiếm dụng đất của đường bộ hoặc đất hành lang an toàn đường bộ để xây dựng nhà ở; b Mở đường nhánh đấu nối trái phép vào đường chính 10 Ngoài việc bị áp dụng hình thức xử phạt cá nhân tổ chức thực hiện hành vi vi phạm còn bị áp dụng các biện pháp khắc phục hậu quả sau đây: a Thực hiện hành vi quy định tại điểm b khoản 1 Điều này buộc phải thu dọn thóc lúa rơm rạ nông lâm hải sản thiết bị trên đường bộ; b Thực hiện hành vi quy định tại điểm a điểm b khoản 2 Điều này buộc phải di dời cây trồng không đúng quy định và khôi phục lại tình trạng ban đầu đã bị thay đổi do vi phạm hành chính gây ra; c Thực hiện hành vi quy định tại điểm c điểm d khoản 2 Điều này buộc phải thu dọn vật tư vật liệu hàng hóa và khôi phục lại tình trạng ban đầu đã bị thay đổi do vi phạm hành chính gây ra; d Thực hiện hành vi quy định tại khoản 3; khoản 4; điểm b điểm c điểm d khoản 5; điểm a điểm b điểm c điểm d điểm e điểm g điểm h điểm i khoản 6; khoản 7; điểm a khoản 8 Điều này buộc phải thu dọn rác chất phế thải phương tiện vật tư vật liệu hàng hóa máy móc thiết bị biển hiệu biển quảng cáo các loại vật dụng khác và khôi phục lại tình trạng ban đầu đã bị thay đổi do vi phạm hành chính gây ra; đ Thực hiện hành vi quy định tại điểm a khoản 5 điểm đ khoản 6 điểm b khoản 8 khoản 9 Điều này buộc phải tháo dỡ công trình xây dựng trái phép không có giấy phép hoặc không đúng với giấy phép và khôi phục lại tình trạng ban đầu đã bị thay đổi do vi phạm hành chính gây ra',
    '1 Cảnh cáo hoặc phạt tiền từ 300000 đồng đến 500000 đồng đối với cá nhân từ 600000 đồng đến 1000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Trồng cây trái phép trong phạm vi hành lang an toàn giao thông đường sắt đô thị; trồng cây cao trên 15 m hoặc trồng cây dưới 15 m nhưng ảnh hưởng đến an toàn ổn định công trình an toàn giao thông vận tải đường sắt trong quá trình khai thác hoặc trồng cây che khuất tầm nhìn của người tham gia giao thông trong phạm vi hành lang an toàn giao thông đường sắt quốc gia đường sắt chuyên dùng; b Chăn thả súc vật mua bán hàng hóa họp chợ trên đường sắt trong phạm vi bảo vệ công trình đường sắt hành lang an toàn giao thông đường sắt 2 Phạt tiền từ 500000 đồng đến 1000000 đồng đối với cá nhân từ 1000000 đồng đến 2000000 đồng đối với tổ chức sử dụng đất trong phạm vi bảo vệ công trình đường sắt hành lang an toàn giao thông đường sắt vào mục đích canh tác nông nghiệp làm sạt lở lún nứt hư hỏng công trình đường sắt cản trở giao thông đường sắt 3 Phạt tiền từ 2000000 đồng đến 3000000 đồng đối với cá nhân từ 4000000 đồng đến 6000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Để phương tiện thiết bị vật liệu hàng hóa chất phế thải hoặc các vật phẩm khác trái phép trong phạm vi bảo vệ công trình đường sắt hành lang an toàn giao thông đường sắt hoặc trong khu vực ga đềpô nhà ga đường sắt; b Dựng lều quán trái phép trong phạm vi đất dành cho đường sắt; c Đặt treo biển quảng cáo biển chỉ dẫn hoặc các vật che chắn khác trái phép trong phạm vi đất dành cho đường sắt; d Di chuyển chậm trễ các công trình nhà ở lều quán hoặc cố tình trì hoãn việc di chuyển gây trở ngại cho việc xây dựng cải tạo mở rộng và bảo đảm an toàn công trình đường sắt khi có quyết định của cơ quan có thẩm quyền 4 Phạt tiền từ 20000000 đồng đến 25000000 đồng đối với cá nhân từ 40000000 đồng đến 50000000 đồng đối với tổ chức thực hiện một trong các hành vi vi phạm sau đây: a Xây dựng nhà công trình khác bao gồm cả công trình phục vụ quốc phòng an ninh trái phép trong phạm vi đất dành cho đường sắt trừ các hành vi vi phạm quy định tại: điểm b điểm c khoản 3 Điều này; điểm d khoản 4 Điều 51 Nghị định này; b Dựng biển quảng cáo hoặc các biển chỉ dẫn khác trái phép trong phạm vi đất dành cho đường sắt 5 Ngoài việc bị áp dụng hình thức xử phạt cá nhân tổ chức thực hiện hành vi vi phạm còn bị áp dụng các biện pháp khắc phục hậu quả sau đây: a Thực hiện hành vi quy định tại điểm a khoản 1 Điều này buộc phải hạ độ cao của cây trồng có chiều cao vượt quá quy định di dời cây trồng không đúng quy định hoặc có ảnh hưởng đến an toàn công trình an toàn giao thông đường sắt; b Thực hiện hành vi quy định tại khoản 2 Điều này buộc phải khôi phục lại tình trạng ban đầu đã bị thay đổi do hành vi vi phạm hành chính gây ra; c Thực hiện hành vi quy định tại điểm a khoản 3 Điều này buộc đưa phương tiện thiết bị vật liệu hàng hóa chất phế thải các vật phẩm khác để trái phép ra khỏi phạm vi bảo vệ công trình đường sắt hành lang an toàn giao thông đường sắt; d Thực hiện hành vi quy định tại điểm b khoản 3 Điều này buộc phải tháo dỡ di chuyển lều quán dựng trái phép ra khỏi phạm vi đất dành cho đường sắt; đ Thực hiện hành vi quy định tại điểm c khoản 3 Điều này buộc phải tháo dỡ di chuyển biển quảng cáo các biển chỉ dẫn hoặc các vật che chắn khác đặt trái phép ra khỏi phạm vi đất dành cho đường sắt; e Thực hiện hành vi quy định tại điểm d khoản 3 Điều này buộc phải tháo dỡ di chuyển các công trình nhà ở lều quán gây trở ngại cho việc xây dựng cải tạo mở rộng và bảo đảm an toàn công trình đường sắt; g Thực hiện hành vi quy định tại khoản 4 Điều này buộc phải tháo dỡ di chuyển nhà công trình biển quảng cáo hoặc các biển chỉ dẫn xây dựng trái phép không có giấy phép hoặc không đúng giấy phép ra khỏi phạm vi đất dành cho đường sắt',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Metric Value
cosine_accuracy@1 0.5194
cosine_accuracy@3 0.7528
cosine_accuracy@5 0.8147
cosine_accuracy@10 0.881
cosine_precision@1 0.5194
cosine_precision@3 0.2531
cosine_precision@5 0.1651
cosine_precision@10 0.0896
cosine_recall@1 0.5121
cosine_recall@3 0.7452
cosine_recall@5 0.8084
cosine_recall@10 0.8754
cosine_ndcg@1 0.5194
cosine_ndcg@3 0.6539
cosine_ndcg@5 0.6803
cosine_ndcg@10 0.7024
cosine_mrr@1 0.5194
cosine_mrr@3 0.6263
cosine_mrr@5 0.6406
cosine_mrr@10 0.6496
cosine_map@10 0.6444

Training Details

Training Dataset

Unnamed Dataset

  • Size: 2,584 training samples
  • Columns: Anchor, Positive, Negative, Source, and texts
  • Approximate statistics based on the first 1000 samples:
    Anchor Positive Negative Source texts
    type string string string string list
    details
    • min: 6 tokens
    • mean: 23.47 tokens
    • max: 94 tokens
    • min: 18 tokens
    • mean: 314.56 tokens
    • max: 512 tokens
    • min: 7 tokens
    • mean: 255.97 tokens
    • max: 512 tokens
    • min: 7 tokens
    • mean: 7.38 tokens
    • max: 9 tokens
    • size: 2 elements
  • Samples:
    Anchor Positive Negative Source texts
    Quy định về chi hỗ trợ hoạt động của các đội tuyên truyền lưu động phòng chống tác hại của rượu bia được quy định như thế nào 1 Nội dung và mức chi nhuận bút xây dựng bản tin phóng sự tọa đàm về phòng chống tác hại của rượu bia thực hiện theo quy định tại Nghị định số 182014NĐCP ngày 14 tháng 3 năm 2014 của Chính phủ quy định chế độ nhuận bút trong lĩnh vực báo chí xuất bản và các văn bản liên quan 2 Chi tổ chức các buổi giao lưu các buổi lễ mít tinh tuyên truyền cổ động về phòng chống tác hại của rượu bia: a Chi nước uống cho người tham dự: 20000 đồngngườibuổi; chi thù lao cho người tham dự 50000 đồngngườibuổi; b Chi báo cáo viên: 200000 đồngngườibuổi; c Chi tài liệu: tối đa 15000 đồngngười; d Chi thuê hội trường phông bạt bàn ghế thiết bị loa đài nếu có: Mức chi thực hiện theo hợp đồng giấy biên nhận hoặc hoá đơn tài chính trong trường hợp thuê dịch vụ; đ Chi truyền thanh xây dựng biên tập phát thanh: Mức chi xây dựng biên tập 100000 đồngtrang 350 từ; bồi dưỡng phát thanh viên 20000 đồnglần; e Mức chi xây dựng và in tài liệu truyền thông căn cứ theo giá thị trường tại địa phương và quy định của pháp luật 3 ... Nghị định này quy định chi tiết một số điều của Luật Phòng chống tác hại của rượu bia về một số biện pháp giảm mức tiêu thụ và quản lý việc cung cấp rượu bia bao gồm địa điểm công cộng không được uống rượu bia; hạn chế sử dụng hình ảnh diễn viên uống rượu bia trong tác phẩm điện ảnh sân khấu truyền hình; quản lý việc quảng cáo rượu có độ cồn dưới 15 độ và bia; việc thực hiện biện pháp ngăn ngừa người chưa đủ 18 tuổi tiếp cận truy cập tìm kiếm thông tin và mua rượu bia trong hoạt động bán rượu bia theo hình thức thương mại điện tử; nội dung mức chi cho hoạt động phòng chống tác hại của rượu bia; trách nhiệm thực hiện thông tin giáo dục truyền thông và trách nhiệm quản lý nhà nước về phòng chống tác hại của rượu bia zalo_question ['Quy định về chi hỗ trợ hoạt động của các đội tuyên truyền lưu động phòng chống tác hại của rượu bia được quy định như thế nào', '1 Nội dung và mức chi nhuận bút xây dựng bản tin phóng sự tọa đàm về phòng chống tác hại của rượu bia thực hiện theo quy định tại Nghị định số 182014NĐCP ngày 14 tháng 3 năm 2014 của Chính phủ quy định chế độ nhuận bút trong lĩnh vực báo chí xuất bản và các văn bản liên quan 2 Chi tổ chức các buổi giao lưu các buổi lễ mít tinh tuyên truyền cổ động về phòng chống tác hại của rượu bia: a Chi nước uống cho người tham dự: 20000 đồngngườibuổi; chi thù lao cho người tham dự 50000 đồngngườibuổi; b Chi báo cáo viên: 200000 đồngngườibuổi; c Chi tài liệu: tối đa 15000 đồngngười; d Chi thuê hội trường phông bạt bàn ghế thiết bị loa đài nếu có: Mức chi thực hiện theo hợp đồng giấy biên nhận hoặc hoá đơn tài chính trong trường hợp thuê dịch vụ; đ Chi truyền thanh xây dựng biên tập phát thanh: Mức chi xây dựng biên tập 100000 đồngtrang 350 từ; bồi dưỡng phát thanh viên 20000 đồnglần; e Mức chi xây dựng và in tài liệu truyền thông căn cứ theo giá thị trường tại địa phương và quy định của pháp luật 3 Chi hỗ trợ các buổi biểu diễn văn nghệ tiểu phẩm tại cộng đồng về phòng chống tác hại của rượu bia: a Bồi dưỡng luyện tập chương trình mới: Mức bồi dưỡng cho 01 buổi tập chương trình mới tối đa không quá 70000 đồngngườibuổi Số buổi tập tối đa cho một chương trình mới là 10 buổi; b Mức bồi dưỡng trong chương trình biểu diễn tối đa không quá 150000 đồngngườibuổi 4 Chi thuê dẫn chương trình và biểu diễn văn nghệ tại lễ mít tinh chiến dịch truyền thông về phòng chống tác hại của rượu bia: a Dẫn chương trình: 2000000 đồngngườibuổi; b Biểu diễn văn nghệ: 300000 đồngngườibuổi Tổng số buổi tập và biểu diễn cho một chương trình văn nghệ tối đa là 10 buổi 5 Chi hỗ trợ hoạt động của các đội tuyên truyền lưu động trong các đợt mở chiến dịch tuyên truyền tại cộng đồng cơ quan đơn vị tổ chức: a Chi hỗ trợ cho những người trực tiếp tham gia đội tuyên truyền lưu động về phòng chống tác hại của rượu bia tại cộng đồng: chi bồi dưỡng tham gia các buổi tuyên truyền 100000 đồngngườibuổi; chi hỗ trợ tập luyện tuyên truyền 50000 đồngngườibuổi; b Mức chi xăng xe hoặc thuê phương tiện chụp ảnh tư liệu thiết bị dụng cụ tuyên truyền cổ động và các hoạt động khác theo thực tế căn cứ vào hóa đơn chứng từ giá thị trường tại địa phương và quy định của pháp luật 6 Mức chi thù lao cho các cộng tác viên tham gia công tác tuyên truyền về phòng chống tác hại của rượu bia theo hướng dẫn về cộng tác viên tuyên truyền của Bộ Y tế: 150000 đồngngườitháng']
    Trách nhiệm thực hiện bảo quản tài nguyên thông tin của các thư viện được quy định như thế nào 1 Cơ quan nhà nước có thẩm quyền thành lập và quản lý thư viện công lập có trách nhiệm giám sát kiểm tra định kỳ công tác bảo quản tài nguyên thông tin của thư viện 2 Các thư viện thực hiện bảo quản tài nguyên thông tin có trách nhiệm: a Căn cứ kế hoạch hằng năm được cấp có thẩm quyền phê duyệt xây dựng kế hoạch quy chế bảo quản tài nguyên thông tin trong thư viện; b Nâng cao năng lực trình độ đội ngũ làm công tác bảo quản tài nguyên thông tin trong thư viện đáp ứng yêu cầu trong bảo quản tài nguyên thông tin; c Giáo dục nâng cao ý thức của người sử dụng trong bảo quản tài nguyên thông tin của thư viện 1 Thông tư này áp dụng đối với thư viện công lập quy định tại điểm a khoản 2 Điều 9 của Luật Thư viện cơ quan tổ chức cá nhân tham gia hoặc liên quan đến hoạt động bảo quản tài nguyên thông tin thanh lọc tài nguyên thông tin và sử dụng tài nguyên thông tin hạn chế sử dụng trong thư viện 2 Khuyến khích thư viện ngoài công lập quy định tại điểm b khoản 2 Điều 9 của Luật Thư viện thực hiện bảo quản tài nguyên thông tin thanh lọc tài nguyên thông tin và sử dụng tài nguyên thông tin hạn chế sử dụng trong thư viện theo quy định tại Thông tư này zalo_question ['Trách nhiệm thực hiện bảo quản tài nguyên thông tin của các thư viện được quy định như thế nào', '1 Cơ quan nhà nước có thẩm quyền thành lập và quản lý thư viện công lập có trách nhiệm giám sát kiểm tra định kỳ công tác bảo quản tài nguyên thông tin của thư viện 2 Các thư viện thực hiện bảo quản tài nguyên thông tin có trách nhiệm: a Căn cứ kế hoạch hằng năm được cấp có thẩm quyền phê duyệt xây dựng kế hoạch quy chế bảo quản tài nguyên thông tin trong thư viện; b Nâng cao năng lực trình độ đội ngũ làm công tác bảo quản tài nguyên thông tin trong thư viện đáp ứng yêu cầu trong bảo quản tài nguyên thông tin; c Giáo dục nâng cao ý thức của người sử dụng trong bảo quản tài nguyên thông tin của thư viện']
    Cách thức cấp mã số ISBN được quy định như thế nào Cục Xuất bản In và Phát hành cấp mã số ISBN kèm theo xác nhận đăng ký xuất bản cho từng tên sách 1 Cục Xuất bản In và Phát hành thu hồi mã số ISBN đã cấp đối với trường hợp mã số ISBN không được sử dụng theo quy định 2 Cách thức thu hồi mã số ISBN: Nhà xuất bản nộp lại mã số ISBN đã được cấp thông qua báo cáo hằng năm theo quy định tại Điều 3 Thông tư này zalo_question ['Cách thức cấp mã số ISBN được quy định như thế nào', 'Cục Xuất bản In và Phát hành cấp mã số ISBN kèm theo xác nhận đăng ký xuất bản cho từng tên sách']
  • Loss: MultipleNegativesRankingLoss with these parameters:
    {
        "scale": 20.0,
        "similarity_fct": "cos_sim"
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • eval_strategy: steps
  • per_device_train_batch_size: 4
  • warmup_steps: 10

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: steps
  • prediction_loss_only: True
  • per_device_train_batch_size: 4
  • per_device_eval_batch_size: 8
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 5e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1.0
  • num_train_epochs: 3
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.0
  • warmup_steps: 10
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: False
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: False
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • tp_size: 0
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: None
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • include_for_metrics: []
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • average_tokens_across_devices: False
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: proportional

Training Logs

Epoch Step Training Loss alqac25-triplet_cosine_ndcg@10
0.0310 10 1.9884 -
0.0619 20 1.3827 -
0.0929 30 1.2865 -
0.1238 40 1.3692 -
0.1548 50 1.2555 -
0.1858 60 0.986 -
0.2167 70 0.5426 -
0.2477 80 0.6257 -
0.2786 90 0.5509 -
0.3096 100 0.3822 0.5330
0.3406 110 0.438 -
0.3715 120 0.5122 -
0.4025 130 0.3485 -
0.4334 140 0.4342 -
0.4644 150 0.3043 -
0.4954 160 0.3803 -
0.5263 170 0.5036 -
0.5573 180 0.402 -
0.5882 190 0.3521 -
0.6192 200 0.5697 0.6091
0.6502 210 0.4521 -
0.6811 220 0.4666 -
0.7121 230 0.404 -
0.7430 240 0.3771 -
0.7740 250 0.4839 -
0.8050 260 0.3184 -
0.8359 270 0.2808 -
0.8669 280 0.3901 -
0.8978 290 0.2469 -
0.9288 300 0.3943 0.6611
0.9598 310 0.3331 -
0.9907 320 0.3856 -
1.0217 330 0.3473 -
1.0526 340 0.0923 -
1.0836 350 0.1658 -
1.1146 360 0.2037 -
1.1455 370 0.0671 -
1.1765 380 0.124 -
1.2074 390 0.1072 -
1.2384 400 0.1074 0.6588
1.2693 410 0.0651 -
1.3003 420 0.2238 -
1.3313 430 0.1191 -
1.3622 440 0.1596 -
1.3932 450 0.1181 -
1.4241 460 0.2342 -
1.4551 470 0.1459 -
1.4861 480 0.1799 -
1.5170 490 0.145 -
1.5480 500 0.1114 0.6701
1.5789 510 0.1065 -
1.6099 520 0.148 -
1.6409 530 0.1655 -
1.6718 540 0.1808 -
1.7028 550 0.1159 -
1.7337 560 0.0933 -
1.7647 570 0.1707 -
1.7957 580 0.1115 -
1.8266 590 0.1825 -
1.8576 600 0.1445 0.6559
1.8885 610 0.1204 -
1.9195 620 0.0546 -
1.9505 630 0.1156 -
1.9814 640 0.1132 -
2.0124 650 0.1383 -
2.0433 660 0.0572 -
2.0743 670 0.029 -
2.1053 680 0.0738 -
2.1362 690 0.0799 -
2.1672 700 0.039 0.6587
2.1981 710 0.0266 -
2.2291 720 0.0279 -
2.2601 730 0.0145 -
2.2910 740 0.0206 -
2.3220 750 0.0398 -
2.3529 760 0.1105 -
2.3839 770 0.0327 -
2.4149 780 0.0205 -
2.4458 790 0.0223 -
2.4768 800 0.0489 0.6876
2.5077 810 0.0185 -
2.5387 820 0.0367 -
2.5697 830 0.1239 -
2.6006 840 0.0204 -
2.6316 850 0.0698 -
2.6625 860 0.0662 -
2.6935 870 0.0708 -
2.7245 880 0.0822 -
2.7554 890 0.0568 -
2.7864 900 0.0228 0.7024

Framework Versions

  • Python: 3.11.11
  • Sentence Transformers: 3.4.1
  • Transformers: 4.51.3
  • PyTorch: 2.6.0+cu124
  • Accelerate: 1.5.2
  • Datasets: 3.6.0
  • Tokenizers: 0.21.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}
Downloads last month
57
Safetensors
Model size
278M params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for huyg1108/mnrl-vnlaw

Finetuned
(6)
this model

Evaluation results