Create README.md

README.md

@@ -0,0 +1,853 @@
+---
+language:
+- vi
+license: apache-2.0
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:30987
+- loss:MatryoshkaLoss
+- loss:MultipleNegativesRankingLoss
+base_model: bkai-foundation-models/vietnamese-bi-encoder
+widget:
+- source_sentence: 'Điều 2 Quyết định 185/QĐ-UB năm 1998 Bảng giá đất tỉnh Bến Tre
+    có nội dung như sau:
+
+
+    Điều 2. Giá đất trên được áp dụng cho những trường hợp: Tính thuế chuyển quyền
+    sử dụng cho những trường hợp: Tính thuế chuyển quyền sử dụng đất, thu lệ phí trước
+    bạ, thu tiền sử dụng đất khi giao đất, cho thuê đất, tính giá trị tài sản khi
+    giao đất, bồi thường thiệt hại về đất khi Nhà nước thu hồi.
+
+    Trường hợp giao đất theo hình thức đấu giá, thì giá đất sẽ do Uỷ ban nhân dân
+    tỉnh cho trường hợp cụ thể.
+
+    Giá cho thuê đất đối với các tổ chức, cá nhân nước ngoài hoặc xí nghiệp có vốn
+    đầu tư nước ngoài được áp dụng theo quy định của Chính phủ.'
+  sentences:
+  - Điều 2 Quyết định 55/2012/QĐ-UBND dự toán ngân sách phân bổ dự toán ngân sách
+    2013 Bình Dương
+  - Điều 2 Quyết định 185/QĐ-UB năm 1998 Bảng giá đất tỉnh Bến Tre
+  - Điều 3 Quyết định 79/2019/QĐ-UBND mức thu học phí quản lý và sử dụng học phí giáo
+    dục mầm non Huế
+- source_sentence: 'Điều 3 Quyết định 94/QĐ-UBND 2018 kế hoạch hoạt động kiểm soát
+    thủ tục hành chính Lâm Đồng có nội dung như sau:
+
+
+    Điều 3. Chánh Văn phòng UBND tỉnh; Thủ trưởng các sở, ban, ngành; Chủ tịch UBND
+    các huyện, thành phố; Chủ tịch UBND các xã, phường, thị trấn trên địa bàn tỉnh
+    chịu trách nhiệm thi hành Quyết định này'
+  sentences:
+  - Điều 3 Quyết định 94/QĐ-UBND 2018 kế hoạch hoạt động kiểm soát thủ tục hành chính
+    Lâm Đồng
+  - Cơ quan nhà nước có thẩm quyền có trách nhiệm gì trong việc giải quyết tranh chấp
+    lao động khi sa thải người lao động?
+  - 'Thăng hạng giáo viên: Điều kiện về thời gian giữ hạng thấp hơn liền kề'
+- source_sentence: 'Điều 8 Thông tư 63/2013/TT-BGTVT hướng dẫn Bản ghi nhớ vận tải
+    đường bộ giữa Campuchia Lào Việt Nam có nội dung như sau:
+
+
+    Điều 8. Hồ sơ cấp Giấy phép liên vận CLV
+
+    1. Đối với xe thương mại:
+
+    a) Đơn đề nghị cấp Giấy phép liên vận CLV cho phương tiện thương mại quy định
+    tại Phụ lục VI của Thông tư này;
+
+    b) Giấy phép kinh doanh vận tải bằng xe ô tô hoặc Giấy chứng nhận đăng ký kinh
+    doanh đối với đơn vị kinh doanh vận tải bằng xe ô tô không thuộc đối tượng phải
+    cấp giấy phép kinh doanh vận tải bằng xe ô tô (bản sao có chứng thực hoặc bản
+    sao kèm theo bản chính để đối chiếu);
+
+    c) Giấy đăng ký phương tiện (bản sao có chứng thực hoặc bản sao kèm theo bản chính
+    để đối chiếu);
+
+    d) Văn bản chấp thuận khai thác tuyến (đối với phương tiện kinh doanh vận tải
+    hành khách theo tuyến cố định);
+
+    đ) Trường hợp phương tiện không thuộc sở hữu của đơn vị kinh doanh vận tải thì
+    phải xuất trình thêm tài liệu chứng minh quyền sử dụng hợp pháp của đơn vị kinh
+    doanh vận tải với phương tiện đó (bản sao có chứng thực hoặc bản sao kèm theo
+    bản chính để đối chiếu).
+
+    2. Đối với xe phi thương mại:
+
+    a) Đơn đề nghị cấp Giấy phép liên vận CLV cho phương tiện phi thương mại quy định
+    Phụ lục VII của Thông tư này;
+
+    b) Giấy đăng ký phương tiện (bản sao có chứng thực hoặc bản sao kèm theo bản chính
+    để đối chiếu). Trường hợp phương tiện không thuộc sở hữu của tổ chức, cá nhân
+    thì phải kèm theo tài liệu chứng minh quyền sử dụng hợp pháp của tổ chức, các
+    nhân với phương tiện đó (bản sao có chứng thực hoặc bản sao kèm theo bản chính
+    để đối chiếu);
+
+    c) Đối với doanh nghiệp, hợp tác xã thực hiện công trình, dự án hoặc hoạt động
+    kinh doanh trên lãnh thổ Lào hoặc Campuchia thì kèm theo Hợp đồng hoặc tài liệu
+    chứng minh đơn vị đang thực hiện công trình, dự án hoặc hoạt động kinh doanh,
+    trên lãnh thổ Lào, Campuchia (bản sao có chứng thực).'
+  sentences:
+  - Bộ Xây dựng ghi nhận các kiến nghị về quy hoạch đô thị và nông thôn
+  - Điều 3 Quyết định 2106/QĐ-BYT 2020 Kế hoạch triển khai chiến dịch tiêm bổ sung
+    vắc xin Sởi Rubella
+  - Điều 8 Thông tư 63/2013/TT-BGTVT hướng dẫn Bản ghi nhớ vận tải đường bộ giữa Campuchia
+    Lào Việt Nam
+- source_sentence: 'Điều 2 Quyết định 16/2010/QĐ-UBND phân vùng môi trường tiếp nhận
+    nước thải khí thải công nghiệp trên địa bàn tỉnh Đồng Nai có nội dung như sau:
+
+
+    Điều 2. Xác định và tính toán lưu lượng các nguồn xả nước thải, khí thải công
+    nghiệp
+
+    1. Các tổ chức, cá nhân là chủ cơ sở sản xuất, kinh doanh, dịch vụ có trách nhiệm
+    quan trắc, thống kê, kiểm toán chất thải để tính toán, xác định lưu lượng nước
+    thải, khí thải công nghiệp để áp dụng hệ số lưu lượng nguồn thải.
+
+    2. Các tổ chức, cá nhân có trách nhiệm cung cấp đúng, đầy đủ, chính xác và trung
+    thực các thông tin về lưu lượng nước thải, khí thải công nghiệp cho cơ quan quản
+    lý Nhà nước về môi trường. Trong trường hợp số liệu của các tổ chức, cá nhân cung
+    cấp chưa đủ tin cậy, cơ quan quản lý Nhà nước về môi trường sẽ tính toán, xác
+    định hoặc trưng cầu giám định theo quy định pháp luật.
+
+    3. Trong một số trường hợp đặc thù tùy thuộc vào quy mô, tính chất dự án, cơ sở
+    sản xuất, kinh doanh, dịch vụ, điều kiện cụ thể về môi trường tiếp nhận nước thải
+    và khí thải, địa điểm thực dự án và quy hoạch phát triển kinh tế - xã hội địa
+    phương, Ủy ban nhân dân tỉnh Đồng Nai có những quy định riêng.'
+  sentences:
+  - Điều 2 Quyết định 16/2010/QĐ-UBND phân vùng môi trường tiếp nhận nước thải khí
+    thải công nghiệp trên địa bàn tỉnh Đồng Nai
+  - Điều 16 Thông tư 14/2010/TT-BKHCN hướng dẫn tiêu chuẩn, quy trình thủ tục xét
+    tặng
+  - Người lao động có quyền đơn phương chấm dứt hợp đồng lao động khi được bổ nhiệm
+    giữ chức vụ gì?
+- source_sentence: Điều 29 Nghị định 46/2015 NĐ-CP quy định về thí nghiệm đối chứng,
+    kiểm định chất lượng, thí nghiệm khả năng chịu lực của kết cấu công trình trong
+    quá trình thi công xây dựng. Tôi xin hỏi, trong dự toán công trình giao thông
+    có chi phí kiểm định tạm tính, chủ đầu tư có quyền lập đề cương, dự toán rồi giao
+    cho phòng thẩm định kết quả có giá trị, sau đó thực hiện thuê đơn vị tư vấn có
+    chức năng thực hiện công tác kiểm định được không?Bộ Xây dựng trả lời vấn đề này
+    như sau:Trường hợp kiểm định theo quy định tại Điểm a, Điểm b, Điểm c, Khoản 2,
+    Điều 29 (thí nghiệm đối chứng, kiểm định chất lượng, thí nghiệm khả năng chịu
+    lực của kết cấu công trình trong quá trình thi công xây dựng) Nghị định46/2015/NĐ-CPngày
+    12/5/2015 của Chính phủ về quản lý chất lượng và bảo trì công trình xây dựng thì
+    việc lập đề cương, dự toán kiểm định do tổ chức đáp ứng điều kiện năng lực theo
+    quy định của pháp luật thực hiện.Đối với trường hợp kiểm định theo quy định tại
+    Điểm đ, Khoản 2, Điều 29 Nghị định46/2015/NĐ-CPthì thực hiện theo quy định tại
+    Điều 18 Thông tư26/2016/TT-BXDngày 26/10/2016 của Bộ Xây dựng quy định chi tiết
+    một số nội dung về quản lý chất lượng và bảo trì công trình xây dựng.
+  sentences:
+  - Quy định về trợ cấp với cán bộ xã già yếu nghỉ việc
+  - Có thể thuê kiểm định chất lượng công trình?
+  - Điều kiện doanh nghiệp được hoạt động tư vấn giám sát
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+metrics:
+- cosine_accuracy@1
+- cosine_accuracy@3
+- cosine_accuracy@5
+- cosine_accuracy@10
+- cosine_precision@1
+- cosine_precision@3
+- cosine_precision@5
+- cosine_precision@10
+- cosine_recall@1
+- cosine_recall@3
+- cosine_recall@5
+- cosine_recall@10
+- cosine_ndcg@10
+- cosine_mrr@10
+- cosine_map@100
+model-index:
+- name: bkai-fine-tuned-legal
+  results:
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 768
+      type: dim_768
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.5855925639039504
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.7033307513555384
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.7500645494448748
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.8109992254066615
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.5855925639039504
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.23444358378517946
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.15001290988897495
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.08109992254066614
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.5855925639039504
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.7033307513555384
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.7500645494448748
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.8109992254066615
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6937880818561333
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.6568145771089225
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.6626061839086153
+      name: Cosine Map@100
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 512
+      type: dim_512
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.5848179705654531
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.7002323780015491
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.7490317583268784
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.8073844564936742
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.5848179705654531
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.23341079266718306
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.1498063516653757
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.0807384456493674
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.5848179705654531
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.7002323780015491
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.7490317583268784
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.8073844564936742
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6917119064236622
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.6551604719691482
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.6611599622252305
+      name: Cosine Map@100
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 256
+      type: dim_256
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.5814613994319648
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.6935192357345726
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.7428350116189001
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.8022205009036922
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.5814613994319648
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.2311730785781909
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.14856700232378
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.08022205009036923
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.5814613994319648
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.6935192357345726
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.7428350116189001
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.8022205009036922
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6871061609559359
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.6508078926552976
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.6566099087487134
+      name: Cosine Map@100
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 128
+      type: dim_128
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.5695843015750065
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.6785437645236251
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.7273431448489543
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.7936999741802221
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.5695843015750065
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.22618125484120832
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.14546862896979085
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.0793699974180222
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.5695843015750065
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.6785437645236251
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.7273431448489543
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.7936999741802221
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6754615621699942
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.6384098910241435
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.6443976474654151
+      name: Cosine Map@100
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: dim 64
+      type: dim_64
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.5543506325845597
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.6609863155176865
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.7061709269300284
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.7717531629227988
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.5543506325845597
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.22032877183922883
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.14123418538600568
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.07717531629227987
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.5543506325845597
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.6609863155176865
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.7061709269300284
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.7717531629227988
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.6571206813679893
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.6212180172869554
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.6275272633144896
+      name: Cosine Map@100
+---
+
+# bkai-fine-tuned-legal
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [bkai-foundation-models/vietnamese-bi-encoder](https://huggingface.co/bkai-foundation-models/vietnamese-bi-encoder) on the json dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [bkai-foundation-models/vietnamese-bi-encoder](https://huggingface.co/bkai-foundation-models/vietnamese-bi-encoder) <!-- at revision 84f9d9ada0d1a3c37557398b9ae9fcedcdf40be0 -->
+- **Maximum Sequence Length:** 256 tokens
+- **Output Dimensionality:** 768 dimensions
+- **Similarity Function:** Cosine Similarity
+- **Training Dataset:**
+    - json
+- **Language:** vi
+- **License:** apache-2.0
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: RobertaModel 
+  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("sentence_transformers_model_id")
+# Run inference
+sentences = [
+    'Điều 29 Nghị định 46/2015 NĐ-CP quy định về thí nghiệm đối chứng, kiểm định chất lượng, thí nghiệm khả năng chịu lực của kết cấu công trình trong quá trình thi công xây dựng. Tôi xin hỏi, trong dự toán công trình giao thông có chi phí kiểm định tạm tính, chủ đầu tư có quyền lập đề cương, dự toán rồi giao cho phòng thẩm định kết quả có giá trị, sau đó thực hiện thuê đơn vị tư vấn có chức năng thực hiện công tác kiểm định được không?Bộ Xây dựng trả lời vấn đề này như sau:Trường hợp kiểm định theo quy định tại Điểm a, Điểm b, Điểm c, Khoản 2, Điều 29 (thí nghiệm đối chứng, kiểm định chất lượng, thí nghiệm khả năng chịu lực của kết cấu công trình trong quá trình thi công xây dựng) Nghị định46/2015/NĐ-CPngày 12/5/2015 của Chính phủ về quản lý chất lượng và bảo trì công trình xây dựng thì việc lập đề cương, dự toán kiểm định do tổ chức đáp ứng điều kiện năng lực theo quy định của pháp luật thực hiện.Đối với trường hợp kiểm định theo quy định tại Điểm đ, Khoản 2, Điều 29 Nghị định46/2015/NĐ-CPthì thực hiện theo quy định tại Điều 18 Thông tư26/2016/TT-BXDngày 26/10/2016 của Bộ Xây dựng quy định chi tiết một số nội dung về quản lý chất lượng và bảo trì công trình xây dựng.',
+    'Có thể thuê kiểm định chất lượng công trình?',
+    'Quy định về trợ cấp với cán bộ xã già yếu nghỉ việc',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Information Retrieval
+
+* Datasets: `dim_768`, `dim_512`, `dim_256`, `dim_128` and `dim_64`
+* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
+
+| Metric              | dim_768    | dim_512    | dim_256    | dim_128    | dim_64     |
+|:--------------------|:-----------|:-----------|:-----------|:-----------|:-----------|
+| cosine_accuracy@1   | 0.5856     | 0.5848     | 0.5815     | 0.5696     | 0.5544     |
+| cosine_accuracy@3   | 0.7033     | 0.7002     | 0.6935     | 0.6785     | 0.661      |
+| cosine_accuracy@5   | 0.7501     | 0.749      | 0.7428     | 0.7273     | 0.7062     |
+| cosine_accuracy@10  | 0.811      | 0.8074     | 0.8022     | 0.7937     | 0.7718     |
+| cosine_precision@1  | 0.5856     | 0.5848     | 0.5815     | 0.5696     | 0.5544     |
+| cosine_precision@3  | 0.2344     | 0.2334     | 0.2312     | 0.2262     | 0.2203     |
+| cosine_precision@5  | 0.15       | 0.1498     | 0.1486     | 0.1455     | 0.1412     |
+| cosine_precision@10 | 0.0811     | 0.0807     | 0.0802     | 0.0794     | 0.0772     |
+| cosine_recall@1     | 0.5856     | 0.5848     | 0.5815     | 0.5696     | 0.5544     |
+| cosine_recall@3     | 0.7033     | 0.7002     | 0.6935     | 0.6785     | 0.661      |
+| cosine_recall@5     | 0.7501     | 0.749      | 0.7428     | 0.7273     | 0.7062     |
+| cosine_recall@10    | 0.811      | 0.8074     | 0.8022     | 0.7937     | 0.7718     |
+| **cosine_ndcg@10**  | **0.6938** | **0.6917** | **0.6871** | **0.6755** | **0.6571** |
+| cosine_mrr@10       | 0.6568     | 0.6552     | 0.6508     | 0.6384     | 0.6212     |
+| cosine_map@100      | 0.6626     | 0.6612     | 0.6566     | 0.6444     | 0.6275     |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### json
+
+* Dataset: json
+* Size: 30,987 training samples
+* Columns: <code>positive</code> and <code>anchor</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | positive                                                                             | anchor                                                                            |
+  |:--------|:-------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------|
+  | type    | string                                                                               | string                                                                            |
+  | details | <ul><li>min: 19 tokens</li><li>mean: 187.91 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 8 tokens</li><li>mean: 20.24 tokens</li><li>max: 63 tokens</li></ul> |
+* Samples:
+  | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                | anchor                                                                                                                             |
+  |:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------|
+  | <code>Người lao động bị tạm đình chỉ công việc được tạm ứng 50% tiền lương trước khi bị đình chỉ công việc. Trong trường hợp bị xử lý kỷ luật lao động, người lao động không được nhận khoản tiền tạm ứng này.</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                   | <code>Người lao động bị tạm đình chỉ công việc được tạm ứng bao nhiêu phần trăm tiền lương trước khi bị đình chỉ công việc?</code> |
+  | <code>Điều 3 Quyết định 3602/QĐ-BNN-TCTS 2014 hướng dẫn số lượng tàu cá đóng mới thực hiện 67/2014/NĐ-CP có nội dung như sau:<br><br>Điều 3. Chủ tịch Ủy ban nhân dân các tỉnh, thành phố trực thuộc trung ương ven biển, Chánh Văn phòng Bộ, Tổng cục trưởng Tổng cục Thủy sản, Thủ trưởng các đơn vị có liên quan chịu trách nhiệm thi hành Quyết định này</code>                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                     | <code>Điều 3 Quyết định 3602/QĐ-BNN-TCTS 2014 hướng dẫn số lượng tàu cá đóng mới thực hiện 67/2014/NĐ-CP</code>                    |
+  | <code>Tại khoản 1 Điều 15 Luật Cảnh sát cơ động 2022 có quy định về sử dụng vũ khí, vật liệu nổ, công cụ hỗ trợ, phương tiện, thiết bị kỹ thuật nghiệp vụ của Cảnh sát cơ động như sau:<br><br>Sử dụng vũ khí, vật liệu nổ, công cụ hỗ trợ, phương tiện, thiết bị kỹ thuật nghiệp vụ<br>1. Khi thực hiện nhiệm vụ độc lập, cán bộ, chiến sĩ Cảnh sát cơ động được sử dụng vũ khí, vật liệu nổ, công cụ hỗ trợ và được nổ súng quân dụng theo quy định của Luật Quản lý, sử dụng vũ khí, vật liệu nổ và công cụ hỗ trợ.<br>2. Khi thực hiện nhiệm vụ có tổ chức, việc sử dụng vũ khí, vật liệu nổ, công cụ hỗ trợ của Cảnh sát cơ động phải tuân theo mệnh lệnh của người chỉ huy trực tiếp. Người ra mệnh lệnh phải tuân thủ quy định của Luật Quản lý, sử dụng vũ khí, vật liệu nổ và công cụ hỗ trợ, quy định của pháp luật có liên quan và chịu trách nhiệm trước pháp luật và cấp trên về quyết định của mình.<br>3. Việc sử dụng phương tiện, thiết bị kỹ thuật nghiệp vụ khi thực hiện nhiệm vụ của Cảnh sát cơ động theo phương án đã được cấp có thẩm...</code> | <code>Cảnh sát cơ động có được quyền dùng súng không?</code>                                                                       |
+* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
+  ```json
+  {
+      "loss": "MultipleNegativesRankingLoss",
+      "matryoshka_dims": [
+          768,
+          512,
+          256,
+          128,
+          64
+      ],
+      "matryoshka_weights": [
+          1,
+          1,
+          1,
+          1,
+          1
+      ],
+      "n_dims_per_step": -1
+  }
+  ```
+
+### Evaluation Dataset
+
+#### json
+
+* Dataset: json
+* Size: 3,874 evaluation samples
+* Columns: <code>positive</code> and <code>anchor</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | positive                                                                             | anchor                                                                            |
+  |:--------|:-------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------|
+  | type    | string                                                                               | string                                                                            |
+  | details | <ul><li>min: 25 tokens</li><li>mean: 189.57 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 7 tokens</li><li>mean: 20.56 tokens</li><li>max: 63 tokens</li></ul> |
+* Samples:
+  | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | anchor                                                                                                           |
+  |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------|
+  | <code>Chương V của Bộ luật Lao động 2019 quy định về thời giờ làm việc, thời giờ nghỉ ngơi. Thời giờ làm việc bình thường không quá 8 giờ trong một ngày và không quá 48 giờ trong một tuần. Người lao động có thể làm thêm giờ khi được người sử dụng lao động yêu cầu và phải trả lương làm thêm giờ theo quy định. Tổng số giờ làm thêm không được vượt quá 200 giờ trong một năm, trường hợp đặc biệt không được vượt quá 300 giờ trong một năm. Người lao động được nghỉ ngơi giữa giờ làm việc ít nhất 30 phút liên tục nếu làm việc 8 giờ liên tục trong ngày. Người lao động được nghỉ hằng tuần ít nhất 24 giờ liên tục. Người lao động được nghỉ lễ, tết và nghỉ hằng năm có hưởng lương theo quy định của pháp luật. Thời gian làm việc ban đêm được tính từ 22 giờ đến 6 giờ sáng ngày hôm sau.</code>                                                                                                                                                                                                                                                               | <code>Người lao động có quyền nghỉ ngơi bao nhiêu giờ liên tục hằng tuần?</code>                                 |
+  | <code>Điều 8 Thông tư 63/2013/TT-BGTVT hướng dẫn Bản ghi nhớ vận tải đường bộ giữa Campuchia Lào Việt Nam có nội dung như sau:<br><br>Điều 8. Hồ sơ cấp Giấy phép liên vận CLV<br>1. Đối với xe thương mại:<br>a) Đơn đề nghị cấp Giấy phép liên vận CLV cho phương tiện thương mại quy định tại Phụ lục VI của Thông tư này;<br>b) Giấy phép kinh doanh vận tải bằng xe ô tô hoặc Giấy chứng nhận đăng ký kinh doanh đối với đơn vị kinh doanh vận tải bằng xe ô tô không thuộc đối tượng phải cấp giấy phép kinh doanh vận tải bằng xe ô tô (bản sao có chứng thực hoặc bản sao kèm theo bản chính để đối chiếu);<br>c) Giấy đăng ký phương tiện (bản sao có chứng thực hoặc bản sao kèm theo bản chính để đối chiếu);<br>d) Văn bản chấp thuận khai thác tuyến (đối với phương tiện kinh doanh vận tải hành khách theo tuyến cố định);<br>đ) Trường hợp phương tiện không thuộc sở hữu của đơn vị kinh doanh vận tải thì phải xuất trình thêm tài liệu chứng minh quyền sử dụng hợp pháp của đơn vị kinh doanh vận tải với phương tiện đó (bản sao có chứng thực ho...</code> | <code>Điều 8 Thông tư 63/2013/TT-BGTVT hướng dẫn Bản ghi nhớ vận tải đường bộ giữa Campuchia Lào Việt Nam</code> |
+  | <code>Chương V của Bộ luật Lao động 2019 quy định về thời giờ làm việc, thời giờ nghỉ ngơi. Thời giờ làm việc bình thường không quá 8 giờ trong một ngày và không quá 48 giờ trong một tuần. Người lao động có thể làm thêm giờ khi được người sử dụng lao động yêu cầu và phải trả lương làm thêm giờ theo quy định. Tổng số giờ làm thêm không được vượt quá 200 giờ trong một năm, trường hợp đặc biệt không được vượt quá 300 giờ trong một năm. Người lao động được nghỉ ngơi giữa giờ làm việc ít nhất 30 phút liên tục nếu làm việc 8 giờ liên tục trong ngày. Người lao động được nghỉ hằng tuần ít nhất 24 giờ liên tục. Người lao động được nghỉ lễ, tết và nghỉ hằng năm có hưởng lương theo quy định của pháp luật. Thời gian làm việc ban đêm được tính từ 22 giờ đến 6 giờ sáng ngày hôm sau.</code>                                                                                                                                                                                                                                                               | <code>Người lao động có được trả lương khi nghỉ lễ, tết và nghỉ hằng năm không?</code>                           |
+* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
+  ```json
+  {
+      "loss": "MultipleNegativesRankingLoss",
+      "matryoshka_dims": [
+          768,
+          512,
+          256,
+          128,
+          64
+      ],
+      "matryoshka_weights": [
+          1,
+          1,
+          1,
+          1,
+          1
+      ],
+      "n_dims_per_step": -1
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: epoch
+- `per_device_train_batch_size`: 36
+- `per_device_eval_batch_size`: 36
+- `gradient_accumulation_steps`: 12
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.25
+- `max_grad_norm`: 0.6
+- `num_train_epochs`: 8
+- `lr_scheduler_type`: cosine
+- `warmup_ratio`: 0.2
+- `fp16`: True
+- `load_best_model_at_end`: True
+- `optim`: adamw_hf
+- `group_by_length`: True
+- `batch_sampler`: no_duplicates
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: epoch
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 36
+- `per_device_eval_batch_size`: 36
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 12
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.25
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 0.6
+- `num_train_epochs`: 8
+- `max_steps`: -1
+- `lr_scheduler_type`: cosine
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.2
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: False
+- `fp16`: True
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: True
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_hf
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: True
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: None
+- `hub_always_push`: False
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `include_for_metrics`: []
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `dispatch_batches`: None
+- `split_batches`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `eval_use_gather_object`: False
+- `average_tokens_across_devices`: False
+- `prompts`: None
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: proportional
+
+</details>
+
+### Training Logs
+| Epoch      | Step    | Training Loss | Validation Loss | dim_768_cosine_ndcg@10 | dim_512_cosine_ndcg@10 | dim_256_cosine_ndcg@10 | dim_128_cosine_ndcg@10 | dim_64_cosine_ndcg@10 |
+|:----------:|:-------:|:-------------:|:---------------:|:----------------------:|:----------------------:|:----------------------:|:----------------------:|:---------------------:|
+| 0.9745     | 35      | 2.0891        | 0.8637          | 0.5232                 | 0.5220                 | 0.5098                 | 0.4937                 | 0.4655                |
+| 1.9745     | 70      | 0.8166        | 0.4945          | 0.6462                 | 0.6453                 | 0.6351                 | 0.6185                 | 0.5894                |
+| 2.9745     | 105     | 0.4366        | 0.3967          | 0.6853                 | 0.6850                 | 0.6769                 | 0.6624                 | 0.6427                |
+| 3.9745     | 140     | 0.2715        | 0.3548          | 0.6885                 | 0.6880                 | 0.6822                 | 0.6705                 | 0.6514                |
+| 4.9745     | 175     | 0.1886        | 0.3404          | 0.6924                 | 0.6906                 | 0.6872                 | 0.6748                 | 0.6559                |
+| **5.9745** | **210** | **0.1467**    | **0.3299**      | **0.6938**             | **0.6917**             | **0.6871**             | **0.6755**             | **0.6571**            |
+
+* The bold row denotes the saved checkpoint.
+
+### Framework Versions
+- Python: 3.10.12
+- Sentence Transformers: 3.3.1
+- Transformers: 4.47.0
+- PyTorch: 2.5.1+cu121
+- Accelerate: 1.2.1
+- Datasets: 3.2.0
+- Tokenizers: 0.21.0
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### MatryoshkaLoss
+```bibtex
+@misc{kusupati2024matryoshka,
+    title={Matryoshka Representation Learning},
+    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
+    year={2024},
+    eprint={2205.13147},
+    archivePrefix={arXiv},
+    primaryClass={cs.LG}
+}
+```
+
+#### MultipleNegativesRankingLoss
+```bibtex
+@misc{henderson2017efficient,
+    title={Efficient Natural Language Response Suggestion for Smart Reply},
+    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
+    year={2017},
+    eprint={1705.00652},
+    archivePrefix={arXiv},
+    primaryClass={cs.CL}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->