Update README.md

README.md

@@ -78,6 +78,33 @@ scores = model.predict(
 print("Scores:", scores)
 ```
 
+### SentenceTransformers + onnx の利用
+
+CPU 環境や arm 環境などで、より高速に動かしたい場合
+
+```
+from sentence_transformers import CrossEncoder
+
+# oxxn のモデルを選ばないと model.onnx が自動で使われる
+# onnx_filename = None
+
+# 量子化された最適なモデルを使う場合は、onnx_filename にファイル名を指定する
+# onnx_filename = "onnx/model_qint8_avx2.onnx"
+onnx_filename = "onnx/model_qint8_arm64.onnx"
+
+if onnx_filename:
+    model = CrossEncoder(
+        MODEL_NAME,
+        device="cpu",
+        backend="onnx",
+        model_kwargs={"file_name": onnx_filename},
+    )
+else:
+    model = CrossEncoder(MODEL_NAME, device="cpu", backend="onnx")
+
+...
+```
+
 ## HuggingFace transformers
 
 ```python