RAG

DeepSeekの 1世代目の推論モデルで、OpenAI-o1と同等の性能を備えています。 これは、LlamaおよびQwenに基づいてDeepSeek-R1から蒸留された6つの密結合モデルです。

Reranking は、Retrieval Augmented Generation (RAG) システム における 2 番目のステップであり、Retrieval（検索）と Generation（生成）の間に位置します。

まだ、LLMがあなたの意図を理解しようとする際に混乱しないようにするための、良いプロンプトを書くためのいくつかの一般的なアプローチがあります。

パラメータ数や量子化の異なるモデルの挙動をテストしています。