تقييد نماذج LLM باستخدام إخراج مهيكل: Ollama، Qwen3 وPython أو Go

{
  "name": "Model X",
  "supports_thinking": true,
  "max_context_tokens": 200000,
  "languages": ["English", "Chinese", "Spanish"]
}

import json
import ollama

prompt = """
أنت مُستخرج بيانات منظمة.
ارجع JSON فقط.
النص: "إيلون ماسك يبلغ من العمر 53 عامًا ويقيم في أوتر."
النموذج: { "name": string, "age": int, "city": string }
"""

response = ollama.chat(model="qwen3", messages=[{"role": "user", "content": prompt}])
output = response['message']['content']

# تحليل JSON
try:
    data = json.loads(output)
    print(data)
except Exception as e:
    print("خطأ في تحليل JSON:", e)

{"name": "إيلون ماسك", "age": 53, "city": "أوتر"}

from pydantic import BaseModel

class Person(BaseModel):
    name: str
    age: int
    city: str

# افترض أن 'output' هي سلسلة JSON من Qwen3
data = Person.model_validate_json(output)
print(data.name, data.age, data.city)

from pydantic import BaseModel
from typing import List
from ollama import chat

class LLMFeatures(BaseModel):
    name: str
    supports_thinking: bool
    max_context_tokens: int
    languages: List[str]

prompt = """
تحليل الوصف التالي وارجع خصائص النموذج في JSON فقط.
وصف النموذج:
'Qwen3 يتمتع بدعم متعدد اللغات (الإنجليزية، الصينية، الفرنسية، الإسبانية، العربية).
يسمح بالتفكير التسلسلي (التفكير التسلسلي).
نافذة السياق هي 128K رموز.'
"""

resp = chat(
    model="qwen3",
    messages=[{"role": "user", "content": prompt}],
    format=LLMFeatures.model_json_schema(),
    options={"temperature": 0},
)

print(resp.message.content)

{
  "name": "Qwen3",
  "supports_thinking": true,
  "max_context_tokens": 128000,
  "languages": ["الإنجليزية", "الصينية", "الفرنسية", "الإسبانية", "العربية"]
}

from typing import List

class ModelComparison(BaseModel):
    models: List[LLMFeatures]

prompt = """
استخرج خصائص كل نموذج إلى JSON.

1. Llama 3.1 يدعم التفكير. نافذة السياق هي 128K. اللغات: الإنجليزية فقط.
2. GPT-4 Turbo يدعم التفكير. نافذة السياق هي 128K. اللغات: الإنجليزية، اليابانية.
3. Qwen3 يدعم التفكير. نافذة السياق هي 128K. اللغات: الإنجليزية، الصينية، الفرنسية، الإسبانية، العربية.
"""

resp = chat(
    model="qwen3",
    messages=[{"role": "user", "content": prompt}],
    format=ModelComparison.model_json_schema(),
    options={"temperature": 0},
)

print(resp.message.content)

{
  "models": [
    {
      "name": "Llama 3.1",
      "supports_thinking": true,
      "max_context_tokens": 128000,
      "languages": ["الإنجليزية"]
    },
    {
      "name": "GPT-4 Turbo",
      "supports_thinking": true,
      "max_context_tokens": 128000,
      "languages": ["الإنجليزية", "اليابانية"]
    },
    {
      "name": "Qwen3",
      "supports_thinking": true,
      "max_context_tokens": 128000,
      "languages": ["الإنجليزية", "الصينية", "الفرنسية", "الإسبانية", "العربية"]
    }
  ]
}

from typing import Optional

class FlexibleLLMFeatures(BaseModel):
    name: str
    supports_thinking: Optional[bool]
    max_context_tokens: Optional[int]
    languages: Optional[List[str]]

package main

import (
	"context"
	"encoding/json"
	"fmt"
	"log"

	"github.com/ollama/ollama/api"
)

type LLMFeatures struct {
	Name             string   `json:"name"`
	SupportsThinking bool     `json:"supports_thinking"`
	MaxContextTokens int      `json:"max_context_tokens"`
	Languages        []string `json:"languages"`
}

func main() {
	client, err := api.ClientFromEnvironment()
	if err != nil {
		log.Fatal(err)
	}

	prompt := `
  تحليل الوصف التالي وارجع خصائص النموذج في JSON فقط.
  الوصف:
  "Qwen3 يتمتع بدعم متعدد اللغات (الإنجليزية، الصينية، الفرنسية، الإسبانية، العربية).
  يسمح بالتفكير التسلسلي (التفكير التسلسلي).
  نافذة السياق هي 128K رموز."
  `

	// تحديد مخطط JSON للمخرج المنظم
	formatSchema := map[string]any{
		"type": "object",
		"properties": map[string]any{
			"name": map[string]string{
				"type": "string",
			},
			"supports_thinking": map[string]string{
				"type": "boolean",
			},
			"max_context_tokens": map[string]string{
				"type": "integer",
			},
			"languages": map[string]any{
				"type": "array",
				"items": map[string]string{
					"type": "string",
				},
			},
		},
		"required": []string{"name", "supports_thinking", "max_context_tokens", "languages"},
	}

	// تحويل النموذج إلى JSON
	formatJSON, err := json.Marshal(formatSchema)
	if err != nil {
		log.Fatal("فشل تحويل النموذج:", err)
	}

	req := &api.GenerateRequest{
		Model:   "qwen3:8b",
		Prompt:  prompt,
		Format:  formatJSON,
		Options: map[string]any{"temperature": 0},
	}

	var features LLMFeatures
	var rawResponse string
	err = client.Generate(context.Background(), req, func(response api.GenerateResponse) error {
		// تراكم المحتوى أثناء البث
		rawResponse += response.Response

		// فقط تحليل عند اكتمال الاستجابة
		if response.Done {
			if err := json.Unmarshal([]byte(rawResponse), &features); err != nil {
				return fmt.Errorf("خطأ في تحليل JSON: %v", err)
			}
		}
		return nil
	})
	if err != nil {
		log.Fatal(err)
	}

	fmt.Printf("الهيكل المُحلل: %+v\n", features)
}

# تهيئة المودول
go mod init ollama-struct
# سحب جميع الاعتماديات
go mod tidy
# بناء وتشغيل
go build -o ollama-struct main.go
./ollama-struct

الهيكل المُحلل: {Name:Qwen3 SupportsThinking:true MaxContextTokens:128000 Languages:[الإنجليزية الصينية الفرنسية الإسبانية العربية]}

  type ModelComparison struct {
		Models []LLMFeatures `json:"models"`
	}

	prompt = `
	استخراج خصائص من الوصف التالي للنماذج وارجعها كـ JSON:

	1. PaLM 2: هذا النموذج لديه قدرات تفكير محدودة ويتركز على فهم اللغة الأساسية. يدعم نافذة سياقية بحجم 8,000 رموز. يدعم اللغة الإنجليزية فقط.
	2. LLaMA 2: هذا النموذج لديه قدرات تفكير معتدلة ويمكنه التعامل مع بعض المهام المنطقية. يمكنه معالجة ما يصل إلى 4,000 رموز في سياقه. يدعم اللغات الإنجليزية، الإسبانية، واللغة الإيطالية.
	3. Codex: هذا النموذج لديه قدرات تفكير قوية بشكل خاص في البرمجة وتحليل الكود. لديه نافذة سياقية بحجم 16,000 رموز. يدعم اللغات الإنجليزية، بايثون، جافاسكربت، وجافا.

	ارجع كائن JSON مع مصفوفة "models" تحتوي على جميع النماذج.
	`

	// تحديد مخطط JSON للمقارنة بين النماذج
	comparisonSchema := map[string]any{
		"type": "object",
		"properties": map[string]any{
			"models": map[string]any{
				"type": "array",
				"items": map[string]any{
					"type": "object",
					"properties": map[string]any{
						"name": map[string]string{
							"type": "string",
						},
						"supports_thinking": map[string]string{
							"type": "boolean",
						},
						"max_context_tokens": map[string]string{
							"type": "integer",
						},
						"languages": map[string]any{
							"type": "array",
							"items": map[string]string{
								"type": "string",
							},
						},
					},
					"required": []string{"name", "supports_thinking", "max_context_tokens", "languages"},
				},
			},
		},
		"required": []string{"models"},
	}

	// تحويل النموذج إلى JSON
	comparisonFormatJSON, err := json.Marshal(comparisonSchema)
	if err != nil {
		log.Fatal("فشل تحويل مخطط المقارنة:", err)
	}

	req = &api.GenerateRequest{
		Model:   "qwen3:8b",
		Prompt:  prompt,
		Format:  comparisonFormatJSON,
		Options: map[string]any{"temperature": 0},
	}

	var comp ModelComparison
	var comparisonResponse string
	err = client.Generate(context.Background(), req, func(response api.GenerateResponse) error {
		// تراكم المحتوى أثناء البث
		comparisonResponse += response.Response

		// فقط تحليل عند اكتمال الاستجابة
		if response.Done {
			if err := json.Unmarshal([]byte(comparisonResponse), &comp); err != nil {
				return fmt.Errorf("خطأ في تحليل JSON: %v", err)
			}
		}
		return nil
	})
	if err != nil {
		log.Fatal(err)
	}

	for _, m := range comp.Models {
		fmt.Printf("%s: Context=%d, Languages=%v\n", m.Name, m.MaxContext_tokens, m.Languages)
	}

PaLM 2: Context=8000, Languages=[الإنجليزية]
LLaMA 2: Context=4000, Languages=[الإنجليزية الإسبانية الإيطالية]
Codex: Context=16000, Languages=[الإنجليزية بايثون جافاسكربت جافا]

from pydantic import BaseModel
from typing import List, Optional

class LLMFeatures(BaseModel):
    name: str
    supports_thinking: bool
    max_context_tokens: int
    languages: List[str]

from ollama import chat

prompt = """
استخراج خصائص كل نموذج. ارجع JSON فقط مطابقًا للنموذج.
1) Qwen3 يدعم التفكير التسلسلي؛ 128K سياق؛ الإنجليزية، الصينية، الفرنسية، الإسبانية، العربية.
2) Llama 3.1 يدعم التفكير التسلسلي؛ 128K سياق؛ الإنجليزية.
3) GPT-4 Turbo يدعم التفكير التسلسلي؛ 128K سياق؛ الإنجليزية، اليابانية.
"""

resp = chat(
    model="qwen3",
    messages=[{"role": "user", "content": prompt}],
    format={"type": "array", "items": LLMFeatures.model_json_schema()},
    options={"temperature": 0}
)

raw_json = resp.message.content  # قائمة JSON من LLMFeatures

from pydantic import TypeAdapter

adapter = TypeAdapter(list[LLMFeatures])
models = adapter.validate_json(raw_json)  # -> list[LLMFeatures]

import pandas as pd

df = pd.DataFrame([m.model_dump() for m in models])
df["languages_count"] = df["languages"].apply(len)
df["languages"] = df["languages"].apply(lambda xs: ", ".join(xs))

# إعادة ترتيب الأعمدة لتحسين القابلية للقراءة
df = df[["name", "supports_thinking", "max_context_tokens", "languages_count", "languages"]]

# حفظ كـ CSV للاستخدام المستقبلي
df.to_csv("llm_feature_comparison.csv", index=False)

import matplotlib.pyplot as plt

plt.figure()
plt.bar(df["name"], df["max_context_tokens"])
plt.title("نافذة السياق القصوى حسب النموذج (رموز)")
plt.xlabel("النموذج")
plt.ylabel("رموز السياق القصوى")
plt.xticks(rotation=20, ha="right")
plt.tight_layout()
plt.savefig("max_context_window.png")