Ollama를 Python과 통합하는 방법: REST API 및 Python 클라이언트 예제

pip install requests ollama

ollama list

import requests
import json

url = "http://localhost:11434/api/chat"

payload = {
    "model": "llama3.1",
    "messages": [
        {"role": "system", "content": "당신은 Python 어시스턴트입니다."},
        {"role": "user", "content": "문자열을 뒤집는 함수를 작성해 주세요."}
    ]
}

response = requests.post(url, json=payload, stream=True)

for line in response.iter_lines():
    if line:
        data = json.loads(line)
        print(data.get("message", {}).get("content", ""), end="")

import requests

url = "http://localhost:11434/api/generate"
payload = {
    "model": "llama3.1",
    "prompt": "재귀를 한 문장으로 설명해 주세요."
}

response = requests.post(url, json=payload, stream=True)
for line in response.iter_lines():
    if line:
        print(line.decode("utf-8"))

import ollama

response = ollama.chat(
    model="llama3.1",
    messages=[
        {"role": "system", "content": "당신은 코드 어시스턴트입니다."},
        {"role": "user", "content": "디렉토리 내 모든 파일을 나열하는 Python 스크립트를 생성해 주세요."}
    ]
)

print(response['message']['content'])

stream = ollama.chat(
    model="llama3.1",
    messages=[
        {"role": "user", "content": "재귀에 대한 하이쿠를 작성해 주세요."}
    ],
    stream=True
)

for chunk in stream:
    print(chunk['message']['content'], end='', flush=True)

import ollama

output = ollama.generate(
    model="llama3.1",
    prompt="파이썬에서 데코레이터 개념을 요약해 주세요."
)

print(output['response'])

stream = ollama.generate(
    model="llama3.1",
    prompt="AI 프로젝트에 파이썬을 사용하는 세 가지 장점을 나열해 주세요.",
    stream=True
)

for chunk in stream:
    print(chunk['response'], end='', flush=True)

import ollama

response = ollama.chat(
    model="qwen3",
    messages=[
        {"role": "user", "content": "호주 수도는 어디인가요?"}
    ]
)

content = response['message']['content']

# 선택적으로 "생각" 부분 추출
import re
thinking = re.findall(r"</think>", content, re.DOTALL)
answer = re.sub(r"</think>", "", content, flags=re.DOTALL)

print("🧠 생각 과정:\n", thinking[0].strip() if thinking else "N/A")
print("\n✅ 최종 답변:\n", answer.strip())