LLM

토큰 최적화는 예산을 소모하는 실험에서 비용 효율적인 LLM(대규모 언어 모델) 애플리케이션을 구분하는 핵심 기술입니다.

저는 NVIDIA DGX Spark, Mac Studio, 그리고 RTX 4080 세 가지 다른 플랫폼에서 Ollama를 사용하여 GPT-OSS 120b의 흥미로운 성능 테스트 결과를 조사했습니다. Ollama 라이브러리에서 제공하는 GPT-OSS 120b 모델은 65GB의 크기를 가지며, 이는 RTX 4080의 16GB VRAM에 맞지 않으므로, 또는 더 최근의 RTX 5080에도 맞지 않습니다.

모델 컨텍스트 프로토콜(MCP)은 AI 어시스턴트가 외부 데이터 소스 및 도구와 상호 작용하는 방식을 혁신하고 있습니다. 이 가이드에서는 웹 검색 및 스크래핑 기능에 초점을 맞춘 MCP 서버를 Python으로 구축 방법을 살펴보겠습니다.

HTML을 Markdown으로 변환은 웹 콘텐츠를 대규모 언어 모델(LLM), 문서 시스템, 또는 Hugo와 같은 정적 사이트 생성기로 준비하는 현대 개발 워크플로우에서 기본적인 작업입니다.

Docker 모델 러너 (DMR)는 2025년 4월에 도입된 Docker의 공식 솔루션으로, 로컬에서 AI 모델을 실행하는 데 사용됩니다. 이 체크리스트는 모든 필수 명령어, 구성 및 최선의 실천 방법에 대한 빠른 참조를 제공합니다.

로컬에서 대규모 언어 모델(LLM) 실행 는 프라이버시, 비용 관리, 오프라인 기능을 위해 점점 더 인기를 끌고 있습니다. 2025년 4월에 Docker가 Docker Model Runner (DMR), AI 모델 배포를 위한 공식 솔루션을 발표하면서 상황은 크게 변화했습니다.

AI의 미래는 AI가 더 똑똑한 모델을 의미하는 것 이상입니다. 그것은 더 똑똑한 실리콘을 의미합니다.
LLM 추론을 위한 전용 하드웨어는 비트코인 채굴이 ASIC으로 전환했던 것과 유사한 혁명을 일으키고 있습니다.

**NVIDIA DGX Spark**는 실제 제품이며, 2025년 10월 15일에 판매가 시작되며, CUDA 개발자들이 로컬 LLM 작업을 수행하기 위해 통합된 NVIDIA AI 스택이 포함된 제품을 대상으로 합니다. 미국 MSRP는 $3,999이며, 영국/독일/일본의 경우 VAT 및 채널 비용으로 인해 가격이 더 높습니다. AUD/KRW 공식 가격표는 아직 널리 공개되지 않았습니다.

다음은 Qwen3:30b와 GPT-OSS:20b 사이의 비교입니다.
지시사항 준수 및 성능 파라미터, 사양 및 속도에 초점을 맞추고 있습니다:

이 게시물에서는 Python 애플리케이션을 Ollama에 연결하는 두 가지 방법을 살펴보겠습니다: 1. HTTP REST API를 통해; 2. 공식 Ollama Python 라이브러리를 통해.

Ollama의 GPT-OSS 모델은 특히 LangChain, OpenAI SDK, vllm 및 기타 프레임워크와 함께 사용될 때 구조화된 출력을 처리하는 데 반복적인 문제가 있습니다.

다음은 구조화된 출력을 지원하는 주요 LLM 제공업체 간의 비교 및 최소한의 Python 예제입니다.

대규모 언어 모델(LLMs) 은 강력하지만, 실제 운영 환경에서는 일반적인 문장이 아닌 예측 가능한 데이터를 원합니다. 즉, 앱에 입력할 수 있는 속성, 사실 또는 구조화된 객체를 원합니다. 이에 대해 LLM 구조화된 출력을 살펴보겠습니다.

여기서 저는 새로운 버전의 Ollama가 모델에 할당하는 VRAM의 양을 이전 버전과 비교하고 있습니다.
새로운 버전은 더 나쁘다고 보입니다.

Ollama은 LLM을 로컬에서 실행하는 데 사용되는 가장 인기 있는 도구 중 하나로 빠르게 자리 잡았습니다.
간단한 CLI와 간소화된 모델 관리 기능 덕분에, 클라우드 외부에서 AI 모델을 사용하고자 하는 개발자들에게 필수적인 선택지가 되었습니다.
하지만 많은 유망한 플랫폼과 마찬가지로, 이미 **Enshittification**의 징후가 나타나고 있습니다.

로컬에서 호스팅된 Ollama는 대형 언어 모델을 자신의 컴퓨터에서 실행할 수 있게 해줍니다. 하지만 명령줄을 통해 사용하는 것은 사용자 친화적이지 않습니다. 다음은 로컬 Ollama에 연결되는 **ChatGPT 스타일의 인터페이스**를 제공하는 여러 오픈 소스 프로젝트입니다.