Chủ đề: llm

14 bài

· ai / claude

Claude Sonnet 4 cho lập trình viên — thay đổi từ Claude 3

Sonnet 4 là bản nâng cấp độ ổn định cho agentic work, không phải bước nhảy vọt benchmark. Thay đổi API, reward hacking giảm 69%, và có nên nâng cấp không.

· ai-tools / llm

Context engineering năm 2026 — sáu pattern thực sự hiệu quả

Context engineering quyết định model nhìn thấy gì khi inference. Sáu pattern kèm code: ordering, caching, compaction, sub-agent isolation, và nhiều hơn nữa.

· cloudflare / cloudflare-workers

Cách thiết lập Cloudflare Workers AI: Hướng dẫn từng bước

Chạy inference ở edge với Workers AI: scaffold Worker, bind AI, gọi model, stream SSE, tạo embeddings và ảnh. Có đầy đủ pricing và rate limit chính xác.

· nextjs / llm

Cách stream phản hồi LLM trong Next.js với Vercel AI SDK

Stream LLM token-by-token trong Next.js với 50 dòng code dùng AI SDK v6. Hướng dẫn route handler, client hook, và hai bẫy timeout Vercel mà hầu hết tutorial bỏ qua.

· llm / api

GitHub Models 2026 — API LLM miễn phí cho developer

Chúng tôi thử nghiệm GitHub Models: giới hạn tốc độ, tương thích OpenAI, và liệu 150 lần gọi API mỗi ngày có đủ cho side project thực tế không.

· ai-tools / llm

Prompt caching năm 2026 — so sánh Anthropic, OpenAI và Gemini

Prompt caching giảm chi phí LLM 90%. Anthropic yêu cầu đánh dấu tường minh, OpenAI cache tự động, Gemini tính phí theo giờ. Đây là cách chọn đúng.

· llm / openai

Structured outputs từ LLMs: JSON mode, Zod và tool use

Grammar-constrained sampling là primitive LLM đáng tin cậy duy nhất. Cách OpenAI, Anthropic, Zod và Vercel AI SDK v6 so sánh — và điểm nào vẫn có thể thất bại.

· claude / anthropic

Claude API 2026: Prompt Caching, Tool Use và Batch

Hướng dẫn thực chiến về ba tính năng Claude API quan trọng nhất: prompt caching, tool use, và Message Batches API — khoảng cách giữa prototype và production.

· openrouter / llm

OpenRouter vs direct API: khi nào gateway là đúng?

OpenRouter thắng cho đa model và automatic failover. Direct API thắng khi single-provider, lưu lượng lớn hoặc workload cần compliance. Đây là cách chọn đúng.

· editors / zed

Zed AI 2026 — tính năng LLM tích hợp có đáng dùng không?

Zed AI nhanh và bảo mật nhưng thiếu codebase indexing — thua Cursor trên repo lớn chưa quen. Đáng thử nếu tốc độ editor và BYOK quan trọng hơn semantic search.

· prompt-engineering / llm

Công cụ prompt engineering tốt nhất cho team AI 2026

PromptLayer cho PM quản lý prompt, LangSmith cho stack LangChain, Braintrust cho team đặt eval lên đầu — phân tích 8 công cụ LLM theo nhóm người dùng, 2026.

· llm / cost-optimization

LLM cost routing: khi nào Haiku thắng Opus và khi nào không

Chuyển 1M token phân loại từ Opus 4.7 sang Haiku 4.5 tiết kiệm $6.00 — giảm 80%. Đây là phân loại task, yếu tố latency, và các công cụ để triển khai.

· llm / fine-tuning

Cách fine-tune LLM nhỏ năm 2026 (LoRA trên laptop)

Fine-tune Llama 3.1 8B QLoRA trên GPU consumer — cài đặt ghim phiên bản, cấu hình training chính xác, xuất GGUF sang Ollama, và tám trường hợp lỗi.

· ollama / lm-studio

Ollama vs LM Studio — chạy LLM cục bộ trên Mac 2026

LM Studio thắng về throughput và bộ nhớ. Ollama thắng về time-to-first-token và cài đặt CLI. Đây là khi nào nên chọn cái nào trên Apple Silicon.