ODBIERZ TWÓJ BONUS :: »

Mastering LLM Quantization: Architecture and Code. From Quantization Mathematics to CUDA, Triton, Inference Runtimes, and Production Optimization Krzysztof Rybiński

Książka w języku angielskim angielski
Mastering LLM Quantization: Architecture and Code. From Quantization Mathematics to CUDA, Triton, Inference Runtimes, and Production Optimization Krzysztof Rybiński - okladka książki

Mastering LLM Quantization: Architecture and Code. From Quantization Mathematics to CUDA, Triton, Inference Runtimes, and Production Optimization Krzysztof Rybiński - okladka książki

Mastering LLM Quantization: Architecture and Code. From Quantization Mathematics to CUDA, Triton, Inference Runtimes, and Production Optimization Krzysztof Rybiński - audiobook MP3

Mastering LLM Quantization: Architecture and Code. From Quantization Mathematics to CUDA, Triton, Inference Runtimes, and Production Optimization Krzysztof Rybiński - audiobook CD

Autor:
Krzysztof Rybiński
Ocena:
Stron:
446
Dostępne formaty:
     PDF
     ePub

Ebook
92,88 zł 129,00 zł (-28%)
129,00 zł najniższa cena z 30 dni

Dodaj do koszyka lub Kup na prezent Kup 1-kliknięciem

Przedsprzedaż Realizacja zamówień od 2026-11-27

Powiadom mnie, gdy książka będzie dostępna

eBook w Twojej bibliotece dostępny będzie w dniu premiery

Przenieś na półkę

Do przechowalni

Mastering LLM Quantization: Architecture and Code is a practical engineering guide to the mathematics, algorithms, implementation techniques, and production systems behind efficient large language model inference.

The book begins with quantization basics, numerical representations, error analysis, calibration, scaling, and sub-byte math. Readers explore GPTQ, AWQ, SmoothQuant, QLoRA, quantization-aware training, FP8, and other low-bit techniques. Implementation sections connect mathematical methods with real GPU systems, covering CUDA kernel engineering, Triton, CUTLASS, memory layouts, tensor operations, kernel optimization, and hardware-aware performance analysis. It also covers activation and KV-cache quantization, memory management, batching, and techniques for reducing inference cost while preserving model quality.

Practical deployment chapters examine GGUF, vLLM, TensorRT-LLM, ONNX Runtime, and other inference environments, showing how quantized models move into production systems. Hardware profiling, benchmarking, precision trade-offs, throughput, latency, memory consumption, and deployment optimization are treated as practical engineering problems. The result is an end-to-end perspective connecting quantization mathematics, algorithms, GPU architecture, optimized kernels, inference runtimes, and production deployment.
Selling  helion.pl
nformacja o grafice AI Informacja o grafice AI Wybrane elementy graficzne tej sekcji powstały przy wsparciu AI

Zamknij

Przenieś na półkę
Dodano produkt na półkę
Usunięto produkt z półki
Przeniesiono produkt do archiwum
Przeniesiono produkt do biblioteki
Proszę czekać...
ajax-loader

Zamknij

Wybierz metodę płatności

Ebook
92,88 zł
Przedsprzedaż - realizacja zamówień od 2026-11-27
Dodaj do koszyka
Zamknij Pobierz aplikację mobilną Ebookpoint