Szkolenie Optymalizacja modeli Machine Learning i AI
Poziom
ZaawansowanyCzas
24h / 3 dniTermin
IndywidualnieCena
IndywidualnieSzkolenie Optymalizacja modeli Machine Learning i AI
Szkolenie „Optymalizacja modeli Machine Learning i AI” to praktyczny, 3 dniowy kurs, który koncentruje się na usprawnianiu wydajności i efektywności modeli uczenia maszynowego w trakcie ich treningu i inferencji. Uczestnicy poznają techniki takie jak kwantyzacja, pruning, mixed-precision training oraz narzędzia przyspieszające działanie modeli, w tym ONNX, TensorRT i Triton. Program łączy 80% praktycznych warsztatów z 20% wprowadzenia teoretycznego, pozwalając na zdobycie umiejętności optymalizacji modeli uczenia maszynowego z domeny Computer Vision, Natural Language Processing oraz modeli LLM/SLM, z uwzględnieniem zastosowań na urządzeniach brzegowych i w środowiskach produkcyjnych.
Dla kogo jest to szkolenie?
Data scientists i inżynierów uczenia maszynowego z doświadczeniem w projektach ML-
Specjalistów odpowiedzialnych za wdrożenia modeli w środowiskach o ograniczonych zasobach
-
Osób pracujących z dużymi modelami językowymi i wizji komputerowej, którzy chcą zoptymalizować ich działanie
-
Inżynierów ML chcących poznać zaawansowane metody treningu i inferencji, by skrócić czas i koszty
Czego nauczysz się na szkoleniu?
- Stosować zaawansowane techniki optymalizacji modeli uczenia maszynowego oraz modeli głębokich sieci neuronowych.
- Przyspieszać procesy treningu i inferencji przy zachowaniu jakości modelu
- Kompresować modele i dostosowywać je do implementacji na urządzeniach brzegowych
- Nauczysz się korzystać z narzędzi (ONNX, TensorRT, Triton) oraz frameworków rozproszonych do pracy z dużymi modelami
- Projektować skalowalne i efektywne rozwiązania AI gotowe do produkcji
Program szkolenia
Dzień 1: Podstawy optymalizacji i zaawansowane środowiska pracy
Moduł 1: Wprowadzenie do optymalizacji modeli ML i AI
- Potrzeby i cele optymalizacji w różnych etapach modelowania
- Przegląd technik: kwantyzacja, pruning, mixed-precision training
- Optymalizacja potoków danych – usprawnianie wczytywania i augmentacji
- Zwinne zarządzanie cyklem życia modelu pod kątem optymalizacji (benchmarking, ewaluacja)
Moduł 2: Potoki danych i zarządzanie przepływem danych
- Automatyzacja wczytywania, pre-processing i augmentacji z myślą o wydajności
- Praktyka: testowanie i tuning potoków augmentacyjnych
- Walidacja jakości i efektywności danych w kontekście treningu modelu
Moduł 3: Technologie i narzędzia wspierające optymalizację
- ONNX – standard wymiany i przyspieszenia modeli
- Frameworki do przyspieszania inferencji: TensorRT, Triton
- Integracja z popularnymi bibliotekami (PyTorch, TensorFlow)
- Warsztaty praktyczne: przygotowanie modelu do optymalizacji
Dzień 2: Techniki optymalizacyjne i praktyczne wdrożenia
Moduł 4: Praktyki optymalizacji procesu treningu
- Trening z mieszanymi precyzjami – jak zmniejszyć zapotrzebowanie na zasoby
- Akumulacja gradientów i trening rozproszony
- Dobór i tuning hiperparametrów pod kątem optymalizacji
Moduł 4: Kompresja i adaptacja modeli po treningu
- Kwantyzacja i pruning modeli – metody i zastosowania
- Formaty modeli zoptymalizowane pod względem wydajności i pamięci
- Sposoby wdrożenia zoptymalizowanych modeli na urządzenia brzegowe (edge devices)
- Case study: optymalizacja dużych modeli językowych oraz modeli wizji komputerowej
Dzień 3: Optymalizacja w produkcji i skalowanie
Moduł 5: Zastosowanie optymalizacji w środowiskach produkcyjnych
- Specyfika optymalizacji dużych modeli językowych (LLM) oraz modeli CV
- Wdrażanie zoptymalizowanych modeli w chmurze i on-premise
- Monitorowanie wydajności, diagnostyka i eliminowanie problemów przy inferencji
- Praktyczna analiza kosztów i wydajności: studium przypadków
- Skalowanie i zarządzanie modelami AI na dużą skalę
Moduł 6: Najlepsze praktyki i trendy w optymalizacji AI
- Monitorowanie zużycia zasobów i automatyzacja skalowania
- Diagnostyka i awaryjne scenariusze – troubleshooting po wdrożeniu
- Narzędzia do automatycznego benchmarkingu oraz testowania modeli po aktualizacjach
- Trendy w optymalizacji dużych modeli i rola algorytmów adaptacyjnych
- Dyskusja i wymiana doświadczeń uczestników
