Abstrakt
Rozdział opisuje problematykę przetwarzania ciągów danych. Opisane zostały typy ciągów danych: dane sekwencyjne, sekwencje czasowe oraz przebiegi czasowe. Przedstawiona została architektura sieci rekurencyjnych, problem zanikającego i eksplodującego gradientu, a także architektury komórek rekurencyjnych LSTM oraz GRU, które ten problem rozwiązują. W dalszej części opisana została architektura typu Transformer wraz z przykładowymi wykorzystującymi ją modelami: BERT, GPT, T5. Następnie zaprezentowano działanie modeli autoregresyjnych. Na końcu opisano metody dekodowania używane w zadaniach generacyjnych.
Autor (1)
Cytuj jako
Pełna treść
pełna treść publikacji nie jest dostępna w portalu
Słowa kluczowe
Informacje szczegółowe
- Kategoria:
- Publikacja monograficzna
- Typ:
- Publikacja monograficzna
- Tytuł wydania:
- Uczenie maszynowe i systemy rozproszone strony 41 - 58
- Rok wydania:
- 2021
- Opis bibliograficzny:
- Wawrzyński A.: Modelowanie ciągów danych z użyciem sieci neuronowych// Uczenie maszynowe i systemy rozproszone/ : , 2021, s.41-58
- Weryfikacja:
- Brak weryfikacji
wyświetlono 183 razy
Publikacje, które mogą cię zainteresować
The Chitosan-Based System with Scutellariae baicalensis radix Extract for the Local Treatment of Vaginal Infections
- J. Chanaj-Kaczmarek,
- N. Rosiak,
- E. Wender-Ozegowska
- + 3 autorów
Platelets in fetal growth restriction: role of reactive oxygen species, oxygen metabolism, and aggregation.
- B. Poniedziałek,
- J. Nowaczyk,
- P. Rzymski
- + 2 autorów