Abstrakt
The paper analyzes some properties of denoising autoencoders using the problem of misspellings correction as an exemplary task. We evaluate the capacity of the network in its classical feed-forward form. We also propose a modification to the output layer of the net, which we called multi-softmax. Experiments show that the model trained with this output layer outperforms traditional network both in learning time and accuracy. We test the influence of the noise introduced to training data on the learning speed and generalization quality. The proposed approach of evaluating various properties of autoencoders using misspellings correction task serves as an open framework for further experiments, e.g. incorporating other neural network topologies into an autoencoder setting.
Cytowania
-
2
CrossRef
-
0
Web of Science
-
3
Scopus
Autorzy (2)
Cytuj jako
Pełna treść
- Wersja publikacji
- Accepted albo Published Version
- Licencja
- Copyright (Springer International Publishing AG 2017)
Słowa kluczowe
Informacje szczegółowe
- Kategoria:
- Aktywność konferencyjna
- Typ:
- materiały konferencyjne indeksowane w Web of Science
- Tytuł wydania:
- 9th International Conference on Computational Collective Intelligence (ICCCI) strony 438 - 447
- Język:
- angielski
- Rok wydania:
- 2017
- Opis bibliograficzny:
- Draszawka K., Szymański J..: Analysis of Denoising Autoencoder Properties Through Misspelling Correction Task, W: 9th International Conference on Computational Collective Intelligence (ICCCI), 2017, ,.
- DOI:
- Cyfrowy identyfikator dokumentu elektronicznego (otwiera się w nowej karcie) 10.1007/978-3-319-67077-5_42
- Weryfikacja:
- Politechnika Gdańska
wyświetlono 194 razy
Publikacje, które mogą cię zainteresować
Neural network agents trained by declarative programming tutors
- J. Dobrosolski,
- J. Szymański,
- H. Mora
- + 1 autorów
Condition-Based Monitoring of DC Motors Performed with Autoencoders
- K. Włódarczak,
- Ł. Grzymkowski,
- T. Stefański