Deep metric learning code execution
|

Techniki Głębokiego Uczenia Metryki


Opis Projektu

Ten projekt był moim projektem magisterskim. Skupiał się bardziej na elemencie badawczym niż inżynieryjnym. Później wyniki tego projektu przyczyniły się do powstania publikacji ”Creating an Advanced Combat System in an cRPG Game Based on Similarity of Symbols Drawn by the Player Using Neural Networks„. Poniżej można przeczytać streszczenie pracy ”Techniki Głębokiego Uczenia Metryki“.

Streszczenie: Niniejsza praca ma na celu analizę wpływu różnych funkcji straty oraz liczby epok treningu na skuteczność modelu sieci neuronowej wykorzystującej głębokie uczenie metryki w zadaniu klasyfikacji obrazów. Badania przeprowadzono na zbiorze danych MNIST, a ocena dokładności modelu została wykonana przy wykorzystaniu algorytmu $k$ najbliższych sąsiadów. W badaniach wykorzystano kilka różnych funkcji straty, w tym strata analizy składników sąsiedztwa, strata marginesu, strata pełnomocnika kotwicy, strata kontrastowa oraz stratę trójkową. Dla każdej funkcji straty przeprowadzono trening modelu przy liczbie epok: 1, 5, 10, 20 i 50. Celem było zrozumienie, jak funkcje straty oraz liczba epok treningu wpływają na jakość wyników klasyfikacji. Analiza wyników pokazuje, że wybór odpowiedniej funkcji straty ma znaczący wpływ na osiąganą dokładność modelu. Okazało się, że nie istnieje jedna uniwersalnie najlepsza funkcja straty dla wszystkich przypadków, ale ich skuteczność zależy od specyfiki problemu. Co więcej, wpływ liczby epok treningu na rezultaty jest zróżnicowany - dłuższy trening nie zawsze przekłada się na lepsze wyniki. Zaobserwowano przypadki przeuczenia modelu, które prowadziło do obniżenia dokładności przy zbyt długim treningu. Wnioski z badań potwierdzają skuteczność głębokiego uczenia metryki w zadaniach klasyfikacji obrazów. Wybór odpowiednich funkcji strat oraz dostosowanie liczby epok treningu są kluczowe dla uzyskania optymalnej dokładności. Wyniki te mają ważne implikacje dla projektowania i optymalizacji modeli sieci neuronowych w zastosowaniach klasyfikacyjnych.

W pracy głębokie uczenie metryki zostały użyte poniższe funkcje straty

  • Strata Kątowa
  • Strata Kołowa
  • Strata Kontrastowa
  • Strata Szybkiej Średniej Precyzji
  • Strata Softmax z Dużym Marginesem
  • Podniesiona Strata Strukturalna
  • Strata Marginesu
  • Strata Analizy Składników Sąsiedztwa
  • Znormalizowana Strata Softmax
  • Strata N Par
  • Strata Pełnomocnika Kotwicy
  • Strata Marginesu Trójkowego

Informacje

  • Start: Styczeń 2023
  • Koniec: Wrzesień 2023
  • Typ: Praca Magisterska
  • Stan: Ukończony
  • Powiązanie: Politechnika Śląska
  • Lokalizacja: Polska, Gliwice

Galeria


Wyniki

Podobne wpisy