Add results

main
Gašper Spagnolo 2023-08-24 10:30:29 +02:00
parent 8b9f03ed05
commit a3f022d60d
No known key found for this signature in database
GPG Key ID: 2EA0738CC1EFEEB7
7 changed files with 135 additions and 24 deletions

Binary file not shown.

View File

@ -34,6 +34,7 @@
\usepackage{listings}
\usepackage{xcolor}
\usepackage{float}
\lstset{
language=Python,
@ -1296,21 +1297,74 @@ class CrossWeightedMSE(nn.Module):
\subsection{Primerjava rezultatov}
%\begin{table}[h]
%\centering
%\begin{tabular}{|c|c|c|c|}
%\hline
%Kriterijska funkcija & vrednost & $$RDS_{train}$$ & $$RDS_{val}$$ \\
%\hline
%Hanningova kriterijska funkcija & 8.49 & 0.893 & 0.709 \\
%Gaussovo utezena srednja kvadratna napaka & 0.001 & 0.077 & 0.074 \\
%Hanningovo utežena srednja kvadratna napaka & 4.04e-06 & 0.061 & 0.059 \\
%Križno utežena srednja kvadratna napaka & 0.88 & 0.91 & 0.87 \\
%\hline
%\end{tabular}
%\caption{Rezultati ob uporabi razlicnih kriterijskih funkij.}
%\label{tab:metode}
%\end{table}
\begin{table}[ht]
\centering
\begin{tabular}{|c|c|c|c|}
\hline
Kriterijska funkcija & vrednost & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
\hline
Hanningova kriterijska funkcija & 8.49 & 0.893 & 0.709 \\
Gaussovo utezena srednja kvadratna napaka & 0.001 & 0.077 & 0.074 \\
Hanningovo utežena srednja kvadratna napaka & 4.04e-06 & 0.061 & 0.059 \\
Križno utežena srednja kvadratna napaka & 0.007 & 0.07 & 0.06 \\
\hline
\end{tabular}
\caption{Rezultati ob uporabi razlicnih kriterijskih funkij.}
\label{tab:metode}
\end{table}
\subsection{Analiza rezultatov}
\subsubsection{Hanningova kriterijska funkcija}
Hanningova kriterijska funkcija je pridobila vrednost
8.49, na ucni mnozici je dosegla $RDS_{\text{train}}$ vrednost 0.893 in na validacijski mnozici $RDS_{\text{val}}$ vrednost 0.709.
Glede na rezultate lahko opazimo, da Hanningova kriterijska funkcija izkazuje precej visoko uspešnost na trening setu, medtem ko je njena učinkovitost na validacijskem setu nekoliko nižja, vendar še vedno zelo dobra.
\begin{figure}[!h]
\centering
\includegraphics[width=0.9\textwidth]{./img/hanning_validation_plot.png}
\caption{Primer izhoda ob uporabi Hanningove kriterijske funkcije}
\label{fig:hanning_kriterijska_funkcija}
\end{figure}
Razlog za to lahko pripišemo edinstveni značilnosti Hanningove funkcije, ki dodeljuje uteži vzorcem glede na njihovo lokacijo.
V kontekstu satelitskih slik, kjer je pomembnost središčnega položaja običajno večja kot pomembnost robovih položajev, Hanningova funkcija ponuja naravno prilagodljivost, ki pomaga modelu bolje razumeti in upoštevati te pomembne razlike.
\subsubsection{Gaussovo utežena srednja kvadratna napaka}
Gaussova utežena srednja kvadratna napaka je dosegla rezultate, ki so bili veliko slabsi v primerjavi s Hanningovo kriterijsko funkcijo, na ucni mnozici je dosegla $RDS_{\text{train}}$ vrednost 0.077 in na validacijski mnozici $RDS_{\text{val}}$ vrednost 0.74.
\begin{figure}[H]
\centering
\includegraphics[width=0.9\textwidth]{./img/mse_gauss_validation_plot.png}
\caption{Primer izhoda ob uporabi Gaussovo utežene srednje kvadratne napake}
\label{fig:gasuss_mse_validation}
\end{figure}
Kljub temu, da tudi Gaussova funkcija izgube dodeljuje uteži glede na lokacijo vzorca, se zdi, da Hanningova funkcija bolje ustreza naravi satelitskih podatkov, vsaj v obravnavanem primeru.
\subsubsection{Hanningovo utežena srednja kvadratna napaka}
\begin{figure}[H]
\centering
\includegraphics[width=0.9\textwidth]{./img/mse_hannings_validation_plot.png}
\caption{Primer izhoda ob uporabi Hanningove utežene srednje kvadratne napake}
\label{fig:gasuss_mse_validation}
\end{figure}
\subsubsection{Križno utežena srednja kvadratna napaka}
\begin{figure}[H]
\centering
\includegraphics[width=0.9\textwidth]{./img/cwmse_gauss_validation_plot.png}
\caption{Primer izhoda ob uporabi Križno utežene srednje kvadratne napake}
\label{fig:gasuss_mse_validation}
\end{figure}
\textbf{Zaključek:} Hanningova kriterijska funkcija se je v obravnavanem primeru izkazala kot najbolj učinkovita.
Njena edinstvena sposobnost prilagajanja uteži glede na lokacijo vzorca se zdi še posebej primerna za obravnavo satelitskih slik, kar je morda razlog za njeno premoč nad ostalimi obravnavanimi funkcijami izgube.
\section{Ucenje s Stratificiranim Vzorčenjem}
@ -1344,7 +1398,19 @@ Slabosti stratificiranega vzorčenja:
\end{enumerate}
\subsection{Rezultati}
todo
\begin{table}[ht]
\centering
\begin{tabular}{|c|c|c|c|}
\hline
Nacin & Hanningova izguba & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
\hline
Train test split ucenje & 8.49 & 0.893 & 0.709 \\
Ucenje s stratificiranim uzorcenjem & / & / & / \\
\hline
\end{tabular}
\caption{Rezultati ob uporabi stratificiranega uzorcenja.}
\label{tab:stratified}
\end{table}
\section{Vpliv velikosti Hanningovega okna na rezultate}
@ -1359,10 +1425,7 @@ Nasprotno, preveliko okno lahko privede do izgube natančnosti. Čeprav kriterij
V naših testiranjih smo ugotovili, da je najbolje najti uravnoteženo velikost Hanningovega okna, ki omogoča modelu, da efektivno uči in hkrati ohranja natančnost pri predikcijah. V ta namen smo izvedli več iteracij, kjer smo eksperimentirali z različnimi velikostmi oken.
\subsection{Praktična uporaba in priporočila}
Pri uporabi Hanningove kriterijske funkcije je nujno, da se nenehno prilagajamo in testiramo različne velikosti oken. To zagotavlja, da model ohranja optimalno ravnotežje med učenjem in natančnostjo. Poleg tega je priporočljivo uporabljati metode kot so prečna validacija za oceno in primerjavo učinkovitosti modela pri različnih velikostih oken.
Zaključek tega odseka je, da je prilagajanje velikosti Hanningovega okna ključno za doseganje optimalnih rezultatov, saj moramo najti pravo ravnovesje med učenjem in natančnostjo.
TUKAJ SE PRIDEJO GRAFI Z REZULTATI, 27, 29, 31, 33, 35, 37, 39, 41 velikosti hanningovega okna treba malo pocakat se
\section{Regularizacija v modelu z uporabo izpuščanja nevronov}
@ -1392,10 +1455,59 @@ Z njegovo uporabo v modelu sem zagotovil, da je model bolj robusten in manj nagn
V kompleksnih modelih, kot je Twins, kjer je veliko komponent, ki se lahko prekomerno prilagodijo podatkom, je uporaba izpuščanja nevronov ključnega pomena za zagotavljanje natančnih in zanesljivih rezultatov.
\subsubsection{Rezultati}
todo
\section{Testiranje zmoznosti lokalizacije na testnih podatkih}
todo
\begin{table}[h]
\centering
\label{tab:parametri_izpuscanje}
\begin{tabular}{|l|c|c|c|}
\hline
\textbf{Parameter} & \textbf{UAV} & \textbf{Satelit} & \textbf{Združevanje} \\
\hline
dropout & 0.1 & 0.1 & 0.1 \\
attn\_drop & 0.1 & 0.1 & - \\
proj\_drop & 0.1 & 0.1 & - \\
head\_drop & 0.1 & 0.1 & - \\
mlp\_drop1 & 0.1 & 0.1 & - \\
mlp\_drop2 & 0.1 & 0.1 & - \\
pos\_drops & 0.05 & 0.05 & - \\
\hline
\end{tabular}
\caption{Parametri z uravnovesenim izpustom nevronov.}
\end{table}
\begin{table}[h]
\centering
\label{tab:parametri_izpuscanje}
\begin{tabular}{|l|c|c|c|}
\hline
\textbf{Parameter} & \textbf{UAV} & \textbf{Satelit} & \textbf{Združevanje} \\
\hline
dropout & 0.15 & 0.05 & 0.05 \\
attn\_drop & 0.15 & 0.05 & - \\
proj\_drop & 0.15 & 0.05 & - \\
head\_drop & 0.15 & 0.05 & - \\
mlp\_drop1 & 0.15 & 0.05 & - \\
mlp\_drop2 & 0.15 & 0.05 & - \\
pos\_drops & 0.1 & 0.05 & - \\
\hline
\end{tabular}
\caption{Parametri z neuravnovesenim izpustom nevronov.}
\end{table}
\begin{table}[ht]
\centering
\begin{tabular}{|c|c|c|c|}
\hline
Nacin & Hanningova izguba & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
\hline
Brez izpuscanja nevronov & 8.49 & 0.893 & 0.709 \\
Z uravnovesenim izpuscanjem nevronov & 5.49 & 0.725 & 0.690 \\
Z neuravnovesenim izpuscanjem nevronov & 5.42 & 0.725 & 0.719 \\
\hline
\end{tabular}
\caption{Rezultati ob uporabi razlicnih izpustov.}
\label{tab:izpuscanje}
\end{table}
\chapter{Sklepne ugotovitve}
@ -1411,7 +1523,6 @@ Preden diplomo oddate na sistemu STUDIS, še enkrat preverite, če so slovenske
Poravnavo po vrsticah lahko kontrolirate tako, da izvorno datoteko enkrat testno prevedete z opcijo \texttt{draft}, kar vam pokaže predolge vrstice.
%\cleardoublepage
%\addcontentsline{toc}{chapter}{Literatura}

Binary file not shown.

Before

Width:  |  Height:  |  Size: 16 MiB

After

Width:  |  Height:  |  Size: 6.0 MiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 1.7 MiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 1.8 MiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 1.9 MiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 1.8 MiB