Add results
parent
8b9f03ed05
commit
a3f022d60d
BIN
diploma.pdf
BIN
diploma.pdf
Binary file not shown.
159
diploma.tex
159
diploma.tex
|
@ -34,6 +34,7 @@
|
|||
|
||||
\usepackage{listings}
|
||||
\usepackage{xcolor}
|
||||
\usepackage{float}
|
||||
|
||||
\lstset{
|
||||
language=Python,
|
||||
|
@ -1296,21 +1297,74 @@ class CrossWeightedMSE(nn.Module):
|
|||
|
||||
\subsection{Primerjava rezultatov}
|
||||
|
||||
%\begin{table}[h]
|
||||
%\centering
|
||||
%\begin{tabular}{|c|c|c|c|}
|
||||
%\hline
|
||||
%Kriterijska funkcija & vrednost & $$RDS_{train}$$ & $$RDS_{val}$$ \\
|
||||
%\hline
|
||||
%Hanningova kriterijska funkcija & 8.49 & 0.893 & 0.709 \\
|
||||
%Gaussovo utezena srednja kvadratna napaka & 0.001 & 0.077 & 0.074 \\
|
||||
%Hanningovo utežena srednja kvadratna napaka & 4.04e-06 & 0.061 & 0.059 \\
|
||||
%Križno utežena srednja kvadratna napaka & 0.88 & 0.91 & 0.87 \\
|
||||
%\hline
|
||||
%\end{tabular}
|
||||
%\caption{Rezultati ob uporabi razlicnih kriterijskih funkij.}
|
||||
%\label{tab:metode}
|
||||
%\end{table}
|
||||
\begin{table}[ht]
|
||||
\centering
|
||||
\begin{tabular}{|c|c|c|c|}
|
||||
\hline
|
||||
Kriterijska funkcija & vrednost & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
|
||||
\hline
|
||||
Hanningova kriterijska funkcija & 8.49 & 0.893 & 0.709 \\
|
||||
Gaussovo utezena srednja kvadratna napaka & 0.001 & 0.077 & 0.074 \\
|
||||
Hanningovo utežena srednja kvadratna napaka & 4.04e-06 & 0.061 & 0.059 \\
|
||||
Križno utežena srednja kvadratna napaka & 0.007 & 0.07 & 0.06 \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
\caption{Rezultati ob uporabi razlicnih kriterijskih funkij.}
|
||||
\label{tab:metode}
|
||||
\end{table}
|
||||
|
||||
|
||||
\subsection{Analiza rezultatov}
|
||||
|
||||
\subsubsection{Hanningova kriterijska funkcija}
|
||||
|
||||
Hanningova kriterijska funkcija je pridobila vrednost
|
||||
8.49, na ucni mnozici je dosegla $RDS_{\text{train}}$ vrednost 0.893 in na validacijski mnozici $RDS_{\text{val}}$ vrednost 0.709.
|
||||
Glede na rezultate lahko opazimo, da Hanningova kriterijska funkcija izkazuje precej visoko uspešnost na trening setu, medtem ko je njena učinkovitost na validacijskem setu nekoliko nižja, vendar še vedno zelo dobra.
|
||||
|
||||
\begin{figure}[!h]
|
||||
\centering
|
||||
\includegraphics[width=0.9\textwidth]{./img/hanning_validation_plot.png}
|
||||
\caption{Primer izhoda ob uporabi Hanningove kriterijske funkcije}
|
||||
\label{fig:hanning_kriterijska_funkcija}
|
||||
\end{figure}
|
||||
|
||||
Razlog za to lahko pripišemo edinstveni značilnosti Hanningove funkcije, ki dodeljuje uteži vzorcem glede na njihovo lokacijo.
|
||||
V kontekstu satelitskih slik, kjer je pomembnost središčnega položaja običajno večja kot pomembnost robovih položajev, Hanningova funkcija ponuja naravno prilagodljivost, ki pomaga modelu bolje razumeti in upoštevati te pomembne razlike.
|
||||
|
||||
\subsubsection{Gaussovo utežena srednja kvadratna napaka}
|
||||
|
||||
Gaussova utežena srednja kvadratna napaka je dosegla rezultate, ki so bili veliko slabsi v primerjavi s Hanningovo kriterijsko funkcijo, na ucni mnozici je dosegla $RDS_{\text{train}}$ vrednost 0.077 in na validacijski mnozici $RDS_{\text{val}}$ vrednost 0.74.
|
||||
|
||||
\begin{figure}[H]
|
||||
\centering
|
||||
\includegraphics[width=0.9\textwidth]{./img/mse_gauss_validation_plot.png}
|
||||
\caption{Primer izhoda ob uporabi Gaussovo utežene srednje kvadratne napake}
|
||||
\label{fig:gasuss_mse_validation}
|
||||
\end{figure}
|
||||
|
||||
Kljub temu, da tudi Gaussova funkcija izgube dodeljuje uteži glede na lokacijo vzorca, se zdi, da Hanningova funkcija bolje ustreza naravi satelitskih podatkov, vsaj v obravnavanem primeru.
|
||||
|
||||
\subsubsection{Hanningovo utežena srednja kvadratna napaka}
|
||||
|
||||
\begin{figure}[H]
|
||||
\centering
|
||||
\includegraphics[width=0.9\textwidth]{./img/mse_hannings_validation_plot.png}
|
||||
\caption{Primer izhoda ob uporabi Hanningove utežene srednje kvadratne napake}
|
||||
\label{fig:gasuss_mse_validation}
|
||||
\end{figure}
|
||||
|
||||
\subsubsection{Križno utežena srednja kvadratna napaka}
|
||||
|
||||
\begin{figure}[H]
|
||||
\centering
|
||||
\includegraphics[width=0.9\textwidth]{./img/cwmse_gauss_validation_plot.png}
|
||||
\caption{Primer izhoda ob uporabi Križno utežene srednje kvadratne napake}
|
||||
\label{fig:gasuss_mse_validation}
|
||||
\end{figure}
|
||||
|
||||
\textbf{Zaključek:} Hanningova kriterijska funkcija se je v obravnavanem primeru izkazala kot najbolj učinkovita.
|
||||
Njena edinstvena sposobnost prilagajanja uteži glede na lokacijo vzorca se zdi še posebej primerna za obravnavo satelitskih slik, kar je morda razlog za njeno premoč nad ostalimi obravnavanimi funkcijami izgube.
|
||||
|
||||
\section{Ucenje s Stratificiranim Vzorčenjem}
|
||||
|
||||
|
@ -1344,7 +1398,19 @@ Slabosti stratificiranega vzorčenja:
|
|||
\end{enumerate}
|
||||
|
||||
\subsection{Rezultati}
|
||||
todo
|
||||
\begin{table}[ht]
|
||||
\centering
|
||||
\begin{tabular}{|c|c|c|c|}
|
||||
\hline
|
||||
Nacin & Hanningova izguba & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
|
||||
\hline
|
||||
Train test split ucenje & 8.49 & 0.893 & 0.709 \\
|
||||
Ucenje s stratificiranim uzorcenjem & / & / & / \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
\caption{Rezultati ob uporabi stratificiranega uzorcenja.}
|
||||
\label{tab:stratified}
|
||||
\end{table}
|
||||
|
||||
\section{Vpliv velikosti Hanningovega okna na rezultate}
|
||||
|
||||
|
@ -1359,10 +1425,7 @@ Nasprotno, preveliko okno lahko privede do izgube natančnosti. Čeprav kriterij
|
|||
|
||||
V naših testiranjih smo ugotovili, da je najbolje najti uravnoteženo velikost Hanningovega okna, ki omogoča modelu, da efektivno uči in hkrati ohranja natančnost pri predikcijah. V ta namen smo izvedli več iteracij, kjer smo eksperimentirali z različnimi velikostmi oken.
|
||||
|
||||
\subsection{Praktična uporaba in priporočila}
|
||||
|
||||
Pri uporabi Hanningove kriterijske funkcije je nujno, da se nenehno prilagajamo in testiramo različne velikosti oken. To zagotavlja, da model ohranja optimalno ravnotežje med učenjem in natančnostjo. Poleg tega je priporočljivo uporabljati metode kot so prečna validacija za oceno in primerjavo učinkovitosti modela pri različnih velikostih oken.
|
||||
Zaključek tega odseka je, da je prilagajanje velikosti Hanningovega okna ključno za doseganje optimalnih rezultatov, saj moramo najti pravo ravnovesje med učenjem in natančnostjo.
|
||||
TUKAJ SE PRIDEJO GRAFI Z REZULTATI, 27, 29, 31, 33, 35, 37, 39, 41 velikosti hanningovega okna treba malo pocakat se
|
||||
|
||||
\section{Regularizacija v modelu z uporabo izpuščanja nevronov}
|
||||
|
||||
|
@ -1392,10 +1455,59 @@ Z njegovo uporabo v modelu sem zagotovil, da je model bolj robusten in manj nagn
|
|||
V kompleksnih modelih, kot je Twins, kjer je veliko komponent, ki se lahko prekomerno prilagodijo podatkom, je uporaba izpuščanja nevronov ključnega pomena za zagotavljanje natančnih in zanesljivih rezultatov.
|
||||
|
||||
\subsubsection{Rezultati}
|
||||
todo
|
||||
|
||||
\section{Testiranje zmoznosti lokalizacije na testnih podatkih}
|
||||
todo
|
||||
\begin{table}[h]
|
||||
\centering
|
||||
\label{tab:parametri_izpuscanje}
|
||||
\begin{tabular}{|l|c|c|c|}
|
||||
\hline
|
||||
\textbf{Parameter} & \textbf{UAV} & \textbf{Satelit} & \textbf{Združevanje} \\
|
||||
\hline
|
||||
dropout & 0.1 & 0.1 & 0.1 \\
|
||||
attn\_drop & 0.1 & 0.1 & - \\
|
||||
proj\_drop & 0.1 & 0.1 & - \\
|
||||
head\_drop & 0.1 & 0.1 & - \\
|
||||
mlp\_drop1 & 0.1 & 0.1 & - \\
|
||||
mlp\_drop2 & 0.1 & 0.1 & - \\
|
||||
pos\_drops & 0.05 & 0.05 & - \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
\caption{Parametri z uravnovesenim izpustom nevronov.}
|
||||
\end{table}
|
||||
|
||||
\begin{table}[h]
|
||||
\centering
|
||||
\label{tab:parametri_izpuscanje}
|
||||
\begin{tabular}{|l|c|c|c|}
|
||||
\hline
|
||||
\textbf{Parameter} & \textbf{UAV} & \textbf{Satelit} & \textbf{Združevanje} \\
|
||||
\hline
|
||||
dropout & 0.15 & 0.05 & 0.05 \\
|
||||
attn\_drop & 0.15 & 0.05 & - \\
|
||||
proj\_drop & 0.15 & 0.05 & - \\
|
||||
head\_drop & 0.15 & 0.05 & - \\
|
||||
mlp\_drop1 & 0.15 & 0.05 & - \\
|
||||
mlp\_drop2 & 0.15 & 0.05 & - \\
|
||||
pos\_drops & 0.1 & 0.05 & - \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
\caption{Parametri z neuravnovesenim izpustom nevronov.}
|
||||
\end{table}
|
||||
|
||||
\begin{table}[ht]
|
||||
\centering
|
||||
\begin{tabular}{|c|c|c|c|}
|
||||
\hline
|
||||
Nacin & Hanningova izguba & $RDS_{\text{train}}$ & $RDS_{\text{val}}$ \\
|
||||
\hline
|
||||
Brez izpuscanja nevronov & 8.49 & 0.893 & 0.709 \\
|
||||
Z uravnovesenim izpuscanjem nevronov & 5.49 & 0.725 & 0.690 \\
|
||||
Z neuravnovesenim izpuscanjem nevronov & 5.42 & 0.725 & 0.719 \\
|
||||
\hline
|
||||
\end{tabular}
|
||||
\caption{Rezultati ob uporabi razlicnih izpustov.}
|
||||
\label{tab:izpuscanje}
|
||||
\end{table}
|
||||
|
||||
|
||||
\chapter{Sklepne ugotovitve}
|
||||
|
@ -1411,7 +1523,6 @@ Preden diplomo oddate na sistemu STUDIS, še enkrat preverite, če so slovenske
|
|||
Poravnavo po vrsticah lahko kontrolirate tako, da izvorno datoteko enkrat testno prevedete z opcijo \texttt{draft}, kar vam pokaže predolge vrstice.
|
||||
|
||||
|
||||
|
||||
%\cleardoublepage
|
||||
%\addcontentsline{toc}{chapter}{Literatura}
|
||||
|
||||
|
|
Binary file not shown.
Before Width: | Height: | Size: 16 MiB After Width: | Height: | Size: 6.0 MiB |
Binary file not shown.
After Width: | Height: | Size: 1.7 MiB |
Binary file not shown.
After Width: | Height: | Size: 1.8 MiB |
Binary file not shown.
After Width: | Height: | Size: 1.9 MiB |
Binary file not shown.
After Width: | Height: | Size: 1.8 MiB |
Loading…
Reference in New Issue