Idemo gas

main
Gašper Spagnolo 2023-09-01 20:56:15 +02:00
parent 60f381f272
commit 2c6731af3f
No known key found for this signature in database
GPG Key ID: 2EA0738CC1EFEEB7
3 changed files with 18 additions and 7 deletions

Binary file not shown.

View File

@ -798,6 +798,17 @@ y = \text{softmax}(W_2\text{ReLU}(W_1e))
\end{equation} \end{equation}
\end{center} \end{center}
Na sliki \ref{fig:vit} levo je videti kako se slika razdeli na pred vstopom v model.
Na desni strani pa lahko opazimo, da sama arhitektura ViT uporablja klasičen transformerski kodirnik.
\begin{figure}[h]
\centering
\includegraphics[width=\textwidth]{./img/vit.png}
\caption{Skica ViT modela, iz članka \cite{vit}}
\label{fig:vit}
\end{figure}
\section{Piramidni ViT (PVT)} \section{Piramidni ViT (PVT)}
Piramidni ViT (PVT) \cite{wang2021pyramid} je bil razvit z namenom vključitve piramidne strukture v okviru Transformerja. Piramidni ViT (PVT) \cite{wang2021pyramid} je bil razvit z namenom vključitve piramidne strukture v okviru Transformerja.
Arhitektura PVT je razdeljena na štiri stopnje. Arhitektura PVT je razdeljena na štiri stopnje.
@ -1530,7 +1541,7 @@ Pogoji eksperimenta so bili naslednji:
\begin{figure}[h] \begin{figure}[h]
\centering \centering
\includegraphics[width=0.7\textwidth]{./img/sat_drone.png} \includegraphics[width=\textwidth]{./img/sat_drone.png}
\caption{Primer referenčnih slik, ki smo jih uporabili za testiranje.} \caption{Primer referenčnih slik, ki smo jih uporabili za testiranje.}
\label{fig:sat_drone} \label{fig:sat_drone}
\end{figure} \end{figure}
@ -1546,42 +1557,42 @@ Zaključimo lahko, da je izbira prave velikosti Hanningovega okna ključna za do
\begin{figure}[h] \begin{figure}[h]
\centering \centering
\includegraphics[width=0.8\textwidth]{./img/plot_different_hann_kernels.png} \includegraphics[width=\textwidth]{./img/plot_different_hann_kernels.png}
\caption{Primerjava rezultatov ob uporabi različnih velikosti Hanningovega okna, na celotni validacijski množici.} \caption{Primerjava rezultatov ob uporabi različnih velikosti Hanningovega okna, na celotni validacijski množici.}
\label{fig:plot_different_hann_kernels} \label{fig:plot_different_hann_kernels}
\end{figure} \end{figure}
\begin{figure}[H] \begin{figure}[H]
\centering \centering
\includegraphics[width=0.55\textwidth]{./img/heatmaps3d_1.png} \includegraphics[width=\textwidth]{./img/heatmaps3d_1.png}
\caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.} \caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.}
\label{fig:heatmaps3d_1} \label{fig:heatmaps3d_1}
\end{figure} \end{figure}
\begin{figure}[H] \begin{figure}[H]
\centering \centering
\includegraphics[width=0.55\textwidth]{./img/heatmaps3d_2.png} \includegraphics[width=\textwidth]{./img/heatmaps3d_2.png}
\caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.} \caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.}
\label{fig:heatmaps3d_2} \label{fig:heatmaps3d_2}
\end{figure} \end{figure}
\begin{figure}[H] \begin{figure}[H]
\centering \centering
\includegraphics[width=0.55\textwidth]{./img/heatmaps3d_3.png} \includegraphics[width=\textwidth]{./img/heatmaps3d_3.png}
\caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.} \caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.}
\label{fig:heatmaps3d_3} \label{fig:heatmaps3d_3}
\end{figure} \end{figure}
\begin{figure}[H] \begin{figure}[H]
\centering \centering
\includegraphics[width=0.55\textwidth]{./img/heatmaps3d_4.png} \includegraphics[width=\textwidth]{./img/heatmaps3d_4.png}
\caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.} \caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.}
\label{fig:heatmaps3d_4} \label{fig:heatmaps3d_4}
\end{figure} \end{figure}
\begin{figure}[H] \begin{figure}[H]
\centering \centering
\includegraphics[width=0.55\textwidth]{./img/heatmaps3d_5.png} \includegraphics[width=\textwidth]{./img/heatmaps3d_5.png}
\caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.} \caption{Primerjava toplotnih map ob uporabi različnih velikosti Hanningovega okna.}
\label{fig:heatmaps3d_5} \label{fig:heatmaps3d_5}
\end{figure} \end{figure}

BIN
img/vit.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 193 KiB