2024-Q4-AI-M 7. Attēlu klasifikācija, ConvNets - VGG, kodola funkcijas implementācija

7.1. Video / Materials (20 Mar 2024, 18:00)

Video: https://youtube.com/live/RAN8By8leYY?feature=share

Jamboard: https://jamboard.google.com/d/1lEa3q-5DWkMdHsart9vV_VoScC2CsxWssant6jrzrjM/edit?usp=sharing

Materiāli: https://cs231n.github.io/convolutional-networks/ http://www.cs.utoronto.ca/~rgrosse/cacm2011-cdbn.pdf https://ikhlestov.github.io/pages/machine-learning/convolutions-types/ https://github.com/vdumoulin/conv_arithmetic/blob/master/README.md

7.2. Implementēt Conv2D kodola funkciju

Implementēt Conv2D, neizmantojot pytorch iebūvēto versiju, izmantojot instrukcijas no video.

Sagatave:

http://share.yellowrobot.xyz/quick/2023-2-27-7FA5DF91-9B41-4E56-8630-485CCA078E45.zip

7.3. Mājasdarbs - implementēt Conv2D modeli pēc shēmas

Implementēt modeli pēc shēmas, neizmantojot iebūvētās funkcijas!

Implementēt BatchNorm funkciju 2 dimensijām, neizmantojot pytorch iebūvēto versiju. BatchNorm2d vienādojums apmācības laikā - aprēķināt tikai channel dimensijai: http://share.yellowrobot.xyz/quick/2023-10-26-BAFB19F5-4837-40F7-95A2-54BD1C20392B.zip

Shēma http://share.yellowrobot.xyz/quick/2023-10-26-CFD901C2-4F0D-4437-A852-3BDADB24BDF5.zip

Pievienot modelim, iesniegt pirmkodu un screenshot no rezultātiem. Izmantot iepriekšējā uzdevuma sagatavi.

Klases materiāli

Jamboard ir iedotas admin tiesības

⚠️ Video palaist ar OBS programmatūru Youtube stream key: 2wd8-mw7k-2e6f-fwxc-8yvg Youtube RTMP: rtmp://a.rtmp.youtube.com/live2

⚠️ Koda sagatave un gatavais kods: https://share.yellowrobot.xyz/quick/2024-3-14-26955583-7DB6-49A0-A70B-F8274AB5A513.zip

Video no pagājušā semestra: https://youtube.com/live/RAN8By8leYY?feature=share

Jamboard: https://jamboard.google.com/d/1cqybN158FOYY7HnQyozed7CQ5hc3W4cbEXkodndCcxE/edit?usp=sharing

Vēl labi materiāli + vizuālizācijas:

• https://cs231n.github.io/convolutional-networks/

• https://ikhlestov.github.io/pages/machine-learning/convolutions-types/

• https://github.com/vdumoulin/conv_arithmetic/blob/master/README.md

Saturs:

1. Sākotnēji resursu dēļ izmantoja convnets kā optimizāciju parametru skaitam - Le Cun

2. Izstāstīt basics datu struktūru image classification task (viņi zina tikai regresiju un klasifikāciju parastiem 1D datiem)

3. Izstāstīt un implementēt Conv2D kernel function kopā

4. Ja paspēj var klasē iedot implementēt BatchNorm + izstādīt dažādus norm un pooling

5. Vēlams parādīt uz google colab ar GPU backend!

6. Mājās implementēt ar iebūtvētajām torch functions arhitektūru

    

Ideāli būtu pamēģināt citu dataset nevis FashionMNIST, piemēram, bet tad jāsagatavo ar download_url_to_file kā 6. sessijā GIT piemērā

• Fruits - https://www.kaggle.com/moltean/fruits

  • 100x100

• Fish - https://www.kaggle.com/crowww/a-large-scale-fish-dataset

• Flowers - https://www.kaggle.com/alxmamaev/flowers-recognition

• Olivetti faces - sklearn (1, 64, 64), 40 classes - test 100%

  https://scikit-learn.org/stable/modules/generated/sklearn.datasets.fetch_olivetti_faces.html#sklearn.datasets.fetch_olivetti_faces

Bildes slaidiem

https://www.cs.umd.edu/~tomg/projects/landscapes/

Bioloģiskais pamatojums, bet patiesība optimizācija

http://cs231n.stanford.edu/slides/2018/cs231n_2018_lecture05.pdf