Ha a tárgyról lecsúsztál, de szeretnél a deep learningbe belekezdeni, vagy már elvégezted a tárgyat és szeretnél elmélyülni a témában, akár PhD-zni, akkor olvass tovább az alábbi gombra kattintva:


További tudnivalók

"A tantárgy eddigi BME-s tanulmányaim közül a legjobb kurzusnak mondható. Naprakész (értsd: valóban az előadás napjára aktuális) információk, rengeteg gyakorlati példa és valós problémák megoldása. Ennél jobb tárgyat nem nagyon tudok elképzelni arra, hogy valaki megismerkedjen a deep learninggel, remek alapokat ad, hogy ezekre építve valaki a későbbiekben el tudjon mélyülni a témában.Még egy hatalmas köszönet a tárgy oktatóinak, ha minden jól megy, pénteken kapom meg az új állásomat gépi tanulás és deep learning témakörben :)"

Hallgatói vélemény

"...iszonyatosan élveztem az órát, a legjobb volt az egyetemi tanulmányaim alatt. Tetszett a modern, agilis hozzáállás és az, hogy végre egy cutting edge technológiát tanulhattam gyakorlati alapokon."

Hallgatói vélemény

Aláírás és osztályzat

Az aláírás feltétele a házi feladat elkészítése és a gyakorlatok 70%-án való részvétel. Lehetőségek az osztályzatra:

  • vizsga (írásbeli + szóbeli)
  • +1 jegy: 5 db kis házi feladat összpontszámának 70%-nak elérése esetén
  • +1 jegy: órán való Kahoot! kérdőívben legjobban teljesítő 5 hallgatónak
  • 4-es vagy 5-ös megajánlott jegy: megfelelő komplexitású nagy házi feladatért

Előadás, gyakorlat

Előadás kedd 12-14h, gyakorlat csütörtök 12-14h, QBF11

Fogadóórák

Előre egyeztetett időpontban. Minden esetben legalább két munkanappal korábban küldjétek el a kérdéseiteket az előadónak.

Gyires-Tóth Bálint
Szaszák György
Csapó Tamás Gábor

FAQ

Q: Mire tudom használni a kurzuson elsajátított ismereteket?
A: Célunk az alapvető összefüggések, módszerek, algoritmusok és programozási eszközök megtanítása. Ha bejársz az órákra és részt veszel minden feladatban, akkor a kurzus végére a célunk, hogy olyan tudásod legyen, ami alapján már bátran belevághatsz komplexebb deep learning feladatokba.

Q: Ha bejárok az órákra, deep learning szakember leszek?
A: Az anyag elsajátításához az órákra való bejárás szükséges, de nem elégséges feltétel. A deep learning téma esetén szükség van sok-sok egyéni munkára. Ehhez megadjuk a segítséget kis- és nagy házi feladatok formájában, konzultációs lehetőséggel. Ha ezeket is lelkiismeretesen elvégzed, akkor az már jó belépőt jelent a deep learning világába.
DE! Ha előre láthatóleg nem lesz időd ezeket megcsinálni, vagy még az órákra se tudsz bejárni, akkor arra szeretnénk kérni, hogy a helyek korlátozott száma miatt, inkább gyere vissza, ha több időd lesz és add át a helyet olyannak, aki ezt tudja vállalni.

Q: Milyen lesz a számonkérés?
A: Heti rendszerességgel adunk fel gyakorlati házi feladatot, amiért plusz pont jár. Ezen túl a tárgyban van egy nagy házi, ami az aláírás feltétele. Megfelelő minőségű megoldás esetén megajánlott jegyet adunk. A nagy házi feladatot csapatokban fogjátok megoldani. Ha nincs megajánlott jegyed, akkor szóbeli vizsga van. A házikat github-ra kérjük majd feltölteni, a mély neuronhálók tanításához előzetes egyeztetést követően tudunk GPU-t biztosítani.

Q: Milyen témák lesznek nagy házinak?
A: Fogunk adni jó pár kiindulási ötletet, de ha van saját projektetek, ötletetek, akkor azt is megcsinálhatjátok, mi pedig segítünk ebben!

Q: Mennyit kell majd tanulni?
A: Legalább annyit, mint amennyit mi készülünk az órákra. :) Viccet félretéve: a célunk tényleg egy gyakorlati, magánvállalkozásban és iparban egyaránt használható tudás átadása. Reméljük, hogy olyan mértékben magával ragad Titeket a téma, mint bennünket (és már jó pár BSc és MSc hallgatónkat), és alig várjátok, hogy lefusson egy újabb tanítás, vagy ismét kódolhassatok. Ekkor már öröm lesz a „tanulás”, de addig pedig a rövid válasz: SOKAT!

Q: Kell tudnom programozni?
A: Script nyelveket használunk, amiket C, C++ vagy JAVA alapokkal viszonylag gyorsan meg lehet tanulni. Mindazonáltal, ha még nem használtál Python-t vagy LUA-t, akkor sincs baj, gyorsan bele lehet jönni, de foglalkozni kell vele. A kurzus kezdete előtt javasoljuk csinálj végig 1-2 tutorialt, mi ezeket ajánljuk.

Q: Kell-e előzetes elméleti tudás?
A: Úgy építjük fel a tárgyat, hogy nem kell. Mindazonáltal ha tudsz deriválni, tudod mi az a gradiens módszer, és a mátrix algebrát se felejtetted el teljesen, akkor ezek segítenek. Illetve nagyon jó, ha tisztában vagy a big data és gépi tanulás világával. Ha van időd, csináld végig a lentebb ajánlott, tudásszintednek megfelelő „machine learning” kurzus(oka)t, katt ide.

Q: Nem vagyok matematikus beállítottságú, hogy fogom érteni?
A: Ha bejársz és figyelsz, nem lesz gond. A tárgy gyakorlati szempontból mutatja be a deep learning paradigmát. Lesznek mélyebb elméleti részek, de legtöbb esetben a képleteket összerendeljük forráskóddal, így könnyebb lesz.

Q: Hol kaphatok további infókat a tárgyról?
A: Iratkozz fel a tárgy Twitter hírfolyamára, ide teszünk fel minden hírt és tudnivalót: https://twitter.com/vitmav45. Az órán elhangzott dolgokról, házikkal kapcsolatos megbeszélést a tárgy hivatalos Google Groups oldalán tudjátok megbeszélni. A tárgyal kapcsolatos javaslatokat, kritikákat anonim módon pedig itt tudjátok beküldeni.


Linkek

Tárggyal kapcsolatos oldalak
Tárgy Twitter csatorna (hírek)
Tárgy GitHub oldala (gyakorlatok, házifeladatok)
Tárgy Google Groups (vita, kérdések)
Tárgy Google Form (anonim javaslatok, kritika)
Csapat toborzás a nagy házi feladathoz
Python
CS228 Python tutorial
Python kurzus a Coursera-n
LUA
LUA in 15 minutes
Learn LUA in one hour
Gépi tanulás, deep learning
Andrew Ng: Machine Learning - általános gépi tanulás kurzus, ha új vagy a témában ezzel kezd
Nando de Freitas: Deep learning at Oxford 2015 - ez már kifejezetten haladó deep learning kurzus, elméleti háttérrel és gyakorlati példákkal
Hugo Larochelle professzor on-line kurzusa - nagyon jó anyag, ami érinti mind a matematikai és machine learning alapokat, mind pedig az alkalmazott deep learning témakört
CS231n: Stanford egyetem képfelismerős kurzusának sillabusza - nagyon jó anyag, az általános megfontolások és a CNN specifikus részek is ismertetésre kerülnek benne
CS224d: Stanford egyetem természetes nyelvfeldolgozás kurzusának sillabusza - szintén nagyon jó anyag a nyelvi modellezés LSTM és GRU alapjairól
Long Short-Term Memory (LSTM) - nagyon jó, könnyen érthető, nagyon sokat hivatkozott leírás
The Unreasonable Effectiveness of Recurrent Neural Networks - Szekvencia modellezés LSTM-el. A szövegszintézis, zeneszintézis alapjai, szemléletes példákkal. Must read!
Deep learning programozás (Keras, TensorFlow, Torch7)
Deep Learning with Python könyv (F. Chollet) gyakorlati anyaga
Deep Learning with Keras Tutorial @ EuroScipy 2016 - szuper Keras tutorial (2016 nyár)
TensorFlow Tutorial - used by Nvidia - kiváló TensorFlow tutorial
Awesome TensorFlow - TensorFlow-val kapcsolatos rengeteg forrás egy helyen
Torch7 Video Tutorial - Szuper oktató anyag a Torch7-ről
Torch7 alapú LSTM implementáció - szemléletes példa, érdemes ezt is megnézni
Rekurrens hálók, Backpropagation Through Time (BPTT) - nagyon szépen elmagyarázza a sima RNN és BPTT elméletét kóddal illusztrálva, illetve az LSTM-re is kitér


KIS HÁZI FELADAT

A kis házi feladatok elkészítése nem kötelező, de erősen ajánlott. A célunk deep learning rendszerek programozásának megtanulása, és ehhez elengedhetetlen a kurzusban való aktív részvétel.
A félévben várhatóan 5 db kis házi feladat lesz. Az eredményeket a Github.com-ra (elsődlegesen Jupiter notebook formátumban, secret gist-ként vagy git repo-ként) kell feltölteni, és az eredmények és az oda vezető útnak is jól láthatónak kell lennie. A határidő a kiosztástól számitott 2 hét. Csúszás esetén minden nappal 2 pont kerül levonásra. Az öt házi feladatban megszerzehető pontszámnak, ha eléred a 70 százalékát, akkor az +1 jegyet ér a vizsgán/megajánlott jegy esetén. A kiértékelésig maradjon secret gist.

NAGY HÁZI FELADAT

A nagy házi feladattal kapcsolatos minden tudnivaló és a lehetséges témák itt találhatók (kattints).

ELŐADÁSOK ÉS GYAKORLATOK ANYAGAI

Az előadásokhoz tartozó diák és a gyakorlatok anyagai az elhangzásuk után kerülnek feltöltésre.

Segédlet: AWS használata deep learningre diákoknak ingyen (Szabó Dániel Attila)
1. hét előadás: Köszöntő, tudnivalók a félévről, deep learning bevezető, 1. kis házi feladat
2. hét előadás: Backpropagation

A gyakorlatok anyaga GitHub-on érhető el

SZABÁLYOK

Kis és nagy házi feladat egymásról való másolás gyanúja esetén az időben későbbi feltöltés tulajdonosa minden plusz lehetőségből ki lesz zárva (megajánlott jegy, +1 jegy) és kötelező számára a szóbeli vizsga. Bizonyosság esetén -1 jegy.
A feltöltött előadásokhoz tartozó diák nem helyettesítik az előadáson való részvételt, csupán emlékeztetőül szolgálnak.
Az előadás diái a szerzői jog védelme alatt állnak. Az előadás diáinak vagy bármilyen részének újra felhasználása, terjesztése, megjelenítése csak a szerző írásbeli beleegyezése esetén megengedett. Ez alól kivétel, mely diákon külső forrás külön fel van tüntetve.

ÉVFOLYAMOK

A 2016-os évfolyam eredményei