Tantárgy adatlapja
A tárgy célja, hogy a jelenleg elérhető nagy nyelvi modellek alapvető felépítésével és működésével megismertessék a hallgatókat. A kurzus érinti az előfeldolgozás problémáját és szerepét, illetve a módszerek paramétereit és paraméterezhetőségét. A kurzusnak szerves része ezen eszközökön feladatok végzése.Tartalmát tekintve a következő témákkal foglakozik: Neurális hálózatok felépítése; Perceptron modell; Paraméterek optimalizálása gradiens alapú módszerekkel; Fully-connected hálózatok; Konvoluciós hálózatok felépítése; Transformer hálózatok és attention-block felépítése.
Számonkérési és értékelési rendszere:
A hallgatók a kurzus végén egy teszt kitöltésével adnak számot tudásukról.
A tárgy teljesítéséhez a teszten legalább %-os eredményt kell elérni.
Irodalom:
David Foster, Generative Deep Learning: Teaching Machines To Paint, Write, Compose, and Play, O'Really, 2023. ISBN 1098134184
L. Ashok Kuma and D. Karthika Renuka: Deep Learning Approach for Natural Language Processing, Speech, and Computer Vision: Techniques and Use Cases, CRC Press, BOBWZP%FFP, 2023.
Ajánlott Irodalom:
-
Készségek és kompetenciák:
a) tudás
Ismeri az nagy nyelvi modelleken alapuló mesterséges intelligencia eszközök alapvető felépítését, lehetőségeit és korlátait.
Ismeri az alapvető nyelvtechnológiai eszközöket, illetve matematikai logikai alapokat a komplex nyelvi modellek megértéséhez
b) képesség
Képes helytálló szakmai véleményt megfogalmazni a nyelvi modellek alapvető komponenseit és használatát illetően.
A szakterület más képviselőivel, valamint mesterséges intelligencia alkalmazási területének képviselőivel képes szakmai kooperációra. Megérti az alkalmazás követelményeit és megoldási javaslatát el tudja magyarázni.
A megfelelő szakirodalom segítségével képes a szakma fejlődésével lépést tartani, új megoldásokat és szolgáltatásokat megismerni és munkája során alkalmazni.
Készségszinten tudja használni rutinproblémákra és komplex problémákra a nyelvi modelleken alapuló mesterséges intelligencia eszközöket.
c) attitűd
Nyitott és elkötelezett önművelésre, önfejlesztésre az egyéni tudás és ismeret elmélyítésére és bővítésére szakterületén.
Munkája során törekszik új technológiák megismerésére és igénybe vételére, a megoldandó feladat igényeihez igazodva
Munkáját kreatívan, rugalmasan végzi, a megoldandó problémákat felismeri és analizálja és azokat tapasztalataira és módszerességre építve oldja meg.
d) autonómia és felelősség
Alkalmas csoportban, egy-egy részprobléma megoldására, vagy részterület szakértőjeként a csoport munkájában részt venni.
