A projekt címe: Új megközelítések az ember-központú megbízható AI irányába

A projekt azonosító száma: 2024-1.2.3-HU-RIZONT-2024-00032

A kedvezményezett neve: Szegedi Tudományegyetem

A szerződött támogatás összege: 360 799 038 Ft

A támogatás mértéke (%-ban): 100%

A projekt megvalósítás időszaka: 2025.01.01. - 2027.12.31.

Projektmenedzser: Varga Márk

Pénzügyi vezető: Dr. Szigetiné Koszár Anna Barbara

Szakmai vezető: Dr. Jelasity Márk

A projekt tartalmának bemutatása:

A RAItHMA célja olyan új MI-algoritmusok kutatása, amelyek az adatvezérelt mély gépi tanulási megoldásokat közelebb hozzák az emberi gondolkodáshoz. Ez fontos az MI rendszerek megbízhatóságának és robusztusságának a növeléséhez. A jelenlegi MI megoldások nagy hátránya, hogy a tudásuk tanító adatokból származik, miközben nincs koherens világmodelljük. Ez korlátozza az alkalmazhatóságukat, különösen az olyan kritikus területeken, mint az egészségügy és a pénzügy.

Pályázatunk az elméleti elemzésétől a gyakorlati alkalmazásokig terjedő kutatásokat céloz. Elméleti elemzéseinkben a neurális hálózatok tudásreprezentációjának limitációit, a tanulhatóságot, a robusztusságot és a magyarázhatóságot vizsgáljuk. A gyakorlati oldalon olyan algoritmusokat fejlesztünk, amelyek képesek a betanított neurális hálózatokból a tudás kinyerésére, illetve a szakterület-specifikus tudás modellekbe való beépítésére dialógus rendszerek segítségével. Végül alkalmazásokon keresztül demonstráljuk, hogyan teszik megbízhatóbbá algoritmusaink a klinikai képszegmentálást és az orvosi kérdésmegválaszolást.

Megoldásunk alapja a látens fogalmak és kapcsolataik kinyerése a neurális hálózatok reprezentációiból. Az így kinyert látens világmodellt dialógusrendszerek segítségével tesszük az emberi szakértők számára értelmezhetővé és azt is lehetővé tesszük, hogy a szakértők a tudásra vonatkozo kényszerfeltételeket fogalmazzanak meg. Újszerű tanuló algoritmusokat fogunk javasolni a kényszerfeltételeknek való megfelelésre, ezáltal a gépi tudásreprezentáció közelebb kerülhet az emberihez, és így a neurális hálók megbízhatóbbá válhatnak.

Kvantitatív módon értékeljük a megbízhatóságot és a robusztusságot, és bemutatjuk, hogy megközelítésünk javítja ezeket konkrét orvosi alkalmazásokban.

A projekt épít kutatócsoportunk korábbi munkáira a neurális reprezentációk ritkítása, az MI robusztusság és magyarázhatóság, az ember és MI közötti interakció és a nyelvtechnológiai alkalmazások területén.

A projekt során a Ludwig-Maximilians-Universität München (LMU) Európa vezető kutatóegyetemével és az amerikai Rutgers egyetemen működő Computer Science intézettel dolgozunk együtt.

A Ludwig-Maximilians-Universität München (LMU) Európa vezető kutatóegyeteme, a Times, a QS és az ARWU rangsorai szerint is a világ 60 legjobb egyeteme között szerepel. Az Információ- és Nyelvfeldolgozási Központ (Centrum für Informations- und Sprachverarbeitung - CIS) az LMU informatikai karának egyik intézete. A CIS interdiszciplináris kutatásokat folytat a természetes nyelvfeldolgozás (NLP) és annak elméleti alapjai terén. Fő megközelítésünk a nyelvészetileg informált statisztikai NLP. A CIS körülbelül 40 diplomás kutatóból áll, akik évente 30-40 tanulmányt publikálnak kizárólag az NLP vezető konferenciáin.

A Schütze Labor - a CIS két csoportja közül az egyik - az NLP egyik legelismertebb kutatócsoportja a világon. A laboratórium elsődleges fókusza a nyelvileg informált neurális NLP, kutatási területei a reprezentáció tanulás, a többnyelvűség, a gépi tanulás kis erőforrású esetekben, a kognitívan motivált mélytanulás. Hinrich Schütze két könyvet publikált, amelyek forradalmasították az NLP területét. Több mint 500 publikáció társszerzője, amelyek több mint 75 000 hivatkozást kaptak, és 80 feletti h-indexet értek el.

Az amerikai Rutgers egyetemen működő Computer Science intézet 1966 óta folytat világszínvonalú kutatásokat a mesterséges intelligencia és számítástudományok területén. Elsődlegesen alapkutatási projekteken dolgoznak, de interdiszciplinárius alkalmazott kutatásokat is végeznek, amelyek az alapkutatást stimulálják. A Computer Science intézetének elméleti számítástudományi tanszéke évente 20-25 tanulmányt publikál a gépi tanulás elméletének legfontosabb konferenciáin (pl. ICML és COLT).

Mario Szegedy, a Rutgers egyetem professzora, kétszeres Gödel-díjas matematikus, valamint a Párizsi Kanellakis Elmélet és Gyakorlat díj nyertese. Nemzetközileg elismert komplexitáselméleti és a kvantumszámítás kutató. Az áramkörök komplexitásával és a kommunikációs komplexitással kapcsolatos elméleti eredményei jó alapot biztosítanak a neurális hálózatok elméleti korlátainak feltárásához a javasolt kutatás szempontjából.