A projekt címe: Új megközelítések az ember-központú megbízható AI irányába

 

A projekt azonosító száma: 2024-1.2.3-HU-RIZONT-2024-00017

 

A kedvezményezett neve: Szegedi Tudományegyetem

 

A szerződött támogatás összege: 360 799 038 Ft

 

A támogatás mértéke (%-ban): 100%

 

A projekt megvalósítás időszaka: 2025.04.01. - 2027.12.31.

 

Projektmenedzser: Varga Márk

 

Pénzügyi vezető: Dr. Szigetiné Koszár Anna Barbara

 

Szakmai vezető: Dr. Jelasity Márk

 

 

A projekt tartalmának bemutatása:

A RAItHMA célja olyan új MI-algoritmusok kutatása, amelyek az adatvezérelt mély gépi tanulási megoldásokat közelebb hozzák az emberi gondolkodáshoz. Ez fontos az MI rendszerek megbízhatóságának és robusztusságának a növeléséhez. A jelenlegi MI megoldások nagy hátránya, hogy a tudásuk tanító adatokból származik, miközben nincs koherens világmodelljük. Ez korlátozza az alkalmazhatóságukat, különösen az olyan kritikus területeken, mint az egészségügy és a pénzügy.

 

Pályázatunk az elméleti elemzésétől a gyakorlati alkalmazásokig terjedő kutatásokat céloz. Elméleti elemzéseinkben a neurális hálózatok tudásreprezentációjának limitációit, a tanulhatóságot, a robusztusságot és a magyarázhatóságot vizsgáljuk. A gyakorlati oldalon olyan algoritmusokat fejlesztünk, amelyek képesek a betanított neurális hálózatokból a tudás kinyerésére, illetve a szakterület-specifikus tudás modellekbe való beépítésére dialógus rendszerek segítségével. Végül alkalmazásokon keresztül demonstráljuk, hogyan teszik megbízhatóbbá algoritmusaink a klinikai képszegmentálást és az orvosi kérdésmegválaszolást.

 

Megoldásunk alapja a látens fogalmak és kapcsolataik kinyerése a neurális hálózatok reprezentációiból. Az így kinyert látens világmodellt dialógusrendszerek segítségével tesszük az emberi szakértők számára értelmezhetővé és azt is lehetővé tesszük, hogy a szakértők a tudásra vonatkozo kényszerfeltételeket fogalmazzanak meg. Újszerű tanuló algoritmusokat fogunk javasolni a kényszerfeltételeknek való megfelelésre, ezáltal a gépi tudásreprezentáció közelebb kerülhet az emberihez, és így a neurális hálók megbízhatóbbá válhatnak.

 

Kvantitatív módon értékeljük a megbízhatóságot és a robusztusságot, és bemutatjuk, hogy megközelítésünk javítja ezeket konkrét orvosi alkalmazásokban.

 

A projekt épít kutatócsoportunk korábbi munkáira a neurális reprezentációk ritkítása, az MI robusztusság és magyarázhatóság, az ember és MI közötti interakció és a nyelvtechnológiai alkalmazások területén.

 

A projekt során a szingapúri Nanyang Technological University (NTU) kiemelkedő kutatócsoportjával és az amerikai Rutgers egyetemen működő Computer Science intézettel dolgozunk együtt.

 

Az NTU vezető műszaki egyetem, amelyet a Times, a QS és az ARWU rangsorai a világ 30 legjobb egyeteme közé sorolnak. Az NTU a technológiai kutatások vezető központja, amely számos területet lefed, beleértve a gépi tanulást és a mesterséges intelligenciát.

Dacheng Tao professzor jelenleg az NTU Számítástechnikai és Adattudományi Karának kiemelkedő egyetemi professzora. Főként statisztikát és matematikát alkalmaz a mesterséges intelligenciában és az adattudományban, kutatásait pedig egy monográfia és több mint 200 publikáció részletezi rangos folyóiratokban és vezető konferenciák kiadványaiban, elnyerve a legjobb cikk díját, a legjobb hallgatói cikk díját és időtálló (test of time) díjakat. Publikációira több mint 112 ezer hivatkozás érkezett, és a Google Scholarban 160+ h-indexszel rendelkezik. Megkapta az ausztrál Eureka-díjat 2015-ben és 2020-ban, az IEEE ICDM Research Contributions Award díjat 2018-ban és az IEEE Computer Society McCluskey Technical Achievement Award díjat 2021-ben. Az Ausztrál Tudományos Akadémia, az AAAS, az ACM és az IEEE tagja.

 

Az amerikai Rutgers egyetemen működő Computer Science intézet 1966 óta folytat világszínvonalú kutatásokat a mesterséges intelligencia és számítástudományok területén. Elsődlegesen alapkutatási projekteken dolgoznak, de interdiszciplinárius alkalmazott kutatásokat is végeznek, amelyek az alapkutatást stimulálják. A Computer Science intézetének elméleti számítástudományi tanszéke évente 20-25 tanulmányt publikál a gépi tanulás elméletének legfontosabb konferenciáin (pl. ICML és COLT).

Mario Szegedy, a Rutgers egyetem professzora, kétszeres Gödel-díjas matematikus, valamint a Párizsi Kanellakis Elmélet és Gyakorlat díj nyertese. Nemzetközileg elismert komplexitáselméleti és a kvantumszámítás kutató. Az áramkörök komplexitásával és a kommunikációs komplexitással kapcsolatos elméleti eredményei jó alapot biztosítanak a neurális hálózatok elméleti korlátainak feltárásához a javasolt kutatás szempontjából.