A jelenlegi mesterséges intelligencia (MI) rendszerek félrevezető adatokkal szembeni sebezhetősége és átláthatatlan döntéshozatali folyamatai olyan kockázatokat jelentenek, amelyek korlátozzák gyakorlati alkalmazásukat orvosi környezetben. A Szegedi Tudományegyetem kutatói kiváló nemzetközi partnerekkel együttműködve, a hazai finanszírozású HU-rizont Program támogatásával vizsgálják az MI rendszerek jelenlegi korlátait. E rendszerek ugyanis kizárólag adatvezérelt tanulásra támaszkodnak anélkül, hogy magukba foglalnák az emberi szintű kognitív képességeket és a tudás reprezentációját.

A hétköznapi diskurzusban általában az ember, a felhasználó sebezhetősége kerül terítékre a mesterséges intelligencia térnyerése kapcsán: megtévesztésről, az emberi gondolkodás fölé kerekedő gépi intelligenciáról hallunk. A szegedi vezetésű kutatás fókuszában viszont a mesterséges intelligencia sebezhetősége áll. Megfelelő szakértelem birtokában ugyanis rá lehet venni az MI rendszereket arra, hogy a tőlük elvárt magatartástól nagyon különbözően viselkedjenek, sőt akár arra is, hogy egy rosszindulatú (emberi) támadó igényeit kövessék - magyarázza Jelasity Márk, az egyetemen működő Mesterséges Intelligencia Tanszék vezetője. Erre számtalan módszer van: manipulálni lehet például képeket vagy szövegeket olyan módon, hogy az MI rendszer számára erős érzékcsalódást okozzanak, miközben az ember nem lát változást. Ez pedig azért lehetséges, mert óriási különbségek vannak aközött, ahogy az ember és a gép érzékeli a valóságot - és ahogyan feldolgozza az információkat. Eközben a gép és az ember viselkedése sok esetben megdöbbentően hasonló, ezért láthatatlan módon lehet befolyásolni és rossz döntésre kényszeríteni az MI rendszereket. Ennek a veszélyeit az MI hadászati alkalmazásainak korában nem lehet eléggé hangsúlyozni. Szintén fontos kutatási terület az MI rendszerek biztonsági megoldásainak megkerülhetősége - fejti ki a kutatási projekt vezetője. A káros vagy veszélyes témákat (fegyverek készítése, öngyilkossági módszerek stb.) a csevegőrobotok hárítják, azonban megfelelő jailbreaking (gyárilag beépített korlátozások trükkös kiiktatása,,informatikus nyelven" - a szerk.) módszerekkel ezt a védelmet meg lehet kerülni, és a támadó így már tetszőleges témákról kaphat információkat. Ez ellen szintén nagyon nehéz a védekezés, mert a jelenlegi MI rendszerek belső reprezentációi nem eléggé kiismerhetők, és sokak szerint jelentősen különböznek az emberi gondolkodáséitól. Az MI-nek nem lehet egyszerűen azt mondani:,,légy szíves, ne beszélj bombakészítésről", mert nem képes felismerni minden kontextust és ,,kikotyogja" az információt. Különösen, ha szokatlan kontextusban kérdezünk, pl. szuahéli nyelven, vagy egy szerepjáték részeként. Természetesen az ismert jailbreaking módszerek kivédésére folyamatosan foltozzák a rendszereket, de ezek nem lényegi javítások. Jelasity Márk megjegyzi: a felhasználó sebezhetősége nem egyszer mások tevékenységének a következménye, például álhírt az MI nem magától gyárt. De gyakran abból adódik ez a sebezhetőség, hogy a felhasználó emberi módon érző és gondolkodó lényként tekint az MI rendszerekre, ami jelenleg még távol áll a valóságtól. A magyar vezetésű kutatócsoport amerikai és szingapúri partnereivel együttműködve - az MI orvosi alkalmazásának buktatóit vizsgálja, például azt, hogy a leletek értelmezésére betanított rendszer mennyiben képes kinyerni emberi szakértők számára értelmezhető egészségügyi tudást a rendelkezésére álló adatokból. Itt tehát a fókusz nem a sérülékenységen van, hanem a tudásreprezentáción. A kettő annyiban függ össze, hogy a fent említett sérülékenységek szintén az emberi és a gépi tudásreprezentáció közötti furcsa különbségekre épülnek, tehát a probléma kezelésének a kulcsa is a belső tudásreprezentációk megértésében rejlik. Ennek egy lehetséges eszköze ezeknek a reprezentációknak a kinyerése, ha úgy tetszik, emberi nyelvre fordítása. A kutatás során azt is szeretnék felmérni, hogy miként léphet túl az MI az adatvezérelt tanuláson. A feladat nehéz, mert voltaképpen minden tanulás adatvezérelt, hiszen a ,,semmiből" nem lehet információt nyerni. Az emberi kogníció sok lábon áll, melynek része a sok adatból történő hosszas tanulás, mégpedig az evolúció formájában. Ennek során évmilliók alatt alakultak ki azok az érzékeléssel, nyelvi reprezentációkkal, a világ modellezésével kapcsolatos agyi funkciók, amelyek megágyaznak a magasabb szintű tanulásnak – ezért van az, hogy az ember már újszülöttként meglepően fejlett kognitív képességekkel rendelkezik. Ezzel valamennyire analógnak tekinthetők az MI-ben az alapmodellek (foundation models), amelyek rengeteg adaton sokáig tanulva az adatban meglévő hasznos információt kinyerik, tömörítik. Ma már lehetőség van a több modalitásból, például nyelvi és képi forrásból származó információk közös reprezentációra való átalakítására és egymásba konvertálására. Lehet szöveg alapján képet generálni és fordítva, illetve lehet képekről beszélgetni, azokat értelmezni. Az emberi kognícióra jellemző, hogy nagyon kevés példából is lehetséges a tanulás. Egy óvodásnak elég egyetlen zsiráfot mutatni, és onnantól tudja, mi a zsiráf: felismeri, megnevezi, nagyon sokáig emlékezni fog rá. Ma már az MI rendszerek is egyre inkább képesek hasonlóra, bár egyelőre korlátozott mértékben, kevésbé rugalmasan. Egy konkrét beszélgetés során képesek tanulni nagyon kevés, akár egyetlen példából is. Ennek fő korlátja azonban az, hogy az MI-ben még nem alakult ki az ember hosszú távú memóriájának megfelelő konstrukció, így az új tudást csak a teljes modell újratanításával lehetne rögzíteni, ami nem túl praktikus megoldás. Ez a korlát összefügg a projektben vizsgált világmodellezési problémakörrel, ami visszavezet a tudás belső reprezentációjának a kérdéséhez. A rendszernek támogatnia kell a folyamatos bővítést, változtatást anélkül, hogy a nulláról kellene újratanítani a modellt - ráadásul úgy, hogy a nem érintett részek ne változzanak. Az embereknél a hosszú távú memóriának köszönhetően ez nem okoz gondot, de az MI modellek - bár folynak kutatások ebben az irányban is – egyelőre nem képesek rá. A jelenlegi MI rendszerek gyakorlatilag teljes mértékben a felhasználók, azaz az emberek által létrehozott adatok alapján tanulnak – hangsúlyozza Jelasity Márk. Ide sorolhatók a csevegőrobotokkal folytatott párbeszédek, amelyek adatait természetesen az MI felhasználja. Az emberi közreműködés és visszacsatolás azonban rendkívül drága, emellett nem is mindig tökéletes. A fejlesztések célja ezért, hogy lehetőleg emberi visszacsatolás nélkül lehessen az MI rendszereket tökéletesíteni.

Sok esetben ez egyenesen követelmény, ha „emberfeletti" intelligenciát akarunk létrehozni. Ilyen értelemben a tanítvány túl kell, hogy lépjen a tanítón, de ez több esetben megtörtént a múltban is, hiszen a sakk vagy a go játék MI ágensei már nem emberektől tanulnak, hanem saját maguktól. Ugyanezt látjuk jelenleg a matematikában, ahol az MI sokak szerint emberfeletti szintre fog lépni néhány éven belül – mondja a kutatás vezetője. Ennek fényében nem mindennapi kihívás lesz annak elérése, hogy az MI rendszerek továbbra is emberi tervezőik eredeti céljainak megfelelően működjenek - ebben pedig ugyancsak fontos szerepet kap a tudásreprezentációk megértése.

GÓZON ÁKOS

Forrás: Élet és Tudomány