Félelmetes, lenyűgöző, embert túlszárnyaló, suta és hallucináló MI

A november 22-én elstartolt Mesterséges értelem vendége, Szertics Gergely, a HUN-REN kutatóhálózat AI-transzformációért felelős vezetője szerint az emberi intelligencia egyik meghatározó eleme, hogy képesek vagyunk egyre bonyolultabb eszközök megalkotására és használatára. A mesterséges intelligencia ennek a több ezer éves fejlődési folyamatnak a csúcsteljesítménye, egyszerre félelmetes a neve, és lenyűgöző a képessége. Nem azért hozzuk létre, hogy helyettesítsen bennünket, hanem hogy sokszorozza az emberi problémamegoldó képességet.

Az MI azonban egyenetlen: bizonyos feladatokban messze felülmúl minket – például képfelismerésben vagy nagy adathalmazok elemzésében –, más területeken viszont "még suta", hajlamos a hibákra, akár a "hallucinációkra" is.

Tudás vagy intelligencia?

A szakember hangsúlyozta, hogy a közvélekedéssel szemben a nagy nyelvi modellek - például a ChatGPT - nem az interneten keresnek valós időben. Inkább úgy működnek, mint egy gyakornok, akit bezárunk a könyvtárba: rengeteg szöveget elolvasnak, majd abból próbálnak megjegyezni mintázatokat és összefüggéseket. A válaszaik főként ebből az elsajátított tudásból és az erre épülő intelligenciából születnek.

A különbség a tudás és az intelligencia között döntő: a modellek valójában nem "tudják" a dolgokat, hanem képessé válnak összefüggéseket találni, értelmezni és generálni.

"Porszívóval is lehet mosni, csak nem érdemes"

Szertics szerint az emberek többsége rosszul használja a nagy nyelvi modelleket. Sokszor keresőként tekintenek rájuk, pedig alapvetően beszélgetésre és intelligens tartalomkezelésre fejlesztették őket. Innen ered az a tévhit is, hogy az MI minden interakcióval tanul: valójában a modellek újratanítása hosszú és összetett folyamat, az egyedi beszélgetések csak a helyi kontextust befolyásolják.

A hibák ráadásul nagyon emberiek: a modellek néha olyan apró mintázatot tanulnak meg, amelynek semmi köze a valósághoz. Példaként hozott fel egy orvosi MI-t, amely nem a tumorsejteket, hanem a röntgenképeken látható vonalzót ismerte fel, mivel a tanítóadatokban minden tumoros képen szerepelt egy vonalzó, amellyel lemérték az elváltozás méretét.

Félelmek, filmek, fikciók

A Terminátor és a Mátrix világa meghatározza a kollektív képzeletünket, de a szakértő szerint ezek a szcenáriók kevéssé valószínűek. Nem egy emberhez hasonló, öntudatra ébredő robot fenyegeti a világot, hanem számos kevésbé látványos, de sokkal reálisabb kockázat: a hibás mintafelismerés, a torz adatokból fakadó elfogultság, a hamis információk tömeges előállítása vagy épp a fegyverrendszerekre bízott autonóm döntések.

Kialakulóban lévő társadalmi immunrendszer

A kutató szerint már most látható, hogy az emberek elkezdték kiépíteni a védekezési mechanizmusokat: egyre többen ismerik fel a deepfake-eket, a manipulált képeket, szövegeket. Ugyanakkor a technológia tempója miatt továbbra is sebezhetőek vagyunk, különösen, mivel az MI rendkívül olcsón és gyorsan képes hamis tartalmakat előállítani.

A szakértő úgy látja, hogy globálisan már több százmillióan használják rendszeresen a nagy nyelvi modelleket, ami önmagában is átalakítja az információfogyasztásról alkotott képünket.

Tanulás, fejlődés, korlátok

Az MI képfelismerési és orvosi alkalmazásai azért hatékonyak, mert óriási mennyiségű adatból képesek mintákat megtanulni, olyan finomságokat is észrevenni, amelyeket egy ember 40 év tapasztalattal sem feltétlenül lát meg. Ugyanakkor továbbra is igaz, hogy nem érti, csak felismeri a mintázatokat és ha hibás mintát tanul, az súlyos következményekkel járhat.

A teljes adást meghallgathatják a fenti lejátszóra kattintva. (Amennyiben appon keresztül érik el oldalunkat, a lejátszó nem jelenik meg, ezért az adás meghallgatásához, kérjük, lépjenek át a klubradio.hu-ra.)