A nyelvi modellek nem enciklopédiák, de miért smúzolnak?

A klasszikus szakértői rendszerek – főleg a kilencvenes években – valóban ilyenek voltak: tények, szabályok, logikai következtetések. Ha megkérdeztük egy rendszerben a proton tömegét, a válasz egy táblázatból érkezett, tévedés nélkül. A mai nagy nyelvi modellek viszont nem így működnek. Nekik nincs belső "táblázatuk", nincs keményen rögzített igazságkészletük – magyarázza Jakovác Antal, a HUN-REN Wigner Fizikai Kutatóközpont Adat- és Számításintenzív Tudományok Kutatócsoportjának vezetője.

Amit csinálnak, az inkább tudásreprezentáció: egy elképesztően komplex, statisztikai alapú modell a világról, amelyben nem tényeket keresnek vissza, hanem "zsigeri" asszociációk mentén haladnak előre. Tokenről tokenre, gondolkodás nélkül, de meggyőzően.

Miért hallucinál a mesterséges intelligencia?

Ez a működésmód magyarázza azt is, ami miatt az AI időnként egészen elképesztő butaságokat mond teljes magabiztossággal. Ilyen az "U-betűs állatok" esete volt. A rendszer kezdetben jól teljesített, majd előállt az "ugrókéreggel", egy nem létező, értelmetlen elnevezésű állattal. A legérdekesebb azonban az volt, ami ezután történt: amikor újraindítás után rákérdeztek, hogy létezik-e ilyen állat, a válasz már határozott nem volt.

Ez világosan mutatja: nincs belső adatbázis, nincs stabil referenciapont. A modell mindig az adott beszélgetés kontextusában "improvizál", és abból építi fel a válaszait. Ezért tud egyszer ugyanarra a kérdésre magabiztos igennel, máskor ugyanolyan magabiztos nemmel válaszolni.

És mégis mindezt olyan nyelvi minőségben, olyan természetességgel teszi, hogy hajlamosak vagyunk elhinni neki.

Miért kedves velünk az AI?

Szóba került a nyelvi modellek "személyisége". Sokan megfigyelték már: a legtöbb rendszer kifejezetten támogató, pozitív, bátorító. Akkor is, ha nem feltétlenül indokolt.

Ez azonban nem a modell "lelkéből" fakad. Ez utólagos emberi munka eredménye. A nyelvi modellek betanítása nem áll meg ott, hogy "elolvasnak mindent", amit az emberiség leírt. Ezt egy hosszú finomhangolási folyamat követi: mit mondhat, mit nem, hogyan reagáljon, milyen hangnemben válaszoljon.

Jakovác Antal felidézett olyan korai chatbotokat is, amelyek direkt agresszívek, sértőek voltak, pusztán azért, mert így "nevelték" őket. Ma már tudatos döntés, hogy a modellek inkább empatikusak, pozitívak, "smúzolósak". Ez nem hiba, ez funkció.

Lesz-e általános mesterséges intelligencia?

A beszélgetés egyik központi kérdése az volt, vajon eljutunk-e az úgynevezett AGI-hoz, az általános mesterséges intelligenciához. Ahhoz a ponthoz, ahol a rendszer már nemcsak válaszol, hanem érti is a világot, felelősséget vállal, következményeket mér fel.

Jakovác Antal ebben a kérdésben határozottan szkeptikus, legalábbis a mai architektúrákat illetően. A jelenlegi nyelvi modelleknek nincs valódi valóságképük. Nem értik, hogy a cselekvésük hogyan változtatja meg a világot, és nem is tudják ezt felmérni. Márpedig felelősség, öntudat és etikai döntés csak ebből fakadhatna.

Hiába beszélnek egyes techipari szereplők arról, hogy "küszöbön az AGI", a fizikus szerint ez inkább marketing, mint tudományos realitás. Strukturális akadályok vannak, nem mennyiségi, hanem minőségi problémák.

A teljes adást meghallgathatják a fenti lejátszóra kattintva. (Amennyiben appon keresztül érik el oldalunkat, a lejátszó nem jelenik meg, ezért az adás meghallgatásához, kérjük, lépjenek át a klubradio.hu-ra.)