Nem mérlegel, nem tervez, nem ellenőriz, hanem reagál a mesterséges intelligencia

A modern tudomány egyik legmélyebb tapasztalata az volt, hogy a világ nem kaotikus. Törvényszerűségek irányítják, amelyek leírhatók, kiszámolhatók, és technikai rendszerek alapjául szolgálhatnak. Ebből a felismerésből nőtt ki az ipari társadalom, a mérnöki gondolkodás, majd az a hit is, hogy megfelelő erőforrások mellett nincs megoldhatatlan probléma.

Jakovác Antal úgy látja, ez a szemlélet a XX. század közepére vált uralkodóvá. Nemcsak a fizika vagy a kémia, hanem a társadalom és az emberi viselkedés is sokak szemében számolható rendszerré vált. Mintha csak idő kérdése lett volna az „egyenlet”, amely mindenre választ ad.

A kijózanodás nem egyetlen látványos kudarc miatt következett be, hanem azért, mert egyre több területen derült ki: a világ viselkedése nem illeszkedik ehhez az egyszerűsítő logikához.

Amikor a világ nem lineáris

A fizika felől nézve ez a felismerés különösen éles. Hosszú ideig a tudomány olyan jelenségekkel dolgozott, ahol az ok és az okozat arányban állt egymással. Ha kétszer akkora hatást alkalmazunk, kétszer akkora változást kapunk. Ezek a rendszerek jól kezelhetők, jól számolhatók.

A számítógépek azonban megnyitották az utat a nemlineáris problémák felé. Jakovác szerint ekkor vált világossá, hogy sok rendszerben egészen más működési tartományok léteznek. Egy apró változtatás nem fokozatos elmozdulást okoz, hanem teljesen más állapotba billenti a rendszert. Ezek az állapotok egymás mellett léteznek, de nem vezethető le az egyik a másikból egyszerűen.

Ez a felismerés alapjaiban kérdőjelezte meg azt a korábbi elképzelést, hogy a világ teljes egészében „visszafejthető” lenne néhány alapelvre.

Miért nem elég a részletek ismerete?

Ugyanez a probléma jelent meg az élettudományokban is. A biológia és az orvostudomány példátlan részletességgel tárta fel a mikroszkopikus szinteket: géneket, fehérjéket, sejtfunkciókat. A várakozás az volt, hogy ezekből összeáll majd az ember teljes képe.

Jakovác Antal szerint ez az elvárás túlzott volt. Az emberi genom feltérképezése nem jelentette az „ember elolvasását”. Rengeteg információ áll rendelkezésre, de az összefüggések nem lineárisak. A molekuláris szint ismerete önmagában nem vezet el a viselkedés, a betegségek vagy a tudat megértéséhez.

Ez nem a tudomány kudarca, hanem annak felismerése, hogy a világ különböző szintjei nem mindig fordíthatók le egymás nyelvére.

Intuíció és az elmélet határai

Jakovác gyakran hangsúlyozza a különbséget mesterséges és tudomány között. Kisebb léptékben az intuíció jól működik. A középkori építőmesterek érzésre javítottak, ha egy fal nem tűnt stabilnak. A festők ma is így dolgoznak: finom korrekciókkal keresik az egyensúlyt.

Nagy léptékben azonban az intuíció kevés. A Hagia Sophia kupolája - korának egyik legnagyobb mérnöki vállalkozása - többször is összeomlott, mert olyan statikai problémákat vetett fel, amelyeket érzésre nem lehetett kezelni. Itt már elméletre volt szükség.

Jakovác szerint a mesterséges intelligencia megértéséhez ugyanez a különbségtétel elengedhetetlen.

Mit csinál valójában a mesterséges intelligencia?

A mai nagynyelvi modellek működését sokan gondolkodásként értelmezik. Jakovác Antal ezzel szemben azt mondja: ezek a rendszerek nem a valóság belső képével dolgoznak, hanem statisztikai mintázatokkal. A következő szót választják ki egy adott szövegkörnyezetben, majd a következőt, és így épül fel a válasz.

Ez a működés gyors és hatékony. Nem mérlegel, nem tervez, nem ellenőriz: reagál. Inkább hasonlít egy ösztönös válaszra, mint egy reflektív gondolkodási folyamatra. Innen származik az a benyomás is, hogy „ráérez” dolgokra.

Miért beszél mégis emberi módon?

A nyelv az emberi intelligencia legerősebb jelölője. Ha valami jól beszél, könnyen következtetünk szándékra, értelemre, személyiségre. Jakovác szerint ez az oka annak, hogy a mesterséges intelligenciáról ösztönösen „ő”-ként beszélünk.

Csakhogy a nyelvi modellek intelligenciája rendkívül szűk értelemben vett intelligencia. Egyetlen területen - a nyelvi mintázatok kezelésében - kiemelkedően teljesítenek, miközben más, az emberi intelligenciához természetesen kapcsolódó képességek teljesen hiányoznak belőlük.

Hazugság nélkül nincs hazugság

Gyakori vád, hogy a mesterséges intelligencia „hazudik”. Jakovác Antal szerint ez félreértés. Hazudni csak az tud, aki tisztában van az igazsággal, és szándékosan eltér attól. A nyelvi modelleknek nincs fogalmuk az igazságról.

Amikor téves állítást tesznek, az nem erkölcsi esemény, hanem technikai következmény. A rendszer nem tudja, mit nem tud, és nem képes a bizonytalanság felismerésére sem. A valóság ellenőrzése ezért mindig a felhasználóra hárul.

Gyors válasz, ellenőrzés nélkül

Az emberi gondolkodás egyik kulcsa a belső kontroll. A gondolatokat visszamérjük a valóságképünkhöz, felismerjük az ellentmondásokat, javítunk. Jakovác szerint ez az, ami a mesterséges intelligenciából hiányzik.

A nagynyelvi modellek technikailag mindig csak a következő lépést választják ki. Ettől kiválóak ötletelésre, szövegalkotásra, vázlatkészítésre és ettől megbízhatatlanabbak hosszú, szigorúan következetes gondolatmenetekben.

Eszköz marad, nem alany

Jakovác Antal összegzése szerint a mesterséges intelligencia nem emberi értelemben vett gondolkodó lény. Nem tudat, nem szándék, nem személy. Ugyanakkor rendkívül erős eszköz, amely új módon képes kezelni a komplexitást.

A legnagyobb veszély nem a technológiában rejlik, hanem abban, ha az ember többet lát bele, mint ami valójában. Ha azonban pontosan értjük, mire képes és mire nem, akkor a mesterséges intelligencia nem fenyegetés, hanem hasznos, jól körülhatárolható segédeszköz.

Az adást a fenti lejátszóra kattintva hallgathatja meg! (Amennyiben appon keresztül érik el oldalunkat, a lejátszó nem jelenik meg, ezért a beszélgetés meghallgatásához, kérjük, lépjenek át a klubradio.hu-ra.)