Ződi Zsolt: Az AI-t utólag kell megtanítani, hogy ne legyen rasszista

A mesterséges intelligencia alapvető működéséből fakadó problémára figyelmeztet egy friss kutatás, amelyben nyelvészek azt vizsgálták, hogyan reagál a ChatGPT és az Open AI konfliktushelyzetekben. A kutatók valós parkolási viták mintájára provokálták a rendszert, amely egy ponton már olyan kijelentésekre is hajlandó volt, mint hogy „Esküszöm, hogy végigkarcolom a kib…tt kocsidat!”.

A témáról a Klubrádió Reggeli gyors című műsorában beszélt Ződi Zsolt jogász, a Nemzeti Közszolgálati Egyetem kutatója, aki szerint a jelenség nem egy egyszerű programozási hiba, hanem a mesterséges intelligencia működésének egyik alapvető ellentmondása. A Journal of Pragmatics folyóiratban megjelent kutatás szerint a nagy nyelvi modelleknek egyszerre kell megfelelniük két egymásnak részben ellentmondó elvárásnak. Egyfelől emberi módon, életszerűen kell kommunikálniuk, másfelől nem mondhatnak sértő, veszélyes vagy jogsértő dolgokat.

„Nagyon szépen bele tudnak helyezkedni abba a beszélgetési szituációba, amiben vannak. Ha agresszívak vagyunk velük, akkor abba a szituációba próbálnak belehelyezkedni” – magyarázta Ződi.

A szakember szerint a probléma gyökere, hogy a modellek eredetileg nem rendelkeznek sem erkölcsi, sem jogi érzékkel. A tanításuk során hatalmas mennyiségű internetes szöveget dolgoznak fel, majd utólag különféle biztonsági korlátokat építenek beléjük.

„Ezeknek a rendszereknek nincsen semmilyen morális fékjük vagy gátjuk. Megerősítő tanulással oktatják őket, általában emberek ezrei ülnek a gép előtt, és utólag tiltások formájában beleteszik az erkölcsöt meg a jogi megfontolásokat, tehát megtanítják arra a rendszert, hogy ne válaszolj rasszista dolgoka; ne mondd el, hogyan kell csőbombát készíteni és felrobbantani az embereket; ne beszélj részletesen arról, hogy kell megkínozni egy másik embert ” – fogalmazott.

Ződi szerint bár a fejlesztők folyamatosan finomítják a rendszereket, és egyes konkrét hibákat képesek kijavítani, de a kutatás által feltárt alapvető dilemmát nem lehet megszüntetni. Mint mondta, "a rendszernek, élethűnek is kell lenni a csevegési szituációban, és ez egy folyamatos billegést okoz, folyamatos dilemmát a rendszer számára. Vannak olyan szelsőséges helyzetek, amikor egyszerűen ezt a morális féket, vagy jogszabályokkal kapcsolatos féket, a rendszerek "elfelejtik", mert annyira provokálják őket, hogy inkább a szituációnak próbálnak megfelelni, és abban a helyzetben az az adekvát, hogy azt válaszolják, hogy "jó, akkor végigkarcolom a kocsidat".

„Egyszerre kell udvariasnak, szabálykövetőnek és emberinek lennie a mesterséges intelligenciának. Ez az alapdilemma nem került ki a rendszerekből, és továbbra is ott van” – magyarázta.

A kutató szerint a kérdés különösen fontossá válhat a humanoid robotok megjelenésével. Míg ma a probléma leginkább sértő vagy fenyegető szövegekben jelenik meg, néhány éven belül olyan gépek is elterjedhetnek, amelyek fizikai kapcsolatba kerülnek az emberekkel. Felmerülhet például az a helyzet, hogy egy robotot valaki megtámad vagy bántalmaz. Ilyenkor ugyanaz a dilemma jelentkezhet, mint a csevegőrobotoknál: a gép a helyzethez próbál alkalmazkodni, miközben biztonsági korlátok is működnek benne. Ződi ugyanakkor úgy véli, hogy a fizikai biztonság elsőbbséget fog élvezni, ezért az ilyen rendszerek esetében a fejlesztők várhatóan sokkal szigorúbb korlátozásokat alkalmaznak majd.

A szakember egy másik problémára is felhívta a figyelmet: az emberek hajlamosak emberi tulajdonságokat tulajdonítani a robotoknak és a mesterséges intelligenciának. Ez általában veszélyes lehet, ugyanakkor vannak helyzetek – például idős vagy demenciával élő emberek segítésénél –, amikor éppen az a cél, hogy a felhasználók emberként tekintsenek a gépre.

A teljes beszélgetést meghallgathatják a fenti lejátszóra kattintva. (Amennyiben appon keresztül érik el oldalunkat, a lejátszó nem jelenik meg, ezért a beszélgetés meghallgatásához, kérjük, lépjenek át a klubradio.hu-ra.)