Nem mindegy, hogy érző, vagy "csak" intelligens

A Google közölte, hogy elbocsátotta vezető szoftvermérnökét, aki azt állította, hogy a vállalat LaMDA névre keresztelt mesterséges intelligenciája (MI) öntudatra ébredt – írja a 24.hu. Blake Lemoine szoftvermérnök több médiumnak is azt nyilatkozta, hogy a Google mesterséges intelligenciájának már emberi érzései vannak. A szakember a Google mesterséges intelligencia létrehozásán dolgozó csapatának tagjaként rendszeresen folytatott beszélgetéseket LaMDA-val azzal a céllal, hogy megbizonyosodjanak, a program nem használ kirekesztő kifejezéseket, és bevethető lesz chatbotként. Ezen beszélgetések során Lemoine blogjának tanulsága szerint olyan témákat érintettek, mint a vallás, vagy az öntudat. A cég szerint Lemoine megsértette a többi között bejelentés előtt álló termékeikkel kapcsolatos információk védelmét.

Szegedi Balázs, az Eötvös Loránd Kutatási Hálózat (ELKH) Rényi Alfréd Matematikai Kutatóintézetének tudományos munkatársa szerint az ilyen nyilatkozatokat tevő személyeket úgy nevezik, "whistleblower". Valójában olyan személyeket neveznek így, akik valamely erkölcsi szempontból kifogásolható, immorális, vagy illegális ügyről szivárogtatnak ki információkat. Számára azonban nem a tett moralitása a kérdéses. Lemoine feladata kifejezetten az volt, hogy felmérje a Google chatbotja mennyire képes megtéveszteni az embereket (Turing-teszt).

Az igazi veszélyt abban látja, hogy a technológia manipulálni tudta a szakembert, ami alapján az elhitte, érző lényről van szó. Hangsúlyozta, különbséget kell tenni egy intelligens és egy érző lény között, a kettő nem ugyanaz. Szegedit ez őszinte aggodalommal tölti el, mert az emberek kiszolgáltatottá válhatnak emiatt. Katonai céllal is bevethető eszközök, amelyek képesek szimulálni egy ember működését, ennek megfelelően képesek lehetnek kicsalni bizalmas, vagy érzékeny információkat is.

A technológiai szingularitás bekövetkeztét – amely a mélytanulásra képes mesterséges intelligenciák exponenciális fejlődését jelenti – 30-50 éven belül becsüli.

A teljes beszélgetést a fenti lejátszóra kattintva, a műsor első felében hallgathatják meg.