„Zajlik
Utópia

Nem mindegy, hogy érző, vagy "csak" intelligens

13/08/2022 17:06

| Szerző: Klubrádió/Lőrincz Csaba

Az ember manipulálhatóságát bizonyítja az, hogy a Google chatbotja meg tudta győzni Blake Lemoine-t arról, hogy érző lény – véli Szegedi Balázs. Az Eötvös Loránd Kutatási Hálózat (ELKH) Rényi Alfréd Matematikai Kutatóintézetének tudományos munkatársa szerint ez kiszolgáltatottá teszi az embereket a mesterséges intelligenciával szemben.

2022. augusztus 02. Utópia (2022. augusztus 02., kedd 19:00)
50:17
00:00
Műsorvezetők: Neuman Gábor Szerkesztők: Neuman Gábor
A Google közölte, hogy elbocsátotta vezető szoftvermérnökét, aki azt állította, hogy a vállalat LaMDA névre keresztelt mesterséges intelligenciája (MI) öntudatra ébredt – írja a 24.hu. Blake Lemoine szoftvermérnök több médiumnak is azt nyilatkozta, hogy a Google mesterséges intelligenciájának már emberi érzései vannak. A szakember a Google mesterséges intelligencia létrehozásán dolgozó csapatának tagjaként rendszeresen folytatott beszélgetéseket LaMDA-val azzal a céllal, hogy megbizonyosodjanak, a program nem használ kirekesztő kifejezéseket, és bevethető lesz chatbotként. Ezen beszélgetések során Lemoine blogjának tanulsága szerint olyan témákat érintettek, mint a vallás, vagy az öntudat. A cég szerint Lemoine megsértette a többi között bejelentés előtt álló termékeikkel kapcsolatos információk védelmét.

Szegedi Balázs, az Eötvös Loránd Kutatási Hálózat (ELKH) Rényi Alfréd Matematikai Kutatóintézetének tudományos munkatársa szerint az ilyen nyilatkozatokat tevő személyeket úgy nevezik, "whistleblower". Valójában olyan személyeket neveznek így, akik valamely erkölcsi szempontból kifogásolható, immorális, vagy illegális ügyről szivárogtatnak ki információkat. Számára azonban nem a tett moralitása a kérdéses. Lemoine feladata kifejezetten az volt, hogy felmérje a Google chatbotja mennyire képes megtéveszteni az embereket (Turing-teszt).

Az igazi veszélyt abban látja, hogy a technológia manipulálni tudta a szakembert, ami alapján az elhitte, érző lényről van szó. Hangsúlyozta, különbséget kell tenni egy intelligens és egy érző lény között, a kettő nem ugyanaz. Szegedit ez őszinte aggodalommal tölti el, mert az emberek kiszolgáltatottá válhatnak emiatt. Katonai céllal is bevethető eszközök, amelyek képesek szimulálni egy ember működését, ennek megfelelően képesek lehetnek kicsalni bizalmas, vagy érzékeny információkat is.

A technológiai szingularitás bekövetkeztét – amely a mélytanulásra képes mesterséges intelligenciák exponenciális fejlődését jelenti – 30-50 éven belül becsüli.

A teljes beszélgetést a fenti lejátszóra kattintva, a műsor első felében hallgathatják meg.

Utópia
2022.08.02., kedd 19:00
Riporter: Neuman Gábor