A mesterséges intelligencia (MI) fejlesztésére hatalmas összegeket fordítanak világszerte: az innovációs versenyben nagyhatalmak, egyetemek és tech óriások is részt vesznek, de a startup szférában is születnek igazi áttörések. A technikai lehetőségek bővülése azonban számtalan új etikai kérdést is felvet – ezek egy része Hollywoodot és a streaming szolgáltatókat sem hagyja hidegen. Mik a fő fejlesztési irányok, milyen dilemmák kapcsolódnak ezekhez, és hogyan reflektál minderre a popkultúra?

„Mérnöki szempontból a mesterséges intelligencia fejlesztésében két fő irányvonal van. Az egy-egy feladat megoldására kalibrált rendszerekhez (narrow artificial intelligence) tartoznak a keresőmotorok, ajánló algoritmusok, hangfelismerő alkalmazások, de akár az önvezető autók is. A másik csoportot az általános mesterséges intelligenciák (artificial general intelligence= AGI) alkotják, például a Turing teszten induló chatrobotok vagy több funkció ellátására alkalmas MI asszisztensek” – magyarázza Dr. Héder Mihály, a BME Filozófia és Tudománytörténet tanszékének docense, aki az MI körüli kérdésekkel fejlesztő mérnökként és technikafilozófusként is foglalkozik.

A technikai környezet folyamatos bővülése és a jövő technológiái bőven adnak gondolkodnivalót a tudósoknak: gyakran felmerül, hogy a robotok elveszik-e majd az emberek munkáját, vagy, hogy az önvezető autók mit fognak tenni egy-egy élet-halál kérdést jelentő közlekedési helyzetben. „Az MI-k egyre fontosabb döntéseket képesek meghozni helyettünk, de nem lehet őket úgy felelősségre vonni, mint az embereket. Előfordulhat, hogy olyan bonyolulttá válnak, hogy a megalkotóik sem fogják már átlátni a működésüket, ami váratlan, vagy akár veszélyes helyzeteket is eredményezhet. Egyes tudósok – például Stephen Hawking, Ray Kurzweil, Nick Bostrom – azt is el tudják képzelni, hogy ezek a gépek öntudatra ébrednek. Felmerül, hogy az MI-k egyre több területen lesznek az emberek társai, nem csak a munkában, hanem a magánéletben is. Milyen státuszt adunk majd nekik? Továbbra is gépekként kezeljük majd őket? Végül nem szabad megfeledkezni a sötét oldalról sem: egy elszabadult autonóm fegyver óriási pusztítást végezhet.” – mondja a szakértő.

Pusztítók és szeretők

A filmek és a sorozatok jól lekövetik a fejlesztések széles spektrumát, sőt, a jövőben játszódó történetek jól ráéreznek arra, hogy milyen technológiák lesznek elérhetőek a jövőben. Hangsúlyok azonban vannak, Dr. Héder Mihály három kategóriát különít el:

1. Az MI mint ellenség: az öntudatra ébredt robotok kipusztítják az emberiséget – erre a narratívára példa a Terminátor sorozat, melynek első epizódja 1984-ben debütált.
2. Az MI mint társ: a robotok az élet egyre több területén jelennek meg partnerként. Az Csillagok között (Interstellar, 2014) című filmben azt látjuk, hogy extrém körülmények között a gépek milyen jól ki tudják egészíteni az emberek képességeit. A nőben (Her, 2013) egy álombarátnőt személyesít meg egy beszélő chatrobot, a Robot&Frank (2012) pedig arra világít rá, hogy az idősek ellátásában milyen előnyei lehetnek egy robotnak.
3. Az MI mint technológiai környezet: a film cselekményének hátteret adó ultramodern környezetben az önálló személyiséggel nem rendelkező, egy-egy feladatot ellátó MI rendszerek is hangsúlyosan megjelennek. Önállóan ritkábban szerepelnek filmekben, viszont az összetettebb, negatív vagy pozitív személyiséggel rendelkező MI-ket bemutató filmekben stabil a helyük.

(via)

Vannak azonban nehezebben megfogható témák, amelyek a képernyőn is kevésbé vannak jelen: ilyen például az, hogy a mesterséges intelligenciával rendelkező rendszerek nem mindenki számára lesznek egyformán elérhetőek. „A technikai fejlődés és az MI használatának standarddá válása még szélesebbre nyithatja a társadalmi ollót. Azok a csoportok, akik nem férnek hozzá a technológiához, kiszolgáltatottabbá válhatnak és még jobban leszakadhatnak. Akik viszont értik és birtokolják ezeket a rendszereket, azok élvezhetik az előnyeit, még nagyobb hatalomra tehetnek szert. Ez már egy nehezebben dramaturgizálható téma, csakúgy, mint a munkahelyek sorsa.”

A ‘20-as évektől a Black Mirror-ig

Az MI fejlődése az elmúlt évtizedekben gyorsult fel, a téma azonban már sokkal régebb óta foglalkoztatja a filmkészítőket: a szélesvászonra már a húszas években betörtek a robotok. „1927-ben mutatták be a Metropolis című fekete-fehér, német némafilmet, mely 2026-ban játszódik: ez az első olyan film, amiben robot – egész pontosan egy robotnő szerepel.

(via)

Klasszikussá vált ez a film is, csakúgy, mint a 2001: Űrodüsszeia rideg, beszélő mesterséges intelligenciája – az 1968-ban bemutatott mű kora MI vízióit tükrözi. Az 1977-es A komputer gyermeke (Demon Seed) története meglehetősen bizarr: egy Proteus IV nevű robot testet épít magának, domináns és erőszakos személyiségként uralkodik alkotója felesége felett, akit meg is termékenyít.

(via)

A nyolcvanas években egy családi vígjáték, a Rövidzárlat (1986) különbséget tesz jó és rossz robotok között: a meghibásodás miatt öntudatra ébredő 5-ös robot szeretnivaló és jó szándékú. A vele egy szériában készült prototípusok viszont igazi gyilkoló automaták, akik mérlegelés nélkül teljesítik a parancsokat. A Rövidzárlat arra is rámutat, hogy az MI nem csak a sci-fi műfajban jelenik meg, hanem a vígjátékokban, családi filmekben, drámákban és animációs filmekben is. Az utóbbi kategóriába tartozik a Wall-E (2008) is, mely a robotok érzelmei és egymás közötti kapcsolata mellett jól reprezentálja azt is, hogy hova juthat az ellustulásban a társadalom, ha mindent a robotok végeznek az emberek helyett.

(via)

A filmek abban is változatosak, hogy fizikailag hogyan ábrázolják a mesterséges intelligenciát. „Ebben a kérdésben is három alapkategória van. Az első csoportot a test nélküli MI-k alkotják: például Samantha A nőben, akinek csak a hangját halljuk. A második csoportba az ember számára valamiért szimpatikus MI-k tartoznak. Közülük többen a szexuális vonzerejükkel tesznek jó benyomást: ilyen az Ex Machina Ava-ja, vagy az újabb Battlestar Galactica feldolgozások robotnői – vonzóak, ám életveszélyesek. Mások amiatt tetszenek az embereknek, mert aranyosak: ilyen az előbb említett Wall-E, vagy a 2001-es A.I. Mesterséges Értelem című film kisfiúja, aki igazi álomgyerek. A harmadik kategóriába tartozó MI-k viszont félelmetesek, gyakran gépszerűek, vizuálisan is egyértelmű, hogy veszélyt jelentenek az emberre: a Terminátor robotjait nézve efelől nincs kétségünk.”

(via)

Az utóbbi években nem csak a filmipar alkotott nagyot MI témában, hanem a televíziós és a streaming szolgáltatók is. A Black Mirror (Netflix) például 2011 óta látja el elgondolkodtató és gyakran hátborzongató történetekkel a nézőket: Dr. Héder Mihály azt az epizódot emeli ki, amelyben egy özvegy nővel egy chatrobot beszélget az egykori férj nevében. A Westworld (HBO, 2016) szintén figyelemre méltó alkotás – bár a szakértő szerint kissé leegyszerűsített megközelítés az, hogy a robotok ugyanúgy gyűlölködnek benne, mint az emberek.

A megszokás hatalma

Fontos kérdés, hogy ezek a széles skálán mozgó reprezentációk hogyan alakítják a mesterséges intelligencia megítélését – ezzel például egy 2011-es és egy 2016-os kutatás is foglalkozott. Eredményeiket a technikafilozófus is megerősíti. „Az, hogy a képernyőn rendszeresen találkozhatunk ezekkel a rendszerekkel, megszokottabbá teheti a létezésüket, ezen keresztül pedig nőhet az elfogadottságuk.  A pusztító robotok ijesztők ugyan és félelmeket generálhatnak, de ezek a hatások inkább rövid távon működnek. Az MI rendszerek gyorsan terjednek, rengetegen használják ezeket már most is, annak ellenére, hogy sok rémisztő film készült már eddig is a témában. A technikatörténet azt mutatja, hogy ha egy-egy fejlesztés segítséget és kényelmet jelent, akkor az emberek használni fogják, nem beszélve arról, hogy az MI birtoklása divat és státuszszimbólum is lehet.”

A bejegyzés szerzője Nádasi Eszter, a BME KomMédia képzés oktatója. 

Amikor mesterséges intelligenciáról beszélünk, sokan a gyilkos robotokra asszociálunk, akik át akarják venni az uralmat az emberiség fölött. De mi van, ha azt mondom, hogy okos kávégépek, okos hangszórók,  vagy okos fogkefék? Ártatlannak tűnő eszközök, amelyek akár kémkedhetnek is utánunk, a saját otthonunkban. 

Elfogadjuk! De mégis mit? 

Nemrég jött ki a telefonomhoz a legújabb frissítés, és már majdnem automatikusan elfogadtam hozzá az adatvédelmi feltételeket, amikor belém hasított a gondolat, hogy ezeket a szerződéseket vajon elolvassa-e egyáltalán valaki? Tudjuk egyáltalán, hogy mire mondunk igent? Alig ismertem magamra, hiszen arra tanítottak, hogy mielőtt bármit elfogadok/aláírok, azt alaposan olvassam át. A legtöbb esetben ez nálam a protokoll, kivéve ilyenkor. Lehet, hogy most sokan magatokra ismertetek, éppen ezért tanulságként olyan eseteket mutatunk be, amelyekben a felhasználóknak bizony jobb lett volna előbb olvasni.

Jössz velem játszani ?

Kezdjük egy ijesztő esettel, amikor egy cég csúnyán visszaélt a vásárlók személyes adataival. Le kell szögeznünk, hogy ezt csak úgy tudták megtenni, hogy a fogyasztók nem néztek utána annak, hogy milyen szerződést fogadtak el - így elméletileg a cég nem követett el vétséget, amikor egy harmadik félnek kiszivárogtatta az adataikat. Finn Lützow-Holm Myrstad egy TED Talk előadásban beszélt egy bizonyos Cayla nevű játékbabáról, aki akárcsak egy beépült titkos ügynök, kémkedett a gazdái otthonában. Myrstad közelről ismeri a történet, hiszen egy fogyasztói jogokért harcoló szervezetnél dolgozik (Norvég Fogyasztóvédelmi Tanács), ahol különböző, aggályos eseteket vizsgálnak, és ha kell, megteszik a szükséges jogi intézkedéseket. Így történt ez Cayla esetében is.

(via)

A játékbaba használata rendkívül egyszerű, csak le kell tölteni hozzá egy ártatlannak tűnő applikációt, így válik elérhetővé a babához tartozó összes funkció. Cayla az interneten és a hangfelismerő technológián keresztül könnyedén tud releváns válaszokat adni a gyerekek által feltett kérdésekre. Igen ám, de amikor a vásárlók letöltötték az alkalmazást és elfogadták a hozzátartozó felhasználási feltételeket, egyúttal hozzájárultak ahhoz is, hogy a baba által megszerzett adatokat a gyártó kiszolgáltathatja egy ismeretlen harmadik félnek. Egy marketinges cégnek aranyat érhetnek ilyen bizalmas és őszinte adatok a fogyasztókról az eladás növelése érdekében. 

A problémát az is fokozta, hogy Cayla-ra bárki gond nélkül rá tud kapcsolódni 18 méterről egy okostelefonnal bluetooth-on keresztül. Amikor Myrstad csapata ezt jelezte a babát gyártó cég felé, azt a választ kapták, hogy erre csak egy magasan képzett IT szakember lehet képes. Cáfolásképpen a TED előadás közben csatlakoztak rá a játékra, és a baba hangszóróin keresztül beszéltek. Mondani sem kell, hogy  mennyire veszélyes lehet, amikor egy kisgyerek egyedül játszik és egy idegen ember a játék nyelvén szól hozzá, beszélgetni kezd vele, a bizalmába férkőzik, majd elhívja magával játszani. Kezdetben ez a baba több országban is az év játékának lett megszavazva, de azóta többek között Németországban betiltották és már nem lehet megrendelni az Amazon-ról sem. Jelenleg Cayla egy berlini kém múzeumban pihen, kiállítási darabként. 

A szerelem ára

Hazákban is nagyon népszerűek a randi app-ok, hiszen mennyivel egyszerűbb valakit csak egy suhintással jobbra húzni a Tinderen, mint például egy szórakozóhelyen megszólítani a kiszemeltet egy meghívással vagy menőnek hitt táncmozdulatokkal. Ugyan már! Ez fáradtságos és az ital is drága, a randi oldalakkal viszont otthonról lehet ismerkedni, ráadásul ingyen. Ha nem is pénzért vesszük ezeket a lehetőségeket, de valamivel azért fizetünk értük,  ha nem vigyázunk - például rengeteg személyes adattal.

(via)

Finn Lützow-Holm Myrstad és csapata alaposan elolvasta az egyik legnépszerűbb randi app adatkezelési nyilatkozatát - ha mindenki ezt tenné, akkor valószínűleg nem lenne a vezető randialkalmazások között, mert sokan inkább nem regisztrálnának. A fő menünél például egy már előre kipipált nyilatkozat van arról, hogy az app a felhasználó összes Facebook képéhez hozzáférhet. Ez még csak a jéghegy csúcsa, hiszen a szerződés szövege lényegében azt mondja ki, hogy a regisztrálók teljes randi dokumentációját (beleértve az adatokat, beszélgetéseket, fotókat) szabadon használhatja a cég. Ez azt jelenti, hogy bármilyen platformon megjelenítheti azokat, sőt, el is adhatja az összegyűjtött információt, hiszen korlátlan jogokat gyakorol felettük.  

Kémkedő fogkefék

Az NPR és az Edison Research kutatása szerint minden 6. amerikainak van már okoshangszórója, mely tulajdonképpen egy otthoni asszisztens, aki csatlakozik a netre, így például hangutasításra zenét tud lejátszani, beszámol az időjárásról, de beszélgetni is lehet vele - derül ki Kashmir Hill és Surya Mattu TED előadásából. A tech óriások mind fejlesztettek saját okoshangszórókat, hogy az asszisztenseik már ne csak az okostelefonokon keresztül legyenek elérhetőek. A Siri beköltözött a HomePod-ba, a Google-Assistant a Google Home-ba és Alexa pedig az Echo nevű okoshangfalba. Magyarországon ez az őrület  még csak gyerekcipőben jár, de könnyen lehet, hogy hamarosan reggelente mi is Alexához szólunk majd elsőként, hiszen az okos otthon fogalma itthon is egyre népszerűbb, és valljuk be, eléggé jól hangzik. De fontos megnéznünk az érme mindkét oldalát. Jópofa és kényelmes tud lenni, ha csak az ágyból kikiabálunk Alexának, hogy főzze meg a kávénkat, de ha mindez a személyes adatainkba kerül, akkor már nem is tűnik annyira vonzónak, hogy egy mesterséges intelligencia csináljon helyettünk reggelit.

(via)

Kashmir Hill és Surya Mattu kíváncsi volt arra, hogy ezek az eszközök milyen adatokat tárolnak és küldenek tovább a felhasználókról. Ezért egy két hónapos kísérlet során Kashmir lakásában, amit csak lehetett kicseréltek okosra - ilyen volt az ágy, a fogkefe, a hangfal, az izzók, az óra, a vécé és még sorolhatnánk, hiszen összesen 18 készüléket telepítettek. Egy speciális router segítségével nyomon követték az összes eszköz hálózati tevékenységét. Kiderült, hogy ezek mindent rögzítettek, ami a házban történt: tudták Kashmirról az alvási szokásait, hogy naponta hányszor és mennyi ideig mos fogat, mikor van otthon, de tisztában voltak azzal is, hogy hány percig nézi a tv-t. Az Echo volt a legsunyibb, mivel minden 3. percben kapcsolatba lépett a szerverekkel, függetlenül attól, hogy használták-e vagy sem. Ezért felmerül a kérdés, kinek éri meg jobban az okoseszköz? Nekünk, vagy a gyártónak, aki rengeteg személyes adathoz fér hozzá, amiket később eladhat reklámügynökségeknek vagy kutatócégeknek? Valószínűleg vannak, akiket nem zavar, hogy a cégek nem tisztelik a magánéletünket, de sokan nem szeretnének a tudtunk nélkül piackutatásokban részt venni.

(via)

A falnak is füle van: segít ezen a szabályozás?

Többek között az adatvédelmi fenyegetések ellen lépett hatályba 2018. május 25-én a GDPR (General Data Protection Regulation) törvény, amivel az EU egységesíteni szeretné az Unión belüli személyes adatok tárolására és felhasználására vonatkozó szabályokat. A szabályozás minden olyan EU-s vállalkozóra vonatkozik, aki valamilyen formában személyes adatokkal dolgozik, sőt azoknak is figyelniük kell a GDPR betartására, akik EU-s állampolgároknak biztosítanak szolgáltatásokat vagy termékeket, még akkor is, ha a cég nem az Európai Unión belül működik. Személyes adatnak tekinthető minden olyan információ a felhasználóról, amely alapján bárhogyan is, de beazonosítható a személy, például:

• név
• lakcím
• telefonszám
• e-mail cím
• IP cím és cookie adatok - bár ezek alapján nem egyértelműen azonosítható be egy természetes személy, de mégis bekerültek a személyes adatok csoportjába.

A GDPR megosztó, sokan túlzásnak tartják, ugyanakkor egy technológiailag fejlett világban élünk, ahol ezek a virtuális veszélyek kezdenek elhatalmasodni, így nem ártanak az óvintézkedések. 

Végül, gondoljunk bele abba, hogy egyre több ember takarja le a laptopján a kamerát, mivel elterjedt hiedelem, hogy valakik, valahonnan rácsatlakozhatnak a számítógépeinkre és figyelhetnek minket. A kérdés az, hogy ha ennyire szeretnénk megóvni az adatainkat és személyazonosságunkat, akkor miért nem olvassuk el az adatvédelmi szerződéseket? Pedig, ha vakon elfogadjuk ezeket, az talán nagyobb veszéllyel járhat, mintha nem fedjük le a webkameránkat.

A bejegyzés szerzője Sőregi Kitti, a BME KomMédia képzés alapszakos hallgatója. 

Kapcsolódó:

• Földi Paradicsom a 3. évezredben: ilyen az élet egy okos városban