Az online játékosok akaratlanul járultak hozzá az AI fejlesztéshez?
Manapság már nem lepőhetünk meg azon, ha az online tevékenységünket szorosan követik a cégek. Minden felülethez és applikációhoz tartoznak felhasználási feltételek, amiket a legtöbben átolvasás vagy gondolkodás nélkül csak elfogadnak. És bizony ezzel hozzájárulhatunk olyan dolgokhoz is, amire nem is gondolnánk. Vegyük példának a Pokémon GO játékot, amely kapcsán felmerült, hogy a játékosok akaratlanul is beleegyeztek egy mesterséges intelligencia eszköz betanítására.
Először is: mi az a Pokémon GO?
Röviden a lényeg: a Pokémon GO egy téralapú, kiterjesztett valósággal dolgozó játék, amelyben a való világban sétálva gyűjtünk és csatáztatjuk a pokémonokat. A játék fizikailag is mozgásra ösztönöz, miközben virtuális karaktereket jelenít meg a telefon képernyőjén a környezetünkben. A játékosok különféle valós helyeken gyűjtenek tárgyakat és harcolnak egymás karaktereivel, miközben saját pokémonjaikat is fejlesztik. A játék rendkívül népszerű volt a megjelenését követően, és még ma is aktív közösségek vannak.
Tagadhatatlan, hogy a Pokémon GO lenyűgöző eredményeket ért el: indulása óta a játék több mint egymilliárdszor került letöltésre világszerte. A debütálás is erős volt: már a megjelenés első negyedévében meghaladta az 508 millió letöltést.
Jöhetnek a nagyméretű térinformatikai modellek?
A Pokémon GO egyik fejlesztő cége, a Niantic bejelentette, hogy játékosai által gyűjtött több millió adat felhasználásával egy olyan mesterséges intelligenciát hoz létre, amely képes eligazodni a valódi világban. Tulajdonképpen egy „nagy térinformatikai modellt” építenek. Magyarázatuk szerint ez a név közvetlen utalás a nagy nyelvi modellekre (LLM), mint például az OpenAI GPT-je, amelyeket hatalmas mennyiségű adat alapján tanítanak be a természetes nyelv feldolgozása és előállítása érdekében.
A nagyméretű térinformatikai modell (LGM) egy olyan technológia, amely elvileg lehetővé teszi a számítógépek számára nemcsak a fizikai terek érzékelését és megértését, hanem az azokkal való újfajta interakciót is, ami az AR-szemüvegek és azon túli területek (például a robotika, a tartalomkészítés és az autonóm rendszerek) kritikus elemét képezi. Ahogy a telefonokról a való világhoz kapcsolódó, viselhető technológiákra térünk át, a térbeli intelligencia lehet a jövő operációs rendszere.
Egy ilyesfajta AI-modell a világ minden tájáról származó több millió, adott lokációhoz kapcsolódó képpel történő betanítással képes lehet megjósolni a közvetlen környezetet ugyanúgy, ahogy egy nagy nyelvi modell képes összefüggő és meggyőző mondatokat alkotni azáltal, hogy statisztikailag meghatározza, hogy melyik szó valószínűleg követi a másikat.
No de vajon honnan származhatnak az adatok, amiket a Niantic használ a fejlesztéshez? A cég több mint 10 millió beolvasott helyszínt használ, ezek közül több mint 1 millió aktív és elérhető a VPS számára. Hetente pedig körülbelül 1 millió új, több száz képet tartalmazó beolvasást kapnak a játékosoktól és a Scaniverse app használatából. Ráadásul a Niantic által gyűjtött adatok egyediek, mert gyalogos perspektívából származnak, vagyis olyan tereket fednek le, amelyeket más adatforrások nem. Ugye ismerős a Google térképe? Bizony frusztráló tud lenni, hogy nem mindenhol tudunk körülnézni vele, hiszen az autó nem megy végig mindenhol, gyalogosan nagyobb a felfedezhető rész.
Botrányokból nincs hiány
A Pokémon GO nemcsak az utóbbi időben, az adatvédelmi és felhasználási aggályok miatt került reflektorfénybe. Számos eset volt, ahol a játék komoly problémákat okozott. Például a kiterjesztett valóság világában teljesen elveszett játékosok figyelmetlensége több közlekedési balesetért is felelt: egyes, a játékban kiemelt helyszínek közelében jelentősen megnőtt a balesetek száma. Egy indiana megyei felmérés szerint a játék bevezetését követő 148 nap alatt egy ilyen helyen 134 extra autóbaleset történt, melyek közül néhány halálos kimenetelű volt. Feltételezett, hogy a játék 47%-ban felelt a balesetek növekedéséért ezen körzetben. Becslések szerint az egész Egyesült Államokra vetítve akár 145 000+ baleset, 29 000 sérülés, valamint 250 haláleset és 2–7,3 milliárd USD anyagi kár is köthető lehet a Pokémon GO használatához autóvezetés közben.
A balesetek mellett a hirtelen egybegyűlő tömegek és az ehhez kapcsolódó nehézségek is gondot jelentettek. Tajvanban előfordult egy eset, amikor több ezer játékos rohamozott meg egy városrészt, hogy egy ritka pokémont elkapjon. És ha még nem döbbentél meg eléggé, akkor folytatjuk tovább a sokkolást, mi mindent váltott ki ez a játék: 2018-ban, Missouri államban egy apa és fia egy másik játékossal keveredett szóváltásba, ami fizikai erőszakig fajult. Mindezt azért, hogy övék lehessen a pokémon edzőhely a játékban. A durva esetről videó is készült és a bíróság végül harmadfokú testi sértés miatt találta bűnösnek az apát és a fiút. Mellesleg megemlítenénk, hogy az apa 75 éves volt, a fiú pedig 33, így nem egy kisgyermekes családra kell gondolni, akik túlságosan beleélték magukat a játékba.
A bűnözőknek sem tartott sokáig, hogy kihasználják a lelkes játékosokat: a játékban népszerű, kiemelt pontok közelében csalikat helyeztek el, majd az odaérkező gyanútlan játékosokat fegyverrel akarták kirabolni.
Katonai vonatkozás is van?
A mesterséges intelligencia már most is jelentős szerepet játszik a hadviselésben és a hírszerzésben, és a jövőben várhatóan még nagyobb súllyal fog megjelenni ezen a területen. Az AI tekinthető „forradalomnak” is a hadviselés és az információszerzés világában, és vannak országok, ahol büszkén vállalják, hogy már most is használják a technológiát, sőt, folytatni is fogják az alkalmazását, hogy versenyelőnyük legyen. Az amerikai védelmi minisztérium is nyilvánosan támogatja a mesterséges intelligencia katonai felhasználását, amennyiben az felelősségteljes módon történik. A Pokémon GO kapcsán is felmerült katonai vonatkozás: egy fehérorosz tisztviselő azt állította, hogy a játék valójában a nyugati hírszerzés eszköze lehet. Hogy miért és hogyan? A játék fejlesztője, a Niantic, amerikai cég. Amikor a játék 2016-ban megjelent, az Egyesült Államokban valóban akadtak olyan katonai bázisok, ahol a katonák szolgálat közben is játszottak vele. Egy bázisnak végül ki kellett adnia az utasítást, hogy a személyzet „NE üldözzön pokémonokat” tiltott vagy ellenőrzött területeken, irodákban, illetve a bázison lévő lakóépületekben. Ez jól mutatja, hogy a digitális játékok és a mesterséges intelligencia világpolitikai, katonai és biztonsági összefüggésekben is felbukkannak, gyakran váratlan és ellentmondásos módon. Arról nem is beszélve, hogy mennyire rávilágít az eset annak fontosságára, hogy a munkaerőt minden területen oktatni kell az internetbiztonságra és adatvédelemre, hogy az ilyen esetek elkerülhetők legyenek – ugyanis nem igazán előnyös, ha egy katonai bázis alaprajza lekérhető a netről, hála a lelkes pokémonvadász alkalmazottaknak.
A közvélemény hogyan látja a helyzetet?
A Reddit felületén rengeteg komment érkezett a témához kapcsolódóan, ami megvilágítja a különböző álláspontokat. A hozzászólások szerint a játékosok a tudtuk nélkül segítették a céget, tehát kijelenthető, hogy a legtöbben nem voltak tisztában vele, hogy az adataikat milyen módon fogják felhasználni, és hogy ebből akár hasznot is szerezhet a cég egy nem várt módon. Többen úgy gondolták, hogy nem véletlen, hogy tudatlanságban tartották őket, hanem a Niantic üzleti modelljének része: egy játékba ágyazott adatgyűjtő mechanizmus, amely a játékosok aktivitására épített. Volt, aki úgy nyilatkozott, hogy abban az esetben, ha valami ingyenes, akkor is kell árat fizetni – ebben az esetben pedig az ingyen játszható különleges játéknak az volt az ára, hogy a felhasználói tevékenységet alkalmazzák egy nagyobb projekthez, direkt beleegyezés kérése nélkül. Nyilván itt meg kell említeni ismét, hogy a későbbi felhasználást okosan bele lehet fogalmazni a használati feltételekbe, amiket vagy manuálisan kipipálva, vagy a használattal automatikusan elfogad a felhasználó. Emiatt nem nagyon tehető hivatalos panasz. Az már más kérdés, mennyire etikus a sötétben tartani az embereket és úgymond „kihasználni” őket. Sokak szerint ez furfangos technológiai megoldás volt a cég(ek) részéről, amivel nem is lehet vitatkozni. Viszont érdekes meglátás az is, hogy több hozzászóló szerint a telefonjuk GPS-e azért nem működik hibátlanul és időnként akár 10-100 méterrel odébb is mutathatja a jelet, mint ahol a valóságban vannak, így a megbízhatóság is jó kérdés.
Számos kommentelő szerint egyébként a felhasználási feltételekben szó esett arról, hogy adatokat gyűjtenek, így nem teljesen meglepő ez a fejlemény. És bár kevésbé dominált ez a vélemény, néhány komment felhívta a figyelmet arra, hogy a játék során városi terek, akár emberek közelében készült felvételek is szerepelhetnek, ami adatvédelmi kérdéseket vethet fel, hiszen ők nem járultak hozzá a szerepléshez.
Végső ítélet: tudatos hozzájárulás vagy akaratlan segítség?
Igazából maga az ötlet és a technológia nagyszerű, a kérdés inkább az, hogy mennyire volt tudatos a felhasználók részéről, hogy a beküldött képekkel egy ilyesfajta fejlesztéshez járulnak hozzá és esetlegesen újra fel lesznek használva a fotóik. A válasz az, hogy senki sem tudta, amikor 2016-ban letöltötte a Pokémon Go-t, hogy egy nap ez az adat a mesterséges intelligencia tréningjéhez is hozzájárul.
Annak kapcsán, hogy szerepelt-e az adatgyűjtés a felhasználási feltételekben vagy az adatvédelmi nyilatkozatban, sok cikket lehet találni az online térben. A Jaburg Wilk ügyvédi iroda végzett egy részletes elemzést, miszerint a Pokémon GO Felhasználási Feltételei (Terms of Use) valóban tartalmaztak adatgyűjtésre vonatkozó rendelkezéseket. Ezek többek között a játékba külső fiókokkal (Google, Facebook stb.) történő bejelentkezéséhez szükségesek, emellett a cég hozzáférhet bizonyos adatokhoz, mint mondjuk az e-mail cím. Az Adatvédelmi Szabályzat (Privacy Policy) pedig világosan kimondja, hogy személy azonosítására alkalmas információkat (pl. IP-cím, eszközazonosító, helyadatok) gyűjtenek. És ehhez bizony hozzátartozik a GPS-alapú helyinformáció is, amely a játék működéséhez szükséges.
Mikor a kiderült, hogy a Niantic valóban felhasználta a játékosok által készített térképezési adatokat az LGM-hez kapcsolódó AI-kutatásra, akkor többen is alaposan utánajártak a témának és az is világossá vált, hogy habár az adatgyűjtés ténylegesen szerepel a feltételekben, a későbbi tervek az adatokkal egyáltalán nem voltak egyértelműen jelezve a játékosok felé. A cég ezután hangsúlyozta, hogy a térbeli adatgyűjtés önkéntes, és nem történik meg pusztán játék közben, csak akkor, ha a felhasználó kifejezetten szkennelést indít egy helyszínen.
Tanulságok és jövőbeli kérdések
A Pokémon GO története jól mutatja, hogy felhasználóként résen kell lenni, mert az egyes felületekhez, eszközökhöz vagy akár játékokhoz tartozó felhasználási feltételek és adatkezelési szabályok olyan kitételeket tartalmazhatnak, amikre elsőre nem is gondolnánk. Egyfelől lenyűgöző, hogy egy játék segítségével hatalmas mennyiségű, egyedülálló adatot lehet összegyűjteni, másfelől viszont felmerül a kérdés, mennyire etikus a sötétben tartani a felhasználókat. A jövőben elengedhetetlen lesz, hogy tisztábban kommunikálják a cégek, mire használják fel az adatokat, hiszen az átláthatóság egyre lényegesebb szerephez jut egy márka megítélésében. Emellett pedig a felhasználóknak is tudatosabban kell kezelniük saját digitális jelenlétüket.
Ha érdekesnek találtad ezt az esettanulmányt, akkor nézd meg könyveinket, ahol valós példák, tanulságos esetek és gyakorlatias megközelítések várnak rád: kozossegi-media.com/koenyveink
Források:
https://www.404media.co/pokemon-go-players-have-unwittingly-trained-ai-to-navigate-the-world/
https://press.pokemon.com/en/POKEMON-GO-EXCEEDS-500-MILLION-DOWNLOADS-WORLDWIDE
https://www.techtarget.com/whatis/definition/ChatGPT
https://www.owebest.com/blog/pokemon-downloads
https://www.androidpolice.com/how-to-get-started-in-pokemon-go/
https://www.slashgear.com/1882993/pokemon-go-players-trained-ai-model-details/
https://arstechnica.com/gaming/2017/11/study-pokemon-go-led-to-increase-in-traffic-deaths-accidents/
https://time.com/4460911/pokemon-go-taipei-stampede-snorlax-mob-xinbeitou-taiwan
https://apnews.com/article/technology-missouri-dfa615b3642828f9b11a5eccec7c38bc
https://www.teenvogue.com/story/pokemon-go-armed-robbery
https://www.pcmag.com/news/ever-played-pokemon-go-you-helped-train-an-ai-for-spatial-intelligence
