Az adatok korában élünk, egy olyan világban, ahol az információk értéke felér az arannyal. A mesterséges intelligencia (AI) és a gépi tanulás (ML) új dimenziókat nyitottak meg a fejlődés, az elemzés és a döntéshozatal terén. De miközben ezek az eszközök hatalmas lehetőségeket rejtenek magukban, nem szabad figyelmen kívül hagyni az árnyoldalukat sem. Vajon tényleg megbízhatunk a gépekben? Hol húzódik a határ a fejlődés és a félreinformálás között? Ebben a cikkben az adatalapú technológiák sötétebb vetületeit, az AI-ra épülő veszélyeket és a társadalmi következményeket vizsgáljuk meg!

Az adatok a legfontosabbak és az AI hozzájuttathat

A The Economist már 2017-ben kijelentette, hogy az olaj helyett az adat vált a világ legértékesebb erőforrásává. Minden iparágban jelentős összegeket fektetnek be a szervezetek az adatokba és az elemzésekbe, és várhatóan ez a tendencia még folytatódni is fog. De az olaj témaköréhez hasonlóan az adatoknak, elemzéseknek és a mesterséges intelligenciának is megvan a „sötét oldala.”

Egy jelentés szerint az IT-vezetők 26%-a gondolja úgy, hogy a gépi tanulás (ML) és a mesterséges intelligencia (AI vagy MI) fogja a legtöbb IT-befektetést generálni. És bár az ML-algoritmusok által vezérelt intézkedések versenyelőnyt biztosíthatnak a szervezeteknek, a hibák sokba kerülhetnek a hírnév és a bevétel szempontjából is.

Miért hiszünk az AI-nak?

Egy nagyon elterjedt, ám téves feltételezés, hogy a gépek objektívek és mindent tudnak. Ez logikus is lenne, hiszen a gép nem ember, így nem tud hibázni, ugye? Nem elfogult, nincs politikai hovatartozása, nincs saját önös érdeke, amiért megtévesszen. Azonban ne feledjük el, hogy a mesterséges intelligencia mögött mégiscsak emberek és hatalmas cégek állnak. A mesterséges intelligencia nem létezik programozás és betanítás nélkül, amihez elkerülhetetlen az emberi részvétel. Ezzel persze nem azt mondjuk, hogy direkt rossz szándékkal programozzák be ezeket az eszközöket, de ahogy mindenben, itt is bőven van hibalehetőség.

Természetesen az is megzavarhatja az embereket, hogy a legtöbb mesterséges intelligencia segéd és asszisztens professzionális nyelven, magabiztosan szól hozzánk, ami már alapvetően a hitelesség érzetét kelti. Azonban itt jusson eszünkbe, hogy ez egy mesterséges dolog, egy gép, ami nem képes érzelmekre, így nem is tudja kifejezni bizonytalanságát sem.

Miért veszélyes ez?

Az ellenőrizetlen, mesterséges intelligencia által vezérelt dezinformáció következményei mélyrehatóak és a társadalmat is erősen befolyásolhatják. A Világgazdasági Fórum 2024. évi globális kockázatokról szóló jelentése a félretájékoztatást és a dezinformációt az elkövetkező évek súlyos fenyegetéseként azonosítja, kiemelve a belföldi propaganda és a cenzúra potenciális térnyerését.

A mesterséges intelligencia politikai visszaélése súlyos kockázatokat jelent, mivel a deepfake-ek és az AI által generált tartalmak gyors terjedése egyre nehezebbé teszi a választók számára az igazság és a megtévesztésre készült, hamis tartalmak megkülönböztetését, ami potenciálisan befolyásolhatja a választók viselkedését és alááshatja a demokratikus folyamatot. Ráadásul a közvélemény intézményekbe vetett bizalma is csökkenhet.

A mesterséges intelligencia által generált káros tartalmak megcélozhatnak meghatározott demográfiai csoportokat is. A nemi alapú félretájékoztatás például a sztereotípiákat és a nőgyűlöletet erősítheti, illetve még inkább elszigeteli a kisebb-nagyobb társadalmi csoportokat. Az ilyen megmozdulások manipulálják a közvéleményt, ezáltal széles körű társadalmi károkhoz vezetnek és elmélyítik a meglévő társadalmi szakadékokat. Ebből látható, hogy az AI nem csupán apró problémákhoz vezet, hanem alapjaiban megváltoztathatja a társadalom alakulását.

A téves információk terjedése különösen veszélyes lehet, ha az emberek vakon megbíznak az AI ajánlásaiban és információiban. Sokszor még hamis linkeket is tud generálni a rendszer forrásként, amik aztán sehová sem vezetnek, így mindenképp nyitott szemmel kell járni és nem feltétel nélkül elhinni, amit állít. Komoly témákban pedig semmiképp se hagyatkozzunk csupán a mesterséges intelligenciára! Nem érdemes egészségügyi diagnózist felállítani a segítségével vagy üzleti döntéseket hozni, akármennyire is megkönnyítené ez a mindennapjainkat.

A leggyakoribb nehézségek az AI-hoz kapcsolódóan

Amennyiben viszont hiszünk az AI-nak, felmerülhet, hogy kinek is a felelőssége ez? Az emberek hajlamosak azt mondani: „az AI állította”, így nem vállalnak felelősséget, még akkor sem, ha ők hozták meg a döntést. Ez különösen problémás egészségügyben, rendvédelemben vagy pénzügyi döntéseknél. Amíg nem lesz egyértelmű szabályozás, ami eldönti, ki felelős az AI kijelentéseiért (A megbízó? A fejlesztő? A felhasználó cég?), addig valószínűleg nem is lesz egyetértés ebben a kérdésben.

Az AI-ra való rendszeres támaszkodás ráadásul olyan alapvető készségeket is elrabolhat tőlünk, mint a döntések meghozása. Nem szabad mindenben segítséget kérni, mert ez elveheti az önbizalmat és egyéb mentális problémákat is előidézhet. Egyes szakmákban azért is veszélyes, mert a szakértők elveszíthetik a szakmai önbizalmukat, ha folyamatosan arra kényszerülnek, hogy „versenyezzenek” vagy együttműködjenek egy látszólag mindentudó rendszerrel. A másik oldalról, az oktatás területén pedig rengeteg készség kimarad a diákok életéből, ha az AI-ra támaszkodnak teljes körűen a kreatív ötletelés, a fogalmazások és egyéb feladatok terén.

Maradj Te is a kritikus gondolkodásnál, amit remekül kisegíthet időnként az AI!

A mesterséges intelligencia nem önálló gondolkodó, hanem egy betanított rendszer, amiből hiányzik az emberi faktor. Éppen ezért különösen fontos, hogy kritikusan gondolkodjunk, és ne tekintsünk rá tévedhetetlenként és mindentudóként. A vak bizalom helyett felelősségteljes használatra van szükség, legyen szó hétköznapi döntésekről, oktatásról, pénzügyekről vagy politikáról. Az AI lehet hatékony eszköz, de csak akkor, ha az irányítás továbbra is a mi kezünkben marad. Ne engedjük, hogy a technológia diktáljon, inkább tanuljunk meg együtt élni vele, okosan és tudatosan.

Forrás: https://www.weforum.org/stories/2024/06/ai-combat-online-misinformation-disinformation

https://www.cio.com/article/190888/5-famous-analytics-and-ai-disasters.html