Jurassic Park, avagy mi van, ha téged üt el egy AI vezérelte önvezető autó?
2024. május 02. írta: Kerékgyártó Gábor (HÁRFA Alapítvány)

Jurassic Park, avagy mi van, ha téged üt el egy AI vezérelte önvezető autó?

jurassicpark_gate.jpgTudtad, hogy a dinoszauruszoknak a felelőségteljes innováción keresztül köze van a városfejlesztéshez? Ha nem, akkor olvasd el blogcikkemet, és megtudhatod, hogy mi köze van egy science fictionnek korunk városait átformáló innovációkhoz.

Dinoszauruszrajongó gyerekként a Jurassic Parkot nézve szuper jó ötletnek tartottam, hogy életre keltettek pár dínót, akiket meg lehetett tekinteni egy állatkertként kialakított szigeten. Persze a kezdeti lelkesedés a film végére rettegésbe csapott át, és elgondolkoztam azon, hogy lehet, mégse kellett volna a dinoszauruszokat feléleszteni. Megmaradtam tehát a hüllők szereteténél, talán jobb így, hogy nincs otthon egy pici T-Rexem.

Stephen Spielberg 1993-as Jurassic Parkja – a film Michael Crichton 1990-es regénye alapján készült – a szórakoztatás mellett nem riadt vissza attól, hogy olyan témákat feszegessen, mint a korlátlan vállalkozói szellem és a felelőtlen innováció veszélyei. A történet megszületésének hátterében az állt, hogy a korszak tudósai egyre közelebb kerültek a DNS manipulációhoz, és mind a könyv, mind a film megragadta azokat a felmerülő aggodalmakat, hogy mi történik akkor, ha az ember „Istent” játszik – amiről a film egyik jelenetében viccesen így beszélgetnek:

  • „Isten dinoszauruszokat teremt, Isten elpusztítja a dinoszauruszokat. Isten teremti az embert, az ember elpusztítja Istent. Az ember dinoszauruszokat hoz létre.” (Dr. Ian Malcolm)
  • „A dinoszauruszok megeszik az embert... A nő örökli a földet." (Dr. Ellie Sattler)

Mi is az a felelőségteljes innováció?

A felelőségteljes innováció témaköre nagyon is aktuális a városfejlesztés területén is. Nem azért, mert attól kellene tartani, hogy dinoszauruszok fogják letarolni városainkat, hanem azért, mert olyan fejlődő technológiák, mint például a mesterséges intelligencia (AI), az önvezető járművek (AV) vagy a Big Data jelentős mértékben át fogják alakítani városainkat. A kimenetel pedig kétesélyes: a technikai innovációk megoldást nyújthatnak a társadalmi és környezeti kihívásainkra, a regionális egyenlőtlenségek kezelésére, de akár társadalmi, gazdasági vagy környezeti katasztrófát is eredményezhetnek.

A felelősségteljes innováció (Responsible Research and Innovation) arra hívja fel a figyelmet, hogy a K+F+I tevékenységnek lehetnek olyan nem szándékolt mellékhatásai, amelyek a kutatók eredeti motivációitól eltérően negatív hatást gyakorolnak az emberiségre. A folyamat nagy hangsúlyt helyez az innováció lehetséges társadalmi, etikai és a környezeti hatásainak azonosítására és értékelésére.

Munkám során az Interreg Central Europe által támogatott GINEVRA projekt (Governance of transformative innovation in Central European cities: the AV case) keretében ismerkedtem meg a felelőségteljes innováció fogalmával. A projekt célja, hogy megerősítse a kis és közepes méretű városok kapacitásait a transzformatív innovációk felelős, többszintű kormányzásában – az autonóm járművek példájából kiindulva.

Az AV az egyik olyan innováció, amely drámai módon megváltoztathatja életmódunkat. Optimális alkalmazásuk érdekében a hatóságoknak át kell gondolniuk, hogy az ehhez hasonló transzformatív innovációk hogyan vezethetnek biztonságos, fenntartható, emberbarát jövőhöz a városokban. A szakmai érintetteknek és maguknak a lakosoknak is bele kell szólniuk az ilyen típusú innovációk valós környezetben történő alkalmazásába, ez pedig új városirányítási modellek kialakítását teszi szükségessé.onvezeto_auto.jpgA jövő önvezető autója

Az önvezető autók etikai kérdései

Az önvezető járművek bevezetése számottevő előnyökkel járhat majd, de számos új kockázatot, etikai dilemmát is rejthet magában többek között a közlekedésbiztonság, a jogi felelősség, a kiberbiztonság, az adatvédelem és az adathozzáférési kérdések, a műszaki infrastruktúra tekintetében, amelyeket a felelőségteljes innováció folyamata során át kell gondolni.

A vezető nélküli autókkal kapcsolatos legfőbb etikai dilemma az úgynevezett trolley probléma (magyarul kb. „villamos dilemma”). A filozófiai-pszichológiai gondolatkísérlet alapkérdése, amelyet gyakran emlegetnek az önvezető járművekkel kapcsolatos etikai kételyek példájaként, hogy fel kell-e áldozni egy alapesetben biztonságban lévő embert több ember megmentése érdekében.trolley_problem.jpg

A villamos probléma

Az önvezető autók szempontjából a nagy kérdés az, hogy jogi és morális értelemben elfogadható-e, ha egy veszélyhelyzetben (jelen esetben egy közlekedési baleset során) a program rendszerszinten kedvező kimenetelt biztosít bizonyos élőlényeknek (valamilyen szempont alapján), míg másokat pedig a védendő élet szempontjából másodrendűnek tekint.

A MIT munkatársai létrehoztak egy Moral Machine elnevezésű online felületet, ahol a felhasználók többek közt az önjáró autókra váró döntési helyzetben – Ha már baleset történik, ki élje túl? – választhatják ki a szerintük jó döntést.

A nagyszámú kitöltés (a világ szinte összes országából összesen mintegy negyvenmillió válasz érkezett) többé-kevésbé univerzális eredményt hozott. Az emberek kulturális, demográfiai jellemzőitől függetlenül általában 3 fő elv mentén döntöttek: az emberi életet az állatokénál értékesebbnek, az idősebb áldozatot követelő balesetet elfoghatóbbnak, a több ember halálát követelő ütközést pedig súlyosabb tragédiaként ítélték meg. A MIT ábráján a lista tetején a leginkább védendő, a lista alján pedig a legkevésbé óvandó életet látjuk. Tanulságos, hogy a válaszadók szerint egy bűnöző élete kevesebbet ér, mint egy kutya élete.mit_picture.pngMIT – Moral Machine eredményei

5 lépés, hogy ne essél John Hammond hibájába

Hogyan biztosíthatjuk tehát, hogy az innovációval kapcsolatos jó szándék olyan új ötletekhez és innovációkhoz vezessen, amelyekkel elérhető az eredeti célkitűzés anélkül, hogy szükségtelen károkat okoznának? Melyek azok a lépések, amelyeket John Hammondnak, a Jurassic Park megálmodójának meg kellett volna tenni, mielőtt dinoszauruszokat klónoz és létrehozza a Jurassic Parkot? Valószínűleg már az alapötletet kellett volna elvetnie, de ha mindenáron meg akarta valósítani az álmát, érdemes lett volna tanulmányoznia Andrew Maynard öt kockázat csökkentési szabályát:

Beszélj róla!A felelőségteljes innováció első szabálya, hogy beszélni kell az innovációról. Jelentős változást eredményez, ha időt szánsz arra, hogy megvitatod másokkal az újítás célját és tartalmát, valamint azt, hogy hogyan lehetsz a legnagyobb mértékben felelőségteljes.

Gondolkozz!Gondold végig, hogy az adott innovációnak milyen nem szándékolt negatív társadalmi és etikai következményei lehetnek, és hogyan tudod ezeket megelőzni vagy mérsékelni.

Fontold meg! Fontold meg, mi a fontos számodra, és azok számára, akiket az innovációd érint. Gondold át, hogyan maradhatsz hű értékeidhez, miközben tiszteletben tartod másokét is.

Vond be!Gondold át, hogy a tervezett innovációd esetleg kizár-e vagy diszkriminál-e bizonyos társadalmi csoportokat. Amennyiben igen, keress alkalmat arra, hogy együtt dolgozz velük annak érdekében, hogy ez ne forduljon elő.

Tervezz!Tervezd meg előre, hogyan fogod kezeli az innováció elkerülhetetlen, gyakran váratlan hátrányait. Gondold át, hogy ha ezek bekövetkeznek, hogyan korrigálod azokat.

A lényeg mindig a negatív következmények csökkentésén van

Természetesen senki sem szeretne felelőtlen innovációkat létrehozni. A legtöbb tudós, feltaláló problémákat akar megoldani, javítani szeretne a mindennapi életen, jobb hellyé akarja tenni a világot. E jó szándékok ugyanakkor gyakran kárt okoznak, ha az ideálisnak tűnő tervek meghiúsulnak vagy figyelmen kívül hagyják az innováció járulékos hátrányait. A mai, egyre összetettebb és összekapcsoltabb világban bármilyen innovációnak lehetnek árnyoldalai és előnyei is. Ha a fenti lépéseket a kutatók és az innovátorok betartják, akkor biztosítható, hogy az innovációk végül több hasznot hozzanak, mint kárt okozzanak. A felelőségteljes innovációval, valamint a GINEVRA projekttel kapcsolatos további információkért kattints az alábbi linkekre:

What is Responsible Innovation? A Practical Guide – (92) What is Responsible Innovation? A Practical Guide - YouTube

Sci-fi movies are the secret weapon that could help Silicon Valley grow up – Sci-fi movies are the secret weapon that could help Silicon Valley grow up (theconversation.com)

Moral Machine – Moral Machine

GINEVRA – Introducing transformative innovations safely (interreg-central.eu)

A bejegyzés trackback címe:

https://urban21.blog.hu/api/trackback/id/tr2218395063

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása