bezár
 

irodalom

2019. 04. 25.
Huszonegyedik #5
Villamos-dilemma új köntösben: az önvezető autók
Tartalom értékelése (0 vélemény alapján):
A sorozat elmúlt részei erősen érveltek amellett, hogy a cselekvőképesség nem csak az emberek kitüntetett tulajdonsága. Eszerint ha elismerjük a nem-emberek cselekvéseit is, nem csak valóságosabb képet kapunk a világ működéséről, sőt, nem csak visszaírjuk az embert egy olyan hálózatba, amiben mindig is volt, hanem egy etikailag is védhetőbb álláspontot alakíthatunk ki a globális felmelegedés és az általános digitalizáció korában. Ez az elképzelés nem csak okos-eszközeinket tartja cselekvésre képesnek, hanem egyszerűen mindent. Hiszen ezáltal ahelyett, hogy azt gondolnánk, mi ülünk egyedül a kormányrúdnál (és nem tesszük fel a kérdést: mire képes egy kormányrúd?), vagy hogy mi vezetjük az engedelmes autókat, felismerhetővé válik, hogy maga az irányítás is az autó (alkatrészei), az út és a mi összjátékunk eredménye. Azonban szem előtt tartva, hogy sokan megmaradnak egy antropocentrikus, modernista elképzelésnél, ami elhibázottnak és rémisztőnek tartja a cselekvőképesség vázolt kiterjesztését, ezúttal egy olyan szöveget közlünk, ami az önvezető autóktól is megtagadná, hogy polgárjogot nyerjenek a cselekvők közösségében. A huszonegyedik legújabb részében Véber Virág írása vitatkozik a sorozat eddigi alapfeltevéseivel.

Az önvezető autók ugrásszerűen megnövekedett népszerűségének egyik fő oka feltehetőleg az az előny, amelyekre a XXI. század emberének oly nagy igénye lett: kevesebb haszontalan, stresszes vezetéssel eltöltött idő. Emellett nem kell döntenünk, hogy iszunk vagy vezetünk, illetve ha fáradtan kell autóba ülnünk, nem gond, ha elbóbiskolunk a volán mögött. A kényelem mellett az önvezető autók használatától azt is várjuk, hogy drasztikusan csökkenjen a közlekedési balesetek és halálesetek száma azáltal, hogy kivesszük a rendszerből az emberi hiba lehetőségét. Azonban a gép sem tévedhetetlen, és a közúti baleset műfaja sem most, sem – ha egyáltalán eljön ez az idő – az önvezető autók korában nem lesz fekete-fehér: egy-egy baleset morális vetülete sokkal összetettebb, mint elsőre gondolnánk. Mennyit ér öt ember élete egy ember életével szemben? És egy ember élete egy kutyáéval szemben? Az önvezető autók megjelenése a döntési helyzetek egy egészen új dimenzióját nyitja meg előttünk: kinek az élete ér többet, etikus-e egyáltalán az életek rangsorolása, és mennyiben tekinthetünk cselekvőként az önvezető autókra?

Talán nem is gondolták volna a Knight Rider alkotói a sorozat 1982-es debütálása idején, hogy mennyire fontos témába tenyereltek bele, és hogy közel 30 év elteltével számos olyan autó vehet részt a közlekedésben, mint Michael Knight KITT-je. KITT egy olyan önvezető autó, amelyet mikroprocesszorok irányítanak, és amelyek teljesen kiküszöbölik a legkisebb hiba vagy összeütközés lehetőségét, hacsak a pilóta nem utasítja másképpen. A maga módján gondolkodik – ezzel szemben fejezte ki nem tetszését Michael Knight már a sorozat első évadjának első részében: egy autó ne vezessen őhelyette! KITT minden körülmény között az emberi életet védi – no de kiét?

KITT

Gondoljunk egy egyszerű kérdésre: hogyan közelítsen meg egy önvezető autó egy gyalogátkelőhelyet? A Massachusettsi Műszaki Egyetem (MIT, Massachusetts Institute of Technology) kutatói mondhatni erre a kérdésre alapozva indították el a Moral Machine névre keresztelt projektet, ami egy olyan online kísérleti platform, ahol a válaszadónak adott szituációkban kell döntenie arról, hogy ha az önvezető autónak mindenképpen el kell ütnie valakit/valakiket, akkor kit/kiket válasszon, hagyjon életben. A válaszadó előtt minden esetben két választási lehetőség áll: például választhat idős és fiatal, ember és állat, törvénytisztelő állampolgár és bűnöző, nők és férfiak, több élet és egy élet között – s így kapcsolódunk a klasszikus villamos-problémához. Ezt Philippa Foot, brit filozófus 1967-ben találta ki: egy elszabadult villamos száguld egy olyan vágányon, amelyen öt ember van lekötözve. A villamos mindenképpen halálra gázolja az öt embert, ha ugyanarra halad tovább, viszont egy váltó segítségével elterelhetjük egy másik sínre, ahol azonban egy szintén lekötözött ember fekszik. Használjuk-e a váltót a kevesebb számú (öt helyett egy) áldozatra  hivatkozva, egyúttal vállalva a beavatkozást a szerelvény eredeti útvonalába? Tegyük fel, hogy az autó váratlanul műszaki hibát észlel, de képtelen megállni. Ha tovább halad, elüt öt, zebrán átkelő gyalogost, de elkanyarodhat, s így egy bámészkodót gázol halálra, ezzel megóvva az öt gyalogost. Mit tegyen a kocsi, és ki döntsön róla?

gyalogos

Cornelia Vismann Kultúrtechnikák és szuverenitás című írásában az alábbi gondolat kap centrális szerepet: „Világos, hogy a kultúrtechnikai megfigyelés során a szuverén szubjektum elveszti hatalmát, és helyette a dolgok válnak cselekvőképessé.” Vismann szerint „[...] az engedelmes tárgyak és szolgálatkész eszközök passzív létmódját a médiumok és dolgok egyaránt maguk mögött hagyják, vagy egyenesen felszabadulnak alóla.” Megfontolandó az általa kifejtett gondolatmenet, ugyanakkor úgy érzem, ez egyúttal annak a veszélyét is hordozza, hogy az embernek gyakorlatilag semmi felett ne legyen hatalma. Ami korunk technológiái mellett rémisztő gondolat. Az tagadhatatlan, hogy függünk a tárgyainktól és eszközeinktől, de éppen ezért kellene elkerülni a teljes alárendeltségi viszonyt. Vismann és a kortárs médiaelmélet, az ooo (Object Oriented Ontology), vagy a Latour-féle cselekvőhálózat-elmélet a dolgok „emancipációján” fáradozik, felismerve azok potencialitását – ám félő, hogy eközben elfelejtkezik az emberi cselekvés lehetőségeiről és annak moralitásáról. Hiszen még mindig én vagyok az, aki beindítja az autót, aki bekapcsolja a telefont, stb. 

vismann

Nincs ez másképp az önvezető autóknál sem: sosem lesznek mindentudók, és nem fogják helyettünk meghozni a döntéseket. Nem hinném, hogy a gépeket fel lehet ruházni erkölcsiséggel, hiszen eleve a morális ítélkezés gyakorlata nem illeszkedik a mesterséges intelligencia bármely formájához. Adott egy cselekedet, amely alapján hibáztatunk, illetve büntetünk, vagy dicsérünk: hogyan fog működni ez egy önvezető autónál? Hogyan leszünk képesek megbüntetni egy gépet? Attól, hogy egy adott eszközben fut valamilyen program – amit egy ember programozott bele –, attól még nem lesz cselekvőképes, ahogy például Vismann hangsúlyozza.

És ha már döntési helyzetekről és azok következményeiről beszélünk, megkerülhetetlen a kérdés: de akkor kié lesz a felelősség? Egyelőre ebben sincs konszenzus a tudósok között, de néhányan azt az irányt javasolják, hogy a felelősség az adott rendszer tervezőit, programozóit terhelje – ezzel azonban az úgynevezett csúszós lejtő területén találjuk magunkat. Azaz a problémát csak elodázzuk. Gondoljunk azokra a repülőgépkatasztrófákra, amelyek az elmúlt fél évben történtek a Boeing 737 Max típusú gépekkel: a gépek robotpilótái egy szenzor meghibásodása miatt esés veszélyét érzékelve elkezdték lefele nyomni a gépek orrát – itt ki a felelős? A szenzor tervezője? A légitársaság, mert a pilóták nem kaptak megfelelő tájékoztatást arról, hogy hogyan vehetik vissza az irányítást a robotpilótától? Egyik esetben sem egyértelmű a válasz. 

Továbbá ne felejtsük el, az önvezető autók térhódításával potenciálisan mi is lehetünk az az egy bámészkodó, akit elüt, hogy megmentse az öt gyalogos életét a zebrán… Valószínűleg tökéletesen biztonságos technológia sosem lesz, és jelenleg még mérce sincs arra vonatkozóan, hogy azt mondhassuk, ez már elég biztonságos.

Technológiai csoda ide vagy oda, hiába hízik az előnyök listája (nem kell órákat vezetéssel eltöltenünk, nem kell eldönteni, hogy iszunk vagy vezetünk, és így tovább), egy fontos dologról mindenképpen le kell mondanunk, ami a mai autóreklámok egyik legnagyobb aduásza: a vezetés élményéről. Márpedig magabiztosabbak, éberebbek, figyelmesebbek vagyunk, ha úgy érezzük, a döntés a mi kezünkben van, és tőlünk függ, hogyan alakulnak a dolgok

– még ha ez nem is mindig van így. A kontrollvesztettség érzése kellemetlen, bizonytalanságot ébreszt bennünk, a biztonságérzet megszűnéséhez vezet, frusztrálttá, szorongóvá válhatunk ilyen szituációkban. Ezért gondolom, hogy amikor egyre inkább ráhagyatkozunk a körülöttünk lévő eszközökre, talán még érthetőbbé  válik Michael Knight kifakadása: egy autó ne vezessen helyettem! Vagy készüljünk fel a bizonytalanságra…

video

 

Irodalom

Cornelia Vismann, Kultúrtechnikák és szuverenitás, Tiszatáj 71/2. szám, 60-67. 2017
Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect, In: Virtues and Vices, Oxford: Basil Blackwell, 1978
nyomtat

A prae egy több mint húsz éves történettel rendelkező brand, aminek növekedését és fejlődését most Ön is segítheti. Célunk, hogy minél több emberhez eljussanak a kultúráról való gondolataink és az ezt tartalmazó termékeink - akár az online portál cikkei, a különböző folyóiratszámok vagy a könyveink. A kooperációt nem szeretnénk viszonzatlanul hagyni: a különböző támogatásokért igyekszünk azzal egyenértékű köszönetet mondani.

Szerzők

-- Véber Virág --

Filozófus, az ELTE-BTK Filozófiatudományi Doktori Iskola tagja, fő kutatási területe: morális felelősség, implicit előítéletek.


További írások a rovatból

irodalom

Amikor egy csapat művész öt napra elfoglalja Kámot Amikor egy csapat művész öt napra elfoglalja Kámot
Ilyen volt a III. Nyolc Ág Művésztábor
Dékány Dávid: Dolgok C-hez

Más művészeti ágakról

art&design

Fém és méhviasz, vagy új helyünk a természetben Fém és méhviasz, vagy új helyünk a természetben
Horváth Gideon – I put my hand into a beehive
A Fausttól a Szívlapátig. Kortárs könyvek a középiskolában


bezár
Regisztráció


bezár
Bejelentkezés