Képes lehet-e az AI erkölcsi döntéseket hozni?

Az utóbbi években mindennapjainkba beköltöztek a különféle „okos” rendszerek, amelyek már nemcsak számolnak és ajánlanak, hanem egyre gyakrabban döntéseket is hoznak helyettünk. Felmerül a kérdés: meddig tekinthetők ezek puszta eszközöknek, és hol kezdődik az a pont, amikor már erkölcsi felelősséget is várnánk tőlük? A technológia gyorsabban változik, mint ahogy a gondolkodásunk hozzá tudna igazodni, ezért érdemes lelassítani, és végiggondolni, miről is beszélünk, amikor „erkölcsi döntést” várunk egy géptől.

Erkölcsi döntések gépeknél: miről is beszélünk?

Az erkölcsi döntés lényege, hogy nem csak azt nézzük, mi hatékony vagy hasznos, hanem azt is, mi helyes. Emberként ebben szerepet játszik a neveltetésünk, a tapasztalataink, a félelmeink és a reményeink. Ha ezt a logikát kiterjesztjük egy digitális rendszerre, azonnal beleütközünk egy falba: egy program nem nőtt fel sehol, nincsenek emlékei, nincsenek érzelmei, így a „belső iránytűje” is mesterségesen, kívülről van odatervezve. Ami számunkra természetes, például hogy együttérzést érzünk valaki szenvedése láttán, annak a háttérben futó kódban nincs közvetlen megfelelője.

Amikor azt mondjuk, hogy egy program „erkölcsi” döntést hoz, valójában azt értjük alatta, hogy bizonyos értékek szerint rangsorolja a lehetőségeket. Például biztonságot fontosabbnak tart, mint kényelmet, vagy az emberi élet védelmét előrébb helyezi, mint az anyagi kárt. Ezeket az értékeket azonban mindig emberek határozzák meg, még akkor is, ha bonyolult modellbe vannak beágyazva. A döntés tehát technikailag a programé, de erkölcsileg továbbra is azé, aki a szabályokat kitalálta és beégette a rendszerbe.

A félreértés gyakran ott kezdődik, amikor emberi tulajdonságokat vetítünk bele a gépbe. Azt mondjuk, „igazságos volt a döntése”, „elfogult volt”, „empatikus volt”, pedig ezek mind metaforák. Az ember hajlamos személyiséget tulajdonítani mindennek, ami következetes viselkedést mutat, és ez veszélyes illúzióhoz vezethet. Ha elhisszük, hogy egy rendszer „magától” morális döntéseket hoz, könnyebben mossuk el a határt a programozók, a döntéshozók és a gép felelőssége között.

Határok és lehetőségek a digitális lelkiismeretben

Az, hogy egy rendszernek nincsenek érzései, még nem jelenti azt, hogy ne tudna következetes értékalapú döntéseket hozni. Vannak olyan területek, ahol ez kifejezetten előnyös, mert a higgadt következetesség csökkenti az emberi elfogultságot. Ilyen például a kockázatbecslés orvosi vizsgálatoknál, vagy a baleseti statisztikák elemzése közlekedésbiztonsági célból. A határ ott kezdődik, ahol a puszta adatelemzés kevés, és élethelyzetek összetettségét kellene erkölcsi szempontból megítélni.

• A lehetőségek közé tartozik, hogy:

  • rengeteg esetet tud gyorsan átnézni, és mintázatok alapján javaslatot tesz;
  • következetesen alkalmaz előre definiált etikai szabályokat;
  • segít kiszűrni bizonyos típusú előítéleteket, ha jól tervezték meg.

• A korlátok pedig egyértelműek:

  • nincs saját értékrendje, csak a beprogramozott elvek;
  • nem érti, milyen érzés egy döntés következményeit elszenvedni;
  • nem tud felelősséget vállalni, így a döntés erkölcsi súlyát sem érzi.

• A „digitális lelkiismeret” kifejezés ezért inkább hasonlat, mint valóság:

  • a belső vívódás, bűntudat, megbánás hiányzik belőle;
  • a viselkedése visszavezethető konkrét szabályokra vagy tanult mintákra;
  • a látszólag erkölcsös döntés mögött mindig emberi tervezés és érdek húzódik meg.

A határokat tisztán látni azért fontos, mert így világos marad, mire alkalmas egy ilyen rendszer, és mire nem. Lehet belőle eszköz, amely támogatja az embert a felelősségteljes döntéshozatalban, de nem válik erkölcsi lénnyé. Ha ezt a megkülönböztetést következetesen megtartjuk, elkerülhető, hogy túl sokat várjunk tőle, vagy éppen rá hárítsuk azt a felelősséget, amelynek végső soron mindig hús-vér embereken kell maradnia.

Dilemmák, amikor a program dönt helyettünk

A hétköznapokban már most is bőven akad példa arra, hogy döntés egy automatizált rendszer kezébe kerül. A különbség gyakran csak annyi, hogy nem vagyunk ennek tudatában. Ha egy állásra beadott önéletrajzot előszűr egy program, lényegében eldőlhet, hogy bekerülünk-e a személyes interjúra. Ha egy banki hitelbírálat első körét automatizált modell végzi, akkor akár emberi szem átolvasása nélkül dőlhet el, hogy esélyt kapunk-e egy lakásvásárlásra. Ezek mind azt a látszatot keltik, mintha a rendszer „objektíven” döntene, pedig az értékválasztás a háttérben történik.

• Tipikus dilemmák merülnek fel:

  • Kié a felelősség, ha egy automatikus döntés kárt okoz?
  • Hogyan kérhetünk számon egy olyan eredményt, amely átláthatatlan modellből származik?
  • Mikor kell kötelezően emberi felülvizsgálat egy döntés előtt?

• A döntéskimenetek erkölcsi súlya sem egyforma:

  • más tétje van egy filmajánlónak, mint egy orvosi diagnózist segítő rendszernek;
  • más tétje van egy reklámcélozásnak, mint egy bírói ajánlást támogató algoritmusnak;
  • minél nagyobb a tét, annál indokoltabb az emberi kontroll.

• A valódi veszély abban rejlik, ha:

  • a döntést „semleges technológiának” álcázzuk;
  • a szervezetek a felelősséget a rendszerre próbálják tolni;
  • az érintettek nem jutnak valódi jogorvoslathoz, mert nincs kit számon kérni.

Egy ponton túl már nem technikai, hanem társadalmi kérdés, mennyi döntést engedünk át gépeknek. Nem az a kérdés, hogy képesek-e bonyolult szabályokat és valószínűségeket kezelni, mert erre nagyon is alkalmasak. Az igazi dilemma az, hogy mi emberek hajlandóak vagyunk-e lemondani saját erkölcsi felelősségünkről, és elfogadjuk-e, hogy „a rendszer így döntött”, mintha ezzel minden rendben is volna.

Felelősség, jog és bizalom a mindennapi használatban

Amikor egy szervezet bevezet egy döntéstámogató rendszert, nemcsak technológiát vásárol, hanem új felelősségi viszonyokat is teremt. Ha egy kórházban a diagnózisnál figyelembe veszik egy elemző rendszer javaslatát, akkor világosan rögzíteni kell, hogy végső soron kié a szakmai döntés. Ha egy munkahelyen teljesítményértékelésnél automatizált értékelés készül, akkor meg kell mondani, ki felel a rendszer beállításaiért, és ki írja alá a döntést. Jogilag és erkölcsileg egyaránt veszélyes, ha az egész folyamat „gazdátlanná” válik.

• A felelősség tisztázása érdekében szükség van:

  • pontos dokumentációra arról, hogyan működik a rendszer;
  • egyértelmű kijelölésre, ki dönt arról, mire és hogyan használják;
  • olyan eljárásokra, amelyek lehetővé teszik a döntések felülvizsgálatát.

• A jogi kereteknek reagálniuk kell arra, hogy:

  • sok döntésben már most is szerepet játszanak ilyen rendszerek;
  • az érintetteknek joguk van tudni, mi alapján született a róluk szóló döntés;
  • legyen út a panaszra és a korrigálásra, ha a döntés igazságtalan.

• A bizalom nem technikai, hanem emberi kérdés:

  • akkor alakul ki, ha átlátható, mire használják az adott rendszert;
  • ha van lehetőség beleszólni, és nem érezzük magunkat kiszolgáltatottnak;
  • ha a szervezetek nem bújnak az „így jött ki a rendszer” mögé.

A mindennapi gyakorlatban ez azt jelenti, hogy minden olyan területen, ahol a döntés komoly következményekkel jár emberi életekre, nem engedhető meg a teljes automatizmus. Szükség van emberi felelősre, aki vállalja az aláírást, és szükség van olyan szabályokra, amelyek az érintetteket is védik. A bizalom így nem vak hit, hanem átlátható, számonkérhető működés eredménye.

Személyes tapasztalatok a gépi döntések árnyoldalairól

Saját bőrömön is megtapasztaltam, milyen, amikor egy automatizált döntés „átgázol” az emberen. Néhány éve egy online hirdetési rendszer egyszerűen letiltotta a fiókomat, mert a háttérben futó ellenőrző mechanizmus valamiért kockázatosnak minősítette a kampányt. Nem sértettem meg semmilyen szabályt, mégis heteken át próbáltam ügyfélszolgálaton, űrlapokon és sablonválaszokkal teli leveleken keresztül elmagyarázni, hogy hibáról van szó. A döntést senki nem vállalta magára, mindenki csak annyit mondott: „a rendszer így döntött”. A legfrusztrálóbb az volt, hogy nem derült ki, mi alapján, így tanulni sem tudtam a helyzetből.

Ez az eset kicsiben mutatta meg, milyen érzés lehet, amikor sokkal súlyosabb kérdésekben kerül valaki hasonló helyzetbe. Ha egy álláspályázatot utasítanak el érthetetlen okból, vagy egy hitelkérelmet dob vissza a rendszer magyarázat nélkül, könnyen kialakulhat az az érzés, hogy láthatatlan szűrők döntenek rólunk, amelyekkel szemben tehetetlenek vagyunk. Ilyenkor nemcsak az az igazságtalan, hogy a döntés rossz, hanem az is, hogy nincs mögötte elérhető, felelősséget vállaló ember.

Az árnyoldal tehát nem csak az, hogy hibázni tud egy rendszer, hanem az, ahogyan a hibáit kezelik a köré épített szervezetek. Ha a döntés forrása átláthatatlan, és nincs mód érdemi panaszra, akkor bármilyen „okos” is a technológia, a végeredmény embertelennek fog tűnni. Erkölcsi szempontból itt bukik el a történet: a felelősség elmosódik, a bizalom szétesik, és az érintett úgy érzi, hogy egy rideg, megközelíthetetlen rendszer áldozata lett.

Gyakori kérdések és egyenes válaszok a témáról

Sokan kérdezik, hogy egy program valaha képes lesz-e valódi erkölcsi érzékre szert tenni, vagy ez örökre az ember privilégiuma marad. A válasz az, hogy jelenlegi tudásunk szerint az erkölcsi érzék szorosan összefonódik az érzelmekkel, a testiséggel, a társas kapcsolatokkal és a személyes szenvedéssel, örömmel. Ezeket nem lehet egyszerűen kóddá fordítani. Lehet nagyon kifinomult döntési szabályrendszereket építeni, amelyek sokszor „úgy viselkednek, mintha” erkölcsi megfontolásokat követnének, de ez nem azonos azzal, amit mi belülről élünk meg erkölcsi vívódásként.

• Gyakran felmerülő kérdések és rövid válaszok:

  • „Lehet-e egy program erkölcsös?”
    Lehet úgy tervezni, hogy erkölcsi elvekhez igazodó döntéseket támogasson, de az elvek forrása mindig emberi.
  • „Kiválthatja-e az emberi döntéshozót?”
    Technikai értelemben sok helyen igen, erkölcsi értelemben azonban nem vállalható, hogy teljesen eltűnjön a felelős ember.
  • „Nem lenne jobb, ha elfogulatlan döntéseket hozna mindenhol?”
    Bizonyos területeken csökkentheti az egyéni elfogultságot, de ha a tanító adatok torzak, a döntés is torz marad, csak kevésbé látható módon.

• Másik visszatérő aggodalom:

  • „Mi van, ha egy program rossz célokra használható?”
    A kérdés jogos, mert minden erős eszközt lehet építő és romboló módon használni.
  • „Hogyan védekezhetünk ez ellen?”
    Törvényekkel, átláthatósági követelményekkel és olyan intézményekkel, amelyek felügyelik a használatot.
  • „Elég ez?”
    Önmagában nem, de megfelelő társadalmi figyelemmel és civil kontrollal jelentősen csökkenthető a visszaélések tere.

• Végül ott a személyes szint:

  • „Mit tehetek én, egyszerű felhasználóként?”
    Tudatosan kérdezni, ha döntést befolyásol egy ilyen rendszer; élni a panaszeljárásokkal; támogatni az átlátható, felelős technológiahasználatot.
  • „Hogyan őrizhetem meg az önálló döntésemet?”
    Nem engedni, hogy mindenre automatikus ajánlások válaszoljanak; kritikus szemmel nézni a javaslatokat; utánaolvasni a működés alapjainak.
  • „Van értelme ezzel foglalkozni, ha úgyis jön a jövő?”
    Igen, mert a jövő irányát emberek döntései alakítják, és minél többen értik a tétet, annál nagyobb esély van egy emberközpontú irányra.

Erkölcsi döntéseket hozó gépekről beszélni csak akkor van értelme, ha közben nem felejtjük el: az értékeket, amelyeket követnek, mindig mi adjuk nekik. A technológia lehet hatékony, gyors és következetes, de nem tud szégyent érezni, nem tud megbánni, és nem tud felelősséget vállalni. Éppen ezért a valódi kérdés nem az, hogy „képes lesz-e valaha erkölcsösen dönteni”, hanem az, hogy mi hajlandók vagyunk-e felelősen bánni vele. Ha ezt komolyan vesszük, a gép marad az, ami: eszköz a kezünkben. Hogy ezt az eszközt mire használjuk, az továbbra is rólunk állít ki erkölcsi bizonyítványt.