A mindennapjainkba beszivárgó mesterséges rendszerek nemcsak kényelmet adnak, hanem kényes kérdéseket is felvetnek: ki felel a döntéseikért, hogyan óvjuk az adatainkat, és mi történik a munkahelyekkel. Fejlesztőként már többször láttam, hogy etikai iránytű nélkül könnyen félrecsúszik egy projekt.
Az utóbbi években saját bőrömön tapasztaltam, mennyire hiányzik az egyértelmű, gyakorlatban is működő szabályozás a gépi tanulási rendszerek fejlesztése körül. Nem elég az adatvédelmi irányelvek betartása, szükség van átlátható felelősségi körökre, független ellenőrzésre és olyan minimumszabályokra, amelyek a felhasználók biztonságát és a fejlesztők mozgásterét egyszerre tartják szem előtt.
Egyre több cégnél látom közelről, mennyire nem technológiai, hanem bizalmi kérdés a felelős mesterséges intelligencia használata. Nem elég egy etikai kódex a fiókban, következetes átláthatóságra, adatvédelemre, belső képzésekre és konkrét döntési szabályokra van szükség, különben a rendszer könnyen a dolgozók és az ügyfelek ellen fordul.
Az elmúlt években rájöttem, hogy nem elég, ha egy rendszer okos, értenem is kell, hogyan jut az eredményeihez. Amikor egy állásjelentkezés vagy hitelbírálat kimenetelét egy algoritmus befolyásolja, joggal várom el, hogy átlátható legyen a működése és a döntései logikája.
Az elmúlt években megtanultam, hogy az okos megoldások önmagukban keveset érnek, ha nem biztonságosak és nem átláthatók. A felelős innováció ott kezdődik, hogy már a tervezéskor számolunk a hibákkal, a visszaélésekkel és az emberi tényezővel, nem utólag próbáljuk foltozni a rendszert.
Amikor egy döntést algoritmusra bízunk és rosszul sül el, mindig felmerül bennem: ki vállalja érte a felelősséget, a fejlesztő, az üzemeltető vagy az, aki az eredményre támaszkodott? Volt már olyan projektem, ahol hibás előrejelzés miatt üzleti veszteség keletkezett, és hetekig ment a vita arról, ki hibázott valójában.
Az utóbbi években testközelből láttam, hogyan formálja át a munkahelyeket az okos automatizálás: nemcsak a monoton feladatokat veszi át, hanem döntéseket is előkészít rólunk és helyettünk. Ez felgyorsítja a folyamatokat, de közben kemény kérdéseket vet fel felelősségről, átláthatóságról és az emberi méltóságról is.
