A gyakorlatban az algoritmus például a vádlott korát és a bíróságon való feltűnésének gyakoriságát veszi figyelembe. Nem veszi például figyelembe a vádlott iskolai végzettségét és anyagi helyzetét. Teszi ezt egy olyan város igazságszolgáltatása, amit nem rég ért az a vád, hogy igazságtalan óvadékrendszert alkalmaz, amely előnyben részesíti a gazdagokat és igazságtalanul bünteti a szegényebb embereket.

A vádakra válaszul pert nyújtott be egy jogi csoport és George Gascón kerületi ügyész lobbizott az óvadékrendszer megreformálásáért a technológia által. Itt jött képbe a texasi Laura and Arnold alapítvány, ahol lefejlesztették a szóban forgó algoritmust a San Francisco-i igazságszolgáltatásnak. A program egy 1,5 millió ember ügyének történetét tartalmazó adatbázist vesz alapul, hogy minél igazságosabb javaslatokat tudjon tenni. Fontos tényező, hogy aki már volt elítélt az hogyan teljesített a szabadlábra helyezése után, illetve hogy mennyire esélyes, hogy veszélyt jelent a társadalomra.

A rossz hír, hogy néhány bíró visszautasítja az algoritmus javaslatainak használatát annak hiányosságaira rámutatva, de a programot fejlesztő alapítvány bizakodik, hogy a programjuk segíthet a bíróknak adat alapú objektív döntéshozatalban.

Kíváncsi lennék, hogy részleteibe menően mit gondol egy az igazságszolgáltatásban aktív bíró arról, hogy rábízható-e az óvadék vagy a szabadlábra helyezés megállapítása egy számítógépes algoritmusra, ami pusztán korábbi esetek adatai lapján tenne javaslatokat ezekben a kérdésekben? Arról nem beszélve, hogy ha ezt engedjük, akkor hol állunk meg? Miért ne hozhatna, akkor jogerős ítéletet egy fejlett számítógépes rendszer a jövőben? Szabad-e hagyni, hogy egy gép ítélkezzen egy ember élete felett még akkor is, ha precízen, minden tényezőt figyelembe véve képes dönteni?