Socialni transferi na Nizozemskem

Afera otroških dodatkov na Nizozemskem

Zelo odmeven primer iz leta 2021 je t. i. afera otroških dodatkov (“toeslagenaffaire”). Davčna uprava je več let uporabljala algoritem za zaznavanje goljufij, ki je na podlagi vzorcev in posrednih osebnih okoliščin množično označeval družine kot tvegane.

Kaj je šlo narobe

Orodje, ki naj bi strokovnjake usmerilo k analizi in podrobnešemu pregledu stanja v družini, so začeli uporabljati za odločanje o pravicah ljudi. Kar je bilo mišljeno kot podpora nadzoru, je v praksi postalo avtomatizirano odločanje brez strokovne presoje – z neupravičenimi sankcijami in hudimi socialnimi posledicami za deset tisoče družin.

Kako to, da danes Nizozemska velja za referenco

Zaradi sistemskih sprememb, ki so sledile. Postavili so pravilo, da algoritem ne sme neposredno usmerjati pravic posameznika, hkrati so objavili javni register algoritmov, ki jih uporablja javna uprava, uvedli so presoje vplivov ipd.

Ali bi danes lahko uporabili AI za tak primer?

Da! A zelo premišljeno in nadzorovano. Pregled prakse kaže, da so AI-first sistemi najbolje vpeljani:

• S pilotnimi rešitvami na realnih podatkih do širše uporabe. Pilotne rešitve danes ne preverjajo, ali je tehnologija zmožna pokriti primer uporabe, temveč preverjajo skladnost tehnologije s primerom uporabe. Včasih je potrebno enostavno poskusiti. V omejenem obsegu, z realnimi podatki. In če se le da, z merjenjem.
• V ekipah, ki jemljejo odgovornost kot priložnost. Zavedanje odgovornosti na področju uporabe AI je ključno za dolgoročni uspeh družbe, ki si jo delimo. Ko enkrat podatek uide, ga ne dobiš nazaj.

AI-Act in vsa povezana zakonodaja sicer morda (še) ni dosegla zadostne stopnje praktičnosti in prebavljivosti, a ima svoj namen. Pozornost na tem področju je nujna, če želimo na dolgi rok lepo živeti.