Ranskassa on nostettu oikeusjuttu, jossa ihmisoikeusryhmät syyttävät hallituksen käyttämää algoritmia sosiaalitukien arvioinnissa syrjiväksi, erityisesti vammaisia ja yksinhuoltajaäitejä kohtaan, esittäen sen rikkovan tietosuojasääntöjä ja syrjintälakeja.
Tärkeimmät Havainnot
- Ihmisoikeusryhmät ovat nostaneet oikeusjutun Ranskan hallitusta vastaan, syyttäen heitä syrjinnästä sosiaalitukien algoritmisessa arvioinnissa.
- Syytteiden mukaan algoritmi syrjii erityisesti vammaisia ja yksinhuoltajia, antaen heille korkeammat riskipisteet.
- Oikeusjuttu on ensimmäinen laatuaan Ranskassa, mikä asettaa ennakkotapauksen julkisen algoritmin oikeudelliselle arvioinnille.
- Algoritmien käyttö sosiaalijärjestelmissä on laajempi eurooppalainen huolenaihe, ja EU:n uudet tekoälysäännöt kieltävät “sosiaalisen pisteytyksen” vuodesta 2025 alkaen.
- Oikeusasiakirjoissa korostetaan algoritmien laajamittaista valvontaa ja mahdollisia yksityisyysloukkauksia.
Algoritmihaaste Ranskassa
Ihmisoikeusryhmät ovat haastaneet Ranskan hallituksen oikeuteen algoritmien käytöstä sosiaalitukien virhearviointien havaitsemiseen. He väittävät, että algoritmit syrjivät vammaisia ja yksinhuoltajaäitejä. Jo vuodesta 2010 käytössä olleen algoritmin sanotaan rikkovan sekä Euroopan tietosuojasääntöjä että Ranskan syrjintälakeja. Oikeusjutussa mukana olevaan 15 ryhmän koalitioon kuuluvat muun muassa La Quadrature du Net, Amnesty International ja Collectif Changer de Cap. Valérie Pras Collectif Changer de Capista ilmaisee, että on ensimmäinen kerta, kun julkinen algoritmi on oikeudellisen haasteen kohteena Ranskassa.
Algoritmien vaikutus ja käytännöt
Ranskan sosiaaliturvavirasto CNAF käsittelee yli 30 miljoonan henkilön henkilökohtaisia tietoja arvioidessaan tukien oikeellisuutta. Algoritmi antaa kullekin henkilölle riskipisteet, jotka määrittelevät, kuinka todennäköisesti he saavat perusteetonta tukea. Korkeammilla riskeillä olevat henkilöt voivat joutua intensiivisiin ja stressaaviin tutkimuksiin, mikä saattaa johtaa tukien keskeyttämiseen. Oikeusasiakirjojen mukaan tämä käsittely aiheuttaa laajamittaista valvontaa ja kohtuutonta hyökkäystä yksityisyyttä vastaan.
- CNAF käyttää algoritmejaan arvioidakseen tukien oikeellisuutta.
- Jokaiselle henkilölle annetaan riskipisteet.
- Korkean riskin henkilöille on intensiivisemmät tutkimukset.
- Yksityisyyttä saatetaan loukata tässä prosessissa.
Diskriminaation väitteet
CNAF ei ole julkistanut nykyisen algoritmin lähdekoodia, mutta vanhempien versioiden analyysien perusteella La Quadrature du Net väittää, että malli syrjii marginaaliryhmiä, kuten vammaisia. Heidän riskipisteensä on korkeampi kuin muiden, mikä vaikuttaa erityisesti yksinhuoltajaäiteihin, koska yksinhuoltajaperheet saavat algoritmiltaan myös korkeammat pisteet.
Tämän vuoksi useat yksinhuoltajat ja vammaiset ovat pyytäneet apua Changer de Cap -järjestöltä. CNAF ei ole vastannut kysymyksiin algoritmin mahdollisista muutoksista vuoden 2014 versiosta.
Euroopan laajempi konteksti
Samankaltaisesti kuin Ranskassa, muissa Euroopan maissa on ihmisoikeusryhmiä, jotka väittävät, että alhaisemman tulotason kansalaiset ovat intensiivisen valvonnan alaisia. Esimerkiksi Alankomaissa monet, useimmat heistä Ghanasta kotoisin, joutuivat maksamaan takaisin väitetysti virheellisesti saatuja lapsietuuksia, mikä johti velkakierteeseen ja tuhoutuneisiin luottoluokituksiin.
Soizic Pénicaud Scienes Po Parisista huomauttaa, että algoritmien käyttö sosiaalipolitiikassa aiheuttaa enemmän riskejä kuin hyötyjä. EU:n uudet tekoälysäännöt astuvat voimaan helmikuussa 2025, jolloin “sosiaalinen pisteytys” kielletään koko Euroopan unionissa.
