Logo: to the web site of the Swedish Defence University

Kan Artificiell intelligens (AI) användas av socialtjänsten för att förhindra att barn far illa? Prediktiv riskmodellering (PRM) för att upptäcka barn som far illa i sociala barnavårdsärenden baserade på AI har, om än utan större framgång, utvecklats i olika delar av världen. Några exempel är Vulnerable Children Predictive Risk Model från Nya Zeeland från 2012 och Allegheny Family Screening Tool som används av Allegheny County i Pennsylvania, USA sedan 2014. I Skandinavien verkar Gladsaxe-modellen från Köpenhamn ha varit den första i regionen 2018. I Sverige landerade Norrtälje kommun under 2020 ett projekt för ett AI-verktyg baserat på tidigare orosanmälning för barn för att kunna bedöma vilka ärenden som bör prioriteras. 

Syftet med att utveckla AI i sociala barnavårdsärenden är att så tidiga insatser som möjligt ska sättas in för barn i riskzonen, helst innan skadan sker. Socialtjänsten skulle därigenom kunna bli mer effektiv i sitt uppsökande arbete till en lägre kostnad. Den verklighet som ofta präglas av en underfinansierad socialtjänst bidrar till ett ökat intresse för sådana system. Även om förhoppningarna om att AI-teknologin ska kunna bidra med ett stärkt skydd för barn, föreligger flera allvarliga risker ur ett barnrättsperspektiv. Detta är utan tveckan fallet när det gäller användningen av AI-baserad PRM i sociala barnavårdsärenden. 

Syftet med detta kapitel är att analysera användning av AI för sortering och prioritering (triage) samt för riskbedömningar i social barnavård ur ett juridiskt perspektiv. Vad innebär sådana system för barnets rättigheter, såsom barnets rätt till privatliv och vad innebär barnets rättigheter för teknikutvecklingen?