Advokaten 1
Hararis resonemang för lätt tankarna till Kina, s
om enligt många bedömare är i full färd med att bygga upp ett storebrorssamhälle med närmast fullständig kontroll över medborgarna, med hjälp av AI. Exemplet visar tydligt att AI lika effektivt kan användas till onda som till goda ändamål, som likabehandling och snabbhet. Varken Karl de Fine Licht eller Virginia Dignum ser dock sådana tendenser i Europa, mycket på grund av våra demokratiska och rättsstatliga traditioner. Däremot ger Kina och andra avskräckande exempel skäl att noga värna våra demokratiska institutioner, menar Karl de Fine Licht, som samtidigt varnar för naivitet. – Kina utvecklar en väldigt kraftfull AI. Att de kan göra det beror på att de har tillgång till så fruktansvärt mycket data, som de kan träna AI:n på, säger han. Blotta mängden av data som samlas in om medborgarna ger alltså ett försprång när det gäller att skapa ännu bättre AI, som förstås även kan säljas till demokratiska stater. Kontrollsamhället får alltså en konkurrensfördel, ungefär som i Hararis resonemang. Detta kan sätta press på våra demokratiska institutioner framöver, påpekar Karl de Fine Licht. – Å ena sidan vill man ha en AI som folk kan lita på, som är etisk försvarbar. Å andra sidan kommer det att testas hårt av de praktiska realiteterna, att vi konkurrerar med andra aktörer som inte alls behöver följa de här reglerna, säger han, och beskriver att företag redan i dag kämpar hårt för att få tillgång till så mycket data om oss konsumenter som möjligt. Även Virginia Dignum betonar vikten av att vi vårdar våra demokratiska och rättsstatliga traditioner och institutioner. Hon pekar också på att den digitala världen saknar gränser. Det kan därmed vara svårt att hålla fast vid vår syn på exempelvis skydd för personuppgifter. – Vi i Europa kan förstås köpa kinesiska produkter, som telefoner, och vi vet inte riktigt vad som finns där inuti, i form av kontroller av användaren, säger hon och tillägger att detta är en fråga för lagstiftaren och juristerna. Hon fortsätter: – Vi kontrollerar ju kinesiska produkter i fråga om kemikalier till exempel, så att leksaker inte innehåller farliga ämnen. Vi behöver samma typ av kontroller även för digitala tjänster och produkter som vi köper från Kina och andra länder utanför EU. GER ARBETE FÖR JURISTER AI-utvecklingen skapar alltså en hel del för lagstiftaren och för juristerna att ta tag i. Virginia Dignum ser det som en viktig uppgift för jurister att nu undersöka hur regler och institutioner fungerar i förhållande till AItjänster, och vad som kan behöva regleras ytterligare. Än ser vi kanske inga tvister om algoritmisk diskriminering i svenska domstolar som i USA, men det är förmodligen bara en tidsfråga. Christian Åhlund är övertygad om att utvecklingen kommer att ge arbetsuppgifter för advokater framöver, i alla fall om advokaterna är tillräckligt insatta i saken för att ställa de rätta frågorna. – Absolut tror jag att det kan bli en mycket intressant nisch för advokater i fortsättningen. Hela området är ju i dag egentligen oreglerat, säger han. Men hur långt kan då utvecklingen av AI gå? Finns det saker som vi aldrig kan överlåta till tekniken? Varken Karl de Fine Licht eller Virginia Dignum ser någon sådan absolut gräns. – Det finns förstås saker som vi anser är speciella för människan, men de kan förändras. Det vi säger nu att tekniken aldrig kan göra, eller vi inte vill att systemen ska göra, kanske inte är samma saker som man säger om några generationer. Det handlar om kultur, säger Virginia Dignum. Ytterst handlar det också om vad vi vill att tekniken ska göra, påpekar Virginia Dignum. Och det är här begränsningen kommer, påpekar hon. – Det enda som kanske aldrig kan överlåtas är att besluta vad vi vill att tekniken ska göra och inte göra, att vi fattar dessa beslut. ¶ AI nu självklar på advokatbyråerna –vänd! fick stora konsekvenser för många lärare. Bland annat sades 221 lärare upp under bara ett år som en följd av alltför dåliga EVAASresultat. Lärarfacket vände sig 2014 till domstol och hävdade att EVAAS utgjorde ett brott mot det fjortonde tilläggets rätt till rättvis rättegång. Lärarna fick till slut möjlighet att se källkoden, om än med stora begränsningar. Den anlitade experten fann då att systemet var omöjligt att tolka. Detta gav stöd åt lärarnas argument att de nekats en rättvis process. I oktober 2017 fann parterna en förlikning där skoldistriktet lovade att sluta använda EVAAS. Skoldistriktet gick också med på att fortlöpande föra en dialog med lärarrepresentanter kring hur lärarna ska utvärderas. Myndigheten fick ADVOKATEN NR 4 • 2019 också stå för lärarfackets rättegångskostnader, 237 000 dollar. United States District Court Southern District of Texas, Houston Division, Civil Action H-14-1189 Union nationale des étudiants de France (Unef) mot Université des Antilles I Frankrike infördes år 2018 ett nytt system för antagning till högre utbildningen. Systemet, Parcoursup, bygger på en komplicerad algoritm som rangordnar de sökande till olika universitet. Under införandet restes en rad krav på att algoritmen skulle offentliggöras. Detta gjordes också på nationell nivå. De lokala varianterna har dock fortsatt varit sekretessbelagda. Bland dem som krävde offentliggörande av antagningsalgoritmen fanns studenter vid universitetet i Antillerna. Då rektorn vägrade att offentliggöra koden, med hänvisning till skyddet för personuppgifter, vände sig studentkåren till domstol. Den 4 februari i år meddelade Guadeloupes förvaltningsdomstol i Franska Antillerna att algoritmerna skulle lämnas ut till studentkåren. Enligt domstolen kunde inte utlämnandet av koden avslöja några personuppgifter från antagningen, utan bara hur olika meriter vägdes och rangordnades. I beslutet framgår att universitetet måste lämna ut de efterfrågade uppgifterna inom en månad. Efter det utgår ett vite om 100 euro för varje dags försening. Universitetet ska också betala studentkårens kostnader om 300 euro. Tribunal administratif de la Guadeloupe, № 1801094. » 39 39