Advokaten 1
av algoritmerna helt beroende av vilka data som m
atas in. En skillnad mot klassisk statistik är dock att AI:s svar är betydligt svårare att ifrågasätta. Det finns helt enkelt ingen att fråga. Datorn själv tiger – och räknar. Resultaten av AI:ns räknande är alltså helt beroende av vilka data som från början stoppas in. Och data tenderar i sin tur att vara färgade av det samhälle vi lever i, med dess fördomar och skevheter. Till skillnad från, möjligen fördomsfulla, människor, kan tekniken också sprida skevheterna oändligt snabbt och effektivt. – Algoritmerna kan fatta beslut mycket snabbare än vi. Om man har med bias och sedan trycker ut en massa beslut riskerar vi att få massor av beslut som faktiskt förstärker den bias som finns i systemet genom alla besluten i sig, säger Karl de Fine Licht. LÄR SIG SJÄLV Datorernas stora fördel gentemot människor är förstås deras snabbhet och förmågan att processa enorma datamängder. Datorn gör inte heller några slarvfel, och den blir inte trött, hungrig eller uttråkad som vi människor. Tills helt nyligen har man dock kunnat invända att datorer saknar den kreativitet och den förmåga till nyADVOKATEN NR 4 • 2019 tänkande som människor har. Men utvecklingen av så kallad maskininlärning, där datorer får öva upp sig själva till att lösa problem, har kanske ändrat detta. Ett exempel är schackdatorn AlphaZero, skapad av Googles dotterbolag Deep Mind. AlphaZero startade programmerad enbart med reglerna för schack. I ett oändligt antal partier fick datorn sedan lära sig spelet, genom att spela mot sig själv. Resultatet slog schackvärlden med häpnad. På fyra timmar nådde AlphaZero en nivå som slår de allra flesta av världens schackspelare. Programmet krossade snabbt de traditionella schackmotorerna, som programmerats med all världens schackkunskap. AlphaZero visade också prov på något som liknar mänsklig kreativitet, genom att datorn gjorde helt nya drag, som ingen människa gjort tidigare. Den danske stormästaren Peter Heine Nielsen kommenterade sin upplevelse av AlphaZero med att han alltid undrat hur det skulle kännas om en överlägsen art landade på jorden och visade oss hur de spelade schack. ”Det känns som att jag vet det nu”, avslutade han. De självlärande datorerna ägnar sig inte bara åt schack. De kan också hjälpa till med rekrytering eller att bedöma låneansökningar. Och här blir det tydligt I Houston, USA, blev lärare i ett distrikt utvärderade av ett system baserad på en algoritm. Utifrån olika kriterier, som elevernas betyg i förhållande till snittbetygen i distriktet, fick datorn väga och mäta varje lärare. De ”bästa” lärarna fick bonus. De ”sämsta” avskedades. » 35 35 FOTO: ISTOCK