Tidningen Energi 1
Allt ljus på Anna Felländer 4 fallgropar med AI-t
jänster Missbruk av data – som leder till integritetskränkningar. Fördomar hos programmeraren – värderingarna matas medvetet eller omedvetet in i algoritmen och kan till exempel leda till diskriminering. Omogen data – algoritmer som inte tränas tillräckligt eller används på för små dataset. Partiskhet i datan – att datan inte – Här ska vi samla vi företag och forskare för att tillsammans utveckla ett ramverk som behövs för att använda AI på ett ansvarsfullt sätt, säger Anna Felländer. representerar verkligheten eller den önskade verkligheten. kunderna blir allt lättare att läsa av och förutspå genom att allt fler sensorer och smarta mätare sätts upp. – Idag integreras AI i en massa tjänster utan att vi kan mäta konsekvenserna i en etisk och social kontext. Allt mer i hemmet blir uppkopplat, alla ska prata med allt. Visst, vi skänker bort data mot att vi erbjuds bekvämlighet av olika slag. Men här gäller det att inte missbruka kundinformationen. Nu arbetar AI-centret tillsammans med ett antal företag, bland annat Bonniers, Telia och Microsoft, för att testa och applicera olika ramverk i kommersiell miljö för att motverka de fyra stora fallgroparna (se faktaruta) att det är etiskt hållbart, säger Anna Felländer. En viktig del i AI-arbetet handlar också om att kommunicera kring dessa frågor och vara transparent med ”Det gäller att skapa tillit så att kunderna vågar lämna sina data” Kunderna måste ha tillit Idag är det ju mycket visioner om den smarta staden, det smarta hemmet och den smarta bilen. Men allt detta bygger på att vi som användare släpper ifrån oss stora mängder data. – Ju mer data vi använder, desto mer effektiva rekommendationer och erbjudanden kan jag få. Men det finns en integritetsgräns. Är det okej att du plötsligt får erbjudanden om att köpa lotion bara för att man kan se att du duschar så mycket. Det är ju bra att kunna skräddarsy erbjudanden för kunden, men det är helt avgörande 30 Tidningen ENERGI Nr 2 2019 hur man jobbar med dem. – Det gäller att skapa tillit så att kunderna vågar lämna sina data och beteendemönster till tjänsteleverantörerna. Företagen måste ha en etisk och hållbar strategi kring AI, till exempel att koppla algoritmerna till hållbarhet och jämställdhet. Gapet mellan de som leder AI-utvecklingen och de som inte hakar på alls ökar stadigt nu, enligt Anna Felländer. De som inte hänger med i utvecklingen riskerar att förlora i relevans på marknaden, medan de som går i täten går på för snabbt utan att testa och undersöka konsekvenserna. – Vi står inför ett vägskäl nu. Teknikutvecklingen går snabbt, men den humanistiska sidan saknas. – Hur vi använder AI är en av de viktigaste frågorna i dag. Det är en helt revolutionerade teknologi, som kan vara en positiv kraft för mänskligheten. Men det förutsätter att vi tar hanterar de risker som finns på ett ansvarsfullt sätt. Här skulle Sverige kunna gå i täten och exportera fungerande modeller.