Vi möter artificiell intelligens och beslut som den tar nästan dagligen. Artificiell intelligens är inblandad när vi letar efter ett visst livsmedel i affären och placeringen av varor på hyllorna är noga genomtänkt. Eller när en streamingtjänst rekommenderar oss en ny artist vars musik vi omedelbart förälskar oss i. Och eventuellt också när vi inte blir kallade till en jobbintervju.
I USA kom det fram för ett par år sedan att rekryteringsprogrammet som ett företag använde valde att inte kalla kvinnor i reproduktiv ålder till anställningsintervjuer. Det var företagsledningen som gjorde sig skyldig till diskriminering.
”En etisk AI diskriminerar ingen utan gör i regel precis som det står i dess inlärningsdata. Alla ledare borde förstå hur AI fungerar eftersom det i slutändan alltid är en människa som bär ansvaret för de prognoser och beslut som AI producerar”, säger företagare och facklitterär författare Antti Merilehto.
I sista hand kan man göra en anmälan till diskrimineringsombudsmannen.
”Den finska lagen om diskriminering är mycket tydlig. Lagen ser ingen skillnad på om det är en maskin eller människa som har fattat beslutet.”
AI är människans medhjälpare
Transparens är något som ges ett stort värde när man talar om artificiell intelligens. Den som använder sig av AI måste veta vilka data algoritmen är inlärd med.
”Man borde alltid ha med människor med så olika bakgrund som möjligt när man bygger en artificiell intelligens. I Finland är det 5–30 personer som arbetar i olika faser av processen när man utvecklar AI. Ute i världen är det flera hundra.”
Dessutom ska man kunna förklara på vilka grunder maskinen fattar sina beslut. Varför var det till exempel just dessa fem av 25 sökande som kallades till intervju?
”Det är sällan maskinen som förverkligar besluten i produktionen. Ofta är den artificiella intelligensen bara en medhjälpare som ger förslag, i synnerhet vid viktiga beslut.”
Orealistiskt att aldrig göra fel
Redan idag utnyttjar så gott som alla försäkringsbolag och finansinstitut, skattemyndigheten likaså, prognoser gjorda av artificiell intelligens vid beslutfattande.
Med AI blir många saker snabbare och billigare – och till och med mer innovativa.
Till exempel Ramboll, som svarade för strukturplaneringen av centrumbiblioteket Ode i Helsingfors, hämtade inspiration från artificiell intelligens. ”En maskin kan skapa tusentals olika alternativ efter givna kriterier.”
Det är ändå viktigt att komma ihåg att dagens AI-lösningar är väldigt snäva och inriktade på specifika områden. ”Den AI som väckte sensation genom att vinna den årliga konsttävlingen på Colorado State Fair kan inte bevilja kredit eller uträkna pris på en försäkring.”
Men var går gränsen för att utnyttja maskinintelligens? Om en artificiell intelligens säljer en försäkring till ett orättvist pris är det ganska lätt att korrigera felet. Men så är inte alltid fallet.
Merilehto målar upp en bild av en framtid där AI i en brandkamera hjälper brandmästaren att bedöma tåligheten av strukturerna i en brinnande byggnad.
Vad gör man om maskinen missbedömer hur branden fortskrider och följderna blir katastrofala? Merilehto ställer en motfråga.
”Förväntar vi oss av maskiner sådant som vi inte ens kan kräva av oss själva? Det är inte realistiskt att förvänta sig 100-procentig felfrihet, vare sig av en människa eller en maskin.”
