Dansk it-rigmands angreb på Apple afslører it-branchen ømme punkt: ”Hvordan kan vi vide, at der ikke er problemer med machine-learning algoritmer, når ingen kan oplyse, hvordan de fungerer”

”Fucking sexistisk.”
Sådan betegnede den berømte danske webudvikler David Heinemeier Hansson i den forløbne uge algoritmen bag Apples og Goldmann Sachs nye kreditkort, Apple Card.
I en række tweets forklarede han sine mere end 300.000 følgere på det sociale medie, at algoritmen bag kortet har givet ham en kreditgrænse, der er 20 gange højere end den, hans kone har fået.
Det er på trods af, at de indgiver fælles selvangivelse og bor i en amerikansk stat, hvor ægtefæller har fælleseje.
David Heinemeier Hansson, der er kendt for at have skabt frameworket Ruby-On-Rails, fik desuden opbakning fra ingen ringere end Apple-stifteren Steve Wozniak, der beretter om en lignende oplevelse.
I et efterfølgende interview med det amerikanske erhvervsmedie Bloomberg stiller David Heinemeier Hansson spørgsmålet: "Hvordan kan vi vide, at der ikke er problemer med machine-learning algoritmer, når ingen kan oplyse, hvordan de fungerer."
Algoritmer får stadig større betydning
Den danske webudviklers frontalangreb mod Apple Card rammer direkte ned i en brandvarm debat, der gennem de seneste år har udspillet sig i den internationale tech-branche.
For i dag har algoritmer stadig større indflydelse på vores liv. De bestemmer hvilke nyheder vi bliver præsenteret for på de sociale medier, hvilke ruter vi vælger i trafikken, og hvilke potentielle livspartnere, som vi møder på forskellige dating-apps.
I de kommende år vil vi desuden opleve, at algoritmer i endnu højere grad bliver brugt på sygehusene, når lægerne skal foretage beslutninger om vores behandlinger, eller når kommuner skal træffe afgørelser i socialsager.
Problemet er dog, lyder det fra kritikere, at algoritmer er trænet til at se mønstre i data, og derfor viderefører de ofte mange af de generaliseringer, som allerede findes i vores samfund.
Algoritmer kan derfor komme frem til afgørelser, der både er racistiske eller sexistiske.
Retsvæsen brugte racistisk algoritme
I det amerikanske retsvæsen har man eksempelvis brugt en algoritme til at vurdere, hvor stor risiko der er for at dømte kriminelle gentager deres forbrydelser.
I 2016 gennemgik det amerikanske non-profit medie ProPublica mere end 7.000 sager, hvor algoritmen var blevet anvendt og undersøgte, hvor mange der efterfølgende blev dømt for nye forbrydelser.
Gennemgangen afslørede, at sorte personer dobbelt så ofte som hvide fejlagtigt blev vurderet til at have en høj risiko for at begå nye forbrydelser.

Sager som disse er en af årsagerne til, at der i løbet af de seneste år er opstået et stigende krav om, at algoritmerne skal hives ud af de store tech-selskabers såkaldte "sorte bokse," så brugerne kan få indsigt i det digitale maskinrum, som i stigende grad træffer beslutningner om deres liv.
David Heinemeier Hansson har kritiseret Apple og Goldmann Sachs for ikke at ville forklare baggrunden for hans kones lave kreditvurdering.
Hemmelighedskræmmeriet skyldes blandt andet, at de store tech-selskaber frygter at afsløre vitale forretningshemmeligheder.
For i dag bliver algoritmer bevoget med samme nidkærhed, som opskriften på Coca-Cola.
I et interview med magasinet Wired har Sandra Wachte, der forsker i kunstig intelligens og er tilknyttet Alan Turing-instituttet i London, dog argumenteret for, at man ikke behøver tvinge selskaberne til at blotlægge deres agoritmer.
I stedet kan man kræve, at en afgørelse baseret på en algoritme ledsages af en forklaring, der oplyser den enkeltstående faktor, der har haft størst indflydelse på afgørelsen.
Det vil give brugerne en mulighed for at foretage de nødvendige ændringer i deres liv, men det vil også afsløre uretfærdigheder, hvor algoritmens afgørelse skyldes brugerens køn eller race.
”Det vil sikre balancen mellem at give brugerne en meningsfuld indsigt i algoritmen samtidig med, at de intellektuelle rettigheder og forretningshemmeligheder bliver beskyttet,” siger hun til Wired.
Tech-professor: Gennemsigtighed er ingen mirakelkur
Spørgsmålet er dog om gennemsigtighed i sig selv kan løse problemerne?
Det mener den danske CBS-professor Mikkel Fyverbom ikke.
I et interview med Computerworld tager han livtag med ideen om, at øget gennemsigtighed er den medicin, der kan kurere de dårligdomme, som den internationale tech-branchen i disse år er udfordret af.
Her påpeger han blandt andet, at man med gennemsigtighed lægger et stort ansvar på den almindelige bruger.
”Vi bliver i hvert fald nødt til at se lidt mere nuanceret på det. Noget af det kan ordnes ved, at vi tvinger virksomheder til at vise deres indre frem. Men man kan også sige, at det er urimeligt, at vi som mennesker skal tage et personligt ansvar for informationsstrømmene, som andre skaber om os,” siger han.
Spørgsmålet er således om helt almindelige internetbrugere har den fornødne indsigt og de nødvendige handlemuligheder, der gør, at de kan bruge indsigten til noget.
Eller er det mon også nødvendigt med nogle endnu mere håndfaste retningslinjer, når det gælder den rolle, som algoritmerne spiller i vores liv?

Dansk professor: Kan vi overhovedet løse noget som helst ved at kræve gennemsigtighed i data og algoritmer?

Interview: Ny bog stiller spørgsmålstegn ved om GDPR-synlighed, privacy-kontrolpaneler og mere information om algoritmer giver os reel kontrol - eller om vi bare har individualiseret kontrollen med vores privatliv.

Læs artiklen her

Dansk rigmand bag shitstorm mod Apple Card: Nu skal algoritmen undersøges

Den danske rigmand bag Ruby on Rails, David Heinemeier Hansson , anklager Apples nye store satsning Apple Card for at være sexistisk. Nu skal den bagvedliggende algoritme granskes af en amerikansk myndighed.

Læs artiklen her

Nilfisk lægger storstilet digitalt innovationsprojekt i graven efter blot et år: Tidligere Microsoft-profil stopper

Interview: Nilfisk lukker ned for den storstilede innovationssatsning Digital Services, der blev ledet af den tidligere Microsoft-profil Bjarne Schøn. Han er nu fortid i Nilfisk. "Digital innovation skal komme fra alle steder af Nilfisk," lyder det fra CIO Torben Høeg Bonde

Læs artiklen her

Dansk virksomhed: Disse betændte udtryk kan gøre dine jobopslag mindre effektive

Det dansk-stiftede firma Develop Diverse har udviklet et værktøj, der ifølge virksomhedens stifter Jenifer Clausell-Tormos kan forhindre diskrimination gennem jobsøgningen og sikre, at virksomheder får flere ansøgere fra minoriteter og en mere ligelig fordeling af mandlige og kvindelige ansøgere.

Læs artiklen her

Margrethe Vestager vil åbne for EU's skattekiste af data: ”Vi har superfede data”

Margrethe Vestager skal udarbejde en strategi for udvikling af kunstig intelligens i Europa og samtidig vil hun stille "superfede" EU-data til rådighed for erhvervslivet.

Læs artiklen her

Her er de fire vigtigste fokusområder for top-CIO'en lige nu ifølge Gartner: Sådan finder du det altafgørende 'TechQuilibrium-punkt'

Gartner Symposium/ITxpo 2019: TechQuilibrium-punktet bliver altafgørende for CIO's verden over i årene, der kommer, men det tager tid at finde. Sådan lyder det fra Gartner, der giver alle CIO's og it-beslutningstagere en guide til, hvordan punktet findes. Finder du ikke punktet kan det få fatale konsekvenser for forretningen.

Læs artiklen her

Er vores data gode nok til, at vi rent faktisk kan træffe de rette beslutninger?

Klumme: Data intelligens er det nye guld, og der er ingen tvivl om, at vi er på rette vej. Men er vores data så egentligt gode nok til rent faktisk at træffe de rette beslutninger?

Læs artiklen her

Danske Falcon.io i stort opkøb: Får adgang til en sand skattekiste af data

Den dansk-stiftede markedsføringsplatform til sociale medier Falcon.io får via et helt nyt opkøb adgang til en sand skattekise af data. Opkøbet er sket i konkurrence med en række andre virksomheder.

Læs artiklen her

Har kapitalfonden Softbanks brugt 100 milliarder dollar på at smadre arbejdsmarkedet?

Det japanske konglomerat Softbanks investeringsfond Vision Fond har gennem de seneste år investeret 100 milliarder dollar i startups over hele verden. Mange af dem har det fællestræk, at de erstatter almindelige job med freelancere fra den såkaldte deleøkonomi.

Læs New York Times gennem gang af Softbanks investeringer

Mød politihunden, der kan lugte sig frem til både bitcoins og børneporno

En politihund i USA er blevet trænet til at identificere triphenylphosphine oxide, der bliver brugt i digitale lagermedie. Det gør den i stand til at snuse sig frem til ulovligt materiale på harddiske og sd-kort, der er skjult under både tæpper og gulvbrædder. Magasinet The New Yorker har mødt cybersikkerheds-hunden.

Læs artiklen her

Nyhedsbrevet er sendt til

newsletter@newslettercollector.com

Afmeld nyhedsbrevet

Har en ven sendt dig Digital Disrupt?
FÃ¥ dit eget eksemplar helt gratis!

Tilmeld dig her

Har du en ide til det vi laver eller bare en kommentar?
Send os en mail, vi læser dem alle sammen!

j.wittorff@cw.dk

Computerworld Digital Disrupt udsendes
hver 14. dag og udgives af Computerworld

Udgiver (c) Computerworld A/S - Hørkær 18, 2730 Herlev