Foredrag for skolelederkonferansen Skolen i digital utvikling, Lillestrøm 08.11.2018.

1. Styrt av algoritmer?
Jill Walker Rettberg, Skolen i digital utvikling, Lillestrøm 8.11.2018
Tesla Autopilot: https://www.youtube.com/watch?v=BLlwm5Dq7Is
Demokratisk kompetanse i et teknologisk samfunn

2. Styrer samfunnet teknologien,
eller
styrer teknologi samfunnet?

3. (CC) Doug Kerr https://www.flickr.com/photos/dougtone/4296707982/
teknologisk determinisme

5. Haussman og boulevardene i Paris

6. Camille Pissarro - Avenue de l’Opera (1898)
(https://en.wikipedia.org/wiki/Napoleon_III#/media/File:Camille_Pissarro_-_Avenue_de_l%27O

8. teknologi styrer en del - men ofte ikke intendert

10. Analog fotografi ble kalibrert til hvit hud

13. Tverrfaglig kompetanse nødvendig
1
Hva slags datasett er
algoritmen trent opp på?
(ved maskinlæring)
Informatikk
2 Korrelasjon ≠ kausalitet
Matematikk
Samfunnsfag
3
Hvilke data bruker
algoritmen?
Samfunnsfag
Naturfag
(vitenskapelig metode)
Etikk/personvern
4
Hva er formålet til
algoritmen? (Qui bono?)
Norsk (retorikk)
Samfunnsfag
Markedsføring
5 Hva kan dette føre til?
Norsk
Kunstfag/Design
Samfunnsfag/Historie

14. 1.
Hvilket datasett er
algoritmen trent opp på?

15. Maskinlæring trener algoritmer til å gjenkjenne
likheter og forskjeller i et trenings-datasett —
— men datasettene er ikke alltid representative…

16. FAT - e.g. make algorithms transparent, improve them
—> gender bias in facial recognition (Joy Buolamwini)
Gender Shades-prosjektet
Joy Buolamwini, MIT Media Lab

19. 2.
Korrelasjon ≠ kausalitet

21. Det vi kan måleDet vi vil måle. ≠
“data proxy”
(proxy = stedfortreder)

22. UNIVERSITY OF BERGEN
Recognise emotions
JILL WALKER RETTBERG / MACHINE VISION

23. Bilde fra Colourbox
• hatt slag før
• skadet seg i et fall el.l. uhell
• hatt en brystklump
• hatt hjertesykdom
• blitt screenet for tarmkreft
• hatt akutt bihulebetennelse
Risikofaktorer
for slag ifølge
algoritmene:
pasienten har…

24. Hyppige legebesøk gjør det mer
sannsynlig at slag blir oppdaget.
Algoritmen finner ikke alltid årsaken,
men en proxy.
Bilde fra Colourbox

25. hva er egentlig data?
(cc) Greg Wass https://www.flickr.com/photos/gregorywass/13104114915/

26. “No such thing as raw data.”

27. 3.
Hvilke data bruker
algoritmen?

28. Julia Angwin, Jeff Larson. “Machine Bias.” Text/html. ProPublica, May 23, 2016.
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
Har foreldrene dine vært i fengsel?
Har du jobb?
Hvor mange kjenner du som bruker ulovlige narkotika?
Hvor ofte havnet du i slåsskamp på skolen?
Hva slags karakterer fikk du på skolen?
Hvor ofte skulket du på skolen?
Hvor ofte har du flyttet de siste fem årene?
Er det mye kriminalitet i strøket der du bor?
Kjeder du deg ofte?
Er du enig i denne påstanden: “Et sultent menneske har rett til å stjele mat.”

30. Image: (CC) Greg Peverill-Conti
https://www.flickr.com/photos/gregpc/8709429483
Dataism is a widespread belief
in the objective quantification and
potential tracking of all kinds of
human behavior and sociality
through online media technologies.
José van Dijck
Professor of Media Studies
University of Amsterdam

33. “Strategic Subject List” - beregner risikoen for at
individer skal drepe eller bli drept.
https://data.cityofchicago.org/Public-Safety/Strategic-Subject-List-Dashboard/wgnt-sjgb

34. http://youtub.blogg.no/1253879937_anmerkninger_ordfrern.html
Hva kunne algoritmer forutsagt
om ungdommer ut fra dataene
skolen har om dem?
Hva ville vært bra med det?
Hva er den verst mulige
konsekvensen?

37. http://mobile.abc.net.au/news/2018-09-18/china-social-credit-a-model-citizen-in-a-digital-dictatorship/10200278?pfmredir=sm

38. 4.
Hva er formålet til
algoritmen?
(ofte kommersielt mål)

47. 5.
Hva kan gå galt?

49. Hva skjer dersom denne
teknologien blir universell?
(Ian Bogost om selvkjørende biler:
https://cyber.harvard.edu/events/2017/luncheon/12/Bogost)

50. Tverrfaglig kompetanse nødvendig
1
Hva slags datasett er
algoritmen trent opp på?
(ved maskinlæring)
Informatikk
2 Korrelasjon ≠ kausalitet
Matematikk
Samfunnsfag
3
Hvilke data bruker
algoritmen?
Samfunnsfag
Naturfag
(vitenskapelig metode)
Etikk/personvern
4
Hva er formålet til
algoritmen? (Qui bono?)
Norsk (retorikk)
Samfunnsfag
Markedsføring
5 Hva kan dette føre til?
Norsk
Kunstfag/Design
Samfunnsfag/Historie

51. Les mer: jilltxt.net / @jilltxt