Wie wordt de baas over onze big data? | 2019 10-29 HvA Vrij delen van informatie, kunst en cultuur Evidence-based policy met een lange-termijn visie Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten Vertrouwen burgers vs Wantrouwen ‘macht' Enthousiast over tech, maar alert op risico’s Tech to empower people; niet om te onderdrukken Basis principes PPNL Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data? 3. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data? 4. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data? 5. Amsterdam wil data verzamelen en delen, om: – Maatschappelijke vraagstukken oplossen – Dienstverlening verbeteren – Slimmer handhaven – Openbare ruimte beheren – Werkprocessen efficiënter – Zorg verbeteren – Patronen herkennen om gedrag te beïnvloeden “Amsterdam doet daarbij graag zaken met de markt” 6. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de nadelen? 7. Niets te verbergen? Functie in sociale relaties Mogen anderen ook niks te verbergen hebben? Snowden: “I don't care about privacy, 'because I have nothing to hide', is like I don't care about free speech, Because I have nothing to say" Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data? 8. Mass surveillance: voor 1 target, tienduizenden bespieden Info delen met dubieuze regimes Devices bewust lek houden om ons te hacken MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data? 9. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data? 10. 15-12-16 SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY • Allerlei data die je met overheid deelt wordt aan elkaar geknoopt. • Iedereen is bij voorbaat verdacht -> bestempeld met risicoprofiel. • Op basis hiervan wordt je extra in de gaten gehouden, zonder dat je dit weet. • https://bijvoorbaatverdacht.nl/ Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data? 11. 15-12-16 SyRI in Rotterdam 25.000 bewoners Bloemhof en Hillesluis op fraude onderzocht • 50% Foutmarge • 10% werd onderzocht • 0(!!) fraudegevallen opgespoord Na ophef gestopt met experiment Matthijs Pontier, Ph.D., HvA, 29-10-2019, Wiewordtdebaas over onzebig data? 12. Ron Kowsoleea 13. Privacy inperken voor veiligheid? 1. Niet effectief 2. Leidt tot ongezonde machtsverhouding 3. Privacy juist voorwaarde voor veiligheid 4. Er bestaan prima alternatieven 14. Overheid niet altijd betrouwbaar Overheid laat gegevens slingeren WRR: Overheid onbetrouwbaar met gegevens. Informatie wordt gemanipuleerd. Ook overheid kan misdadig gedrag vertonen 15. Function Creep

1. Wie wordt de baas over onze
Big Data? Matthijs Pontier, Ph.D.

2. Vrij delen van informatie, kunst en cultuur
Evidence-based policy met een lange-termijn visie
Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten
Vertrouwen burgers vs Wantrouwen ‘macht'
Enthousiast over tech, maar alert op risico’s
Tech to empower people; niet om te onderdrukken
Basis principes PPNL
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

3. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?

6. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?

7. Amsterdam wil data
verzamelen en delen, om:
– Maatschappelijke
vraagstukken oplossen
– Dienstverlening verbeteren
– Slimmer handhaven
– Openbare ruimte beheren
– Werkprocessen efficiënter
– Zorg verbeteren
– Patronen herkennen
om gedrag te beïnvloeden
“Amsterdam doet daarbij
graag zaken met de markt”

8. Verkapte privatisering publieke diensten?
Wie beheert AI in
‘slimme’ stad?
Wie beheert de
data die we
samen
produceren?
Wie profiteert van
de voordelen?
Wie kampt met de
nadelen?

9. Niets te verbergen?
Functie in sociale relaties
Mogen anderen ook niks te verbergen hebben?
Snowden: “I don't care about privacy,
'because I have nothing to hide', is like
I don't care about free speech,
Because I have nothing to say"
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

10. Mass surveillance: voor 1 target, tienduizenden bespieden
Info delen met dubieuze regimes
Devices bewust lek houden om ons te hacken
MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?

11. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

13. 15-12-16
SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY
• Allerlei data die je met overheid
deelt wordt aan elkaar geknoopt.
• Iedereen is bij voorbaat verdacht
-> bestempeld met risicoprofiel.
• Op basis hiervan wordt je extra
in de gaten gehouden, zonder
dat je dit weet.
• https://bijvoorbaatverdacht.nl/
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

14. 15-12-16
SyRI in Rotterdam
25.000 bewoners Bloemhof en
Hillesluis op fraude onderzocht
• 50% Foutmarge
• 10% werd onderzocht
• 0(!!) fraudegevallen opgespoord
Na ophef gestopt met experiment
Matthijs Pontier, Ph.D., HvA, 29-10-2019, Wiewordtdebaas over onzebig data?

15. Ron Kowsoleea

16. Privacy inperken voor veiligheid?
1. Niet effectief
2. Leidt tot ongezonde machtsverhouding
3. Privacy juist voorwaarde voor veiligheid
4. Er bestaan prima alternatieven

17. Overheid niet altijd betrouwbaar
Overheid laat gegevens slingeren
WRR: Overheid onbetrouwbaar met gegevens.
Informatie wordt gemanipuleerd.
Ook overheid kan misdadig gedrag vertonen

18. Function Creep
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

19. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

21. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

23. Profiling
Big Data algoritmes krijgen
dezelfde bias als hun makers
en/of trainingsdata
Dit versterkt discriminatie van
gestigmatiseerde groepen
(en sommigen zullen het zelfs
gebruiken ter rechtvaardiging)
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

24. Big Data
algoritmes
krijgen dezelfde
bias als hun
makers en/of
trainingsdata

25. Slachtoffersvan Profiling

27. Slachtoffersvan Profiling

29. Slachtoffers van Profiling

30. 15-12-16
Cambridge Analytica
Mensen
emotioneel
raken, op hun
zwakste moment
Stemgedrag
beinvloeden
Doorstart als
Emerdata, na
ophef

31. 15-12-16
Cambridge Analytica
VS2016
Brexit
Australie
2015
Kenya
'13 / '17
India
Malta
https://e
n.wikipe
dia.org/
wiki/Ca
mbridg
e_Analy
tica

32. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onz

33. Corporate surveillance: ‘Smart TV’
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

34. Smart TV hackers filmen mensen die
seks hebben op hun bank
en dat zetten ze op porno websites!
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

35. Who will control ‘smart’ cars?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

36. Wie wordt de baas in jouw ‘slimme’ huis?
Hackers? Virus?
Terroristen?
Bedrijven
die eigenlijk jouw
devices bezitten?
De AI die je vertelt
wat je moet doen?
Of controleren ze
zichzelf?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

37. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

39. Monopolization
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

40. Hoe groter het bedrijf
Hoe groter het
machtscentrum
Hoe groter de kans dat
een bedrijf deze macht
op een verkeerde
manier gaat gebruiken
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

41. 15-12-16
Surveillance Capitalism

42. Targeted ads

43. Pokemon Go
Pokemon Go was
eigenlijk een spel van
Google om gebruikers
naar winkels te
lokken.
Bedrijven konden
‘lokmodules’ kopen
en zo jouw lichaam
naar hen toe lokken

44. Facial recognition
Should we
ban it?
https://ww
w.banfacial
recognition
.com/

45. Als technologie voor je denkt
Vertellen programmeurs dan wat je moet denken?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

46. Google Sidewalks Toronto
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

47. Google Sidewalks Toronto
Moet een commercieel bedrijf dit uitvoeren?
En dan ook nog eens Google?
Lack of transparency
Mensen klaagden de gemeente aan:
"We willen geen proefpersonen van Google worden"
Blackberry CEO: "This is a colonizing experiment in
surveillance capitalism attempting to bulldoze important
urban, civic and political issues."
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

48. Google wilde aandeel belastingopbrengsten, ontwikkelbudget
Verdienmodel hangen aan openbaar vervoer en mobiliteit
--> Google probeerde publieke diensten te privatiseren!
Google privatiseert Toronto
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

49. Google ontwierp privacy policies voor buurten:​
- Mensen zouden getarget worden met producten
- Zelfs getarget worden om stemgedrag te beinvloeden
Privacy adviseur Ann Cavoukian nam ontslag:​
"I imagined us creating a smart city of privacy,
as opposed to a smart city of surveillance"
Toronto: "The evaluation process will determine which
parts of the proposal, if any, may be pursued further."
Google Sidewalks Toronto
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

50. How can we do better?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

51. Responsible Digital Cities
Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership
Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie
Verzamelde data is gemeenschapsgoed: Commons
Openheid over dataverzameling en verwerking Transparantie
Iedereen kan meedoen: Inclusie
Menselijke maat staat centraal in alles wat we doen Empathie
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

52. Privacy by Design
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

53. Tech Commons
Democratiseer de ontwikkeling van technologie
Kosten, risico’s en opbrengsten worden eerlijk gedeeld
Ontwikkel technologie op zo’n manier dat het welzijn bevordert

55. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

56. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

57. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

58. Stop corporate surveillance
Goede standaarden voor Privacy by Design / Data-eigenaarschap
Reguleer Big Business vs
Meer vrijheid voor kleine startups / cooperatieven
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

59. Wordt
superintelligente AI
een nieuw
machtscentrum?Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

60. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

61. Dr. Matthijs Pontier, ImmortalMonkey symposium,13-11-2017,Sharing the world with AI

62. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

63. Why we should have mandatory
Machine Ethics
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

64. Paperclip machine
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

65. “With the Internet of
Things, we’re building a
world-size robot. How
are we going to control
it?”
Click here to kill
everyone
IoT + AI = Superrobot

66. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

67. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

68. Machine Ethics
Machines wordensteeds autonomer
Machines interacterensteeds meer met mensen
We moetenervoor zorgendat machines ons, en onze autonomie niet bedreigen
68Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

69. Moral reasoning system
We hebben een moral reasoning system ontwikkeld
dat balanceert tussen verschillende morele doelen
Beslissingenkwamen overeen met medisch-ethische experts
69Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

70. Autonomy
70
Resultaten:
Kon juridische beslissingensimuleren over:
- Bemoeizorg
- Gedwongen opname na zelfbindingsverklaring
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

71. Cars that make ethical decisions
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

72. Why every AI
should have Machine Ethics
Machine Ethics = AI-Safety
Make sure the intelligence explosion benefits us
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

73. Waarom elke AI
open-source zou moeten zijn
Algoritmes en robots
zullen onze levens
steeds meer
beïnvloeden
Wie controleert de
programmeurs?
Goede ideeën zijn
gemaakt om
gekopieerd te
worden
Extra waarde creëren
zonder kosten
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

74. e-Democracy
• Laagdrempelig participeren in een democratisch proces
• Stemmen op ideeen; niet op partijen of personen
• Power of Ideas replace the idea of power
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

75. • Everybody can add ideas
• Everybody can add arguments
• Best ideas and arguments automatically come up
How does it work?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

77. • Niet eens in de paar jaar stemmen,maar altijd stem kunnen aanpassen
• Vertegenwoordiging kan verschillen per onderwerp
• Vertegenwoordiging is altijd vrijwillig
• Maakt vertegenwoordiging persoonlijk; impliceert vertrouwen
Representation in an e-Democracy

78. <slide e-democracy>
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

79. ⚫ Zou er een symbiose kunnen ontstaan tussen AI en e-democracy?
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

80. Gebruik alternatieven voor Big Tech (Google, Facebook, Microsoft, Amazon)
Enrypt e-mail Protonmail
Encrypt phone Signal
Encrypt messaging Signal
Iets van het Internet afhalen bestaat niet.
Betaal zoveel mogelijk contant
Weiger slimme meter; Wees kritisch over ‘smart’
Toolbox.BoF.nl
Gebruik Tor, VPN, DoNotTrack, uBlock, AdNauseam
Laat je niet meeslepen in het Big Data net
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

81. Book: Machine Medical Ethics
81
• How to develop robots with
human-like ethics?
• Need for Open Source
• How to use healthcare tech in a
way that improves well-being
• Changed doctor-patient relation
• Deep Brain Stimulation
• Sex-robots
• Etc.
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

82. Thanks!
• @Matthijs85
• Matthijs Pontier
• matthijs@piratenpartij.nl
• http://www.piratenpartij.nl/
• @Piratenpartij
• Lid worden? 19,84 per jaar
• Actief worden?
• vrijwilligers@piratenpartij.nl
Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?

83. 15-12-16

84. More reading and watching
Intelligent cars could boost highway capacity by 273%
Autonomous Car Platoons
How to hack a car
Zelfrijdende auto's moeten leren wie ze dood willen rijden
Vrij van controledrift, bureaucratie en armoede met een basisinkomen
Boek: Machine Medical Ethics
Zorgrobots, maar geen botte zorg
Crowdsource EU: People's Constitution
De toekomst van democratie volgens Matthijs Pontier van de Piratenpartij