1
00:00:05,920 --> 00:00:16,069
Speaker 1: Dit is een BNR-podcast. De Tweede Kamer laat zich op

2
00:00:16,110 --> 00:00:19,510
Speaker 1: dit moment bijpraten... over de schadelijke invloed die social media

3
00:00:19,550 --> 00:00:23,030
Speaker 1: kunnen hebben. Het gaat dan bijvoorbeeld over beïnvloeding... manipulatie van

4
00:00:23,070 --> 00:00:25,049
Speaker 1: het publieke debat... in de aanloop naar de verkiezingen van

5
00:00:25,070 --> 00:00:28,890
Speaker 1: over twee weken. Of denk aan de vele met AI

6
00:00:28,910 --> 00:00:32,559
Speaker 1: gemaakte video's... die zogenaamd over de oorlog met Iran gaan.

7
00:00:32,580 --> 00:00:36,300
Speaker 1: We hadden ook overdreven beelden uit Mexico... rondom het geweld

8
00:00:36,320 --> 00:00:41,260
Speaker 1: na de arrestatie van een belangrijke drugsleider. Dat gesprek in

9
00:00:41,280 --> 00:00:45,300
Speaker 1: Den Haag is met experts, maar ook met drie... Tech-platforms Meta,

10
00:00:45,340 --> 00:00:48,909
Speaker 1: TikTok en Google. Die platforms zijn inmiddels een half uur

11
00:00:48,920 --> 00:00:51,690
Speaker 1: in gesprek met de Kamer. En van onze Haagse redactie

12
00:00:51,729 --> 00:00:54,690
Speaker 1: volgt Mark Beekhuis dat debat op de voet. En we

13
00:00:54,710 --> 00:00:58,170
Speaker 1: gaan er ook over spreken met Ilias Nasrullah, tech-columnist bij Trouw,

14
00:00:58,210 --> 00:01:04,110
Speaker 1: maker van de BNR-podcast. Welkom in de AI-fabriek. Goedemiddag. Goedemiddag. Goedemiddag.

15
00:01:04,150 --> 00:01:06,410
Speaker 1: De deskundigen zijn aan het woord gekomen. Wat is hun

16
00:01:06,430 --> 00:01:08,070
Speaker 1: belangrijkste waarschuwing

17
00:01:08,090 --> 00:01:11,110
Speaker 2: voor de Kamer? Eigenlijk dat het best wel een zorgelijke

18
00:01:11,160 --> 00:01:13,060
Speaker 2: situatie is. Ik heb een kleine compilatie gemaakt. Misschien is

19
00:01:13,080 --> 00:01:15,840
Speaker 2: het handig om even drie experts... van het Rathenouw Instituut,

20
00:01:15,860 --> 00:01:20,700
Speaker 2: dat zijn wetenschappers... van de NCTV, dat is een veiligheidsorganisatie...

21
00:01:19,600 --> 00:01:25,080
Speaker 2: en een stichting die zich bezighoudt met democratie. De Post-X Society.

22
00:01:25,720 --> 00:01:29,360
Speaker 2: Om hoe zij de gesprekken hebben begonnen.

23
00:01:29,410 --> 00:01:35,670
Speaker 3: Wat ik jullie wil meegeven is dat mogelijkheden voor inmenging...

24
00:01:34,250 --> 00:01:40,570
Speaker 3: zijn ingebouwd in hoe aanbevelingsalgoritmen werken. Dus... Dankzij die aanbevelingsalgoritmes

25
00:01:40,630 --> 00:01:43,770
Speaker 3: ontstaat er een instrumentarium voor kwaadwillende actoren.

26
00:01:43,810 --> 00:01:47,090
Speaker 4: Onze inlichtingendiensten en ook mijn eigen organisatie hebben in meerdere

27
00:01:47,110 --> 00:01:51,500
Speaker 4: openbare publicaties beschreven... dat statelijke actoren desinformatie gebruiken om strategische

28
00:01:51,530 --> 00:01:52,940
Speaker 4: doelstellingen te bewerkstelligen.

29
00:01:53,060 --> 00:01:54,900
Speaker 5: En op basis van wat we zagen in het buitenland

30
00:01:54,920 --> 00:01:57,559
Speaker 5: maakten we een lijst van wat voor soort dreigingen we

31
00:01:57,740 --> 00:02:00,180
Speaker 5: dan zouden kunnen vinden. En eigenlijk, zoals je kunt zien

32
00:02:00,200 --> 00:02:02,920
Speaker 5: in de position paper, troffen we alles aan in Nederland.

33
00:02:02,940 --> 00:02:06,620
Speaker 5: Dus inderdaad nep-accounts of gecoördineerde accounts die de zichtbaarheid van

34
00:02:06,640 --> 00:02:10,799
Speaker 5: berichten vergroot... Het gebruik van AI om geweld en haat

35
00:02:10,840 --> 00:02:16,670
Speaker 5: en discriminatie aan te jagen. Livestreams die ongemodereerd bleven. Advertentiecampagnes

36
00:02:16,690 --> 00:02:19,669
Speaker 5: die niet voldeden aan de eisen die daarvoor zijn. En

37
00:02:19,690 --> 00:02:23,500
Speaker 5: ook dit soort dingen werden ons aanbevolen... door de aanbevolingsalgoritmes.

38
00:02:23,530 --> 00:02:26,580
Speaker 2: Het zijn dus allemaal zaken die voor politieke verkiezingen... Tweede

39
00:02:26,600 --> 00:02:29,020
Speaker 2: Kamerverkiezingen die we net gehad hebben... de gemeenteraadsverkiezingen die eraan

40
00:02:29,040 --> 00:02:32,480
Speaker 2: zitten komen... waarbij dat allemaal ook echt aangetroffen is. En

41
00:02:32,500 --> 00:02:34,480
Speaker 2: ze hebben nu ter gelegenheid van de gemeenteraadsverkiezingen... bij die

42
00:02:34,500 --> 00:02:38,859
Speaker 2: PostX Society ook weer gekeken. Want zien we het nu weer? Jawel,

43
00:02:38,900 --> 00:02:41,660
Speaker 2: het is weer net zo heftig als de vorige keer. Nou,

44
00:02:41,720 --> 00:02:44,300
Speaker 2: er zit geen vooruitgang in. Je zou denken, er zijn handhavers.

45
00:02:44,320 --> 00:02:46,580
Speaker 2: Maar dat werkt allemaal toch nog niet zo. Daar hebben

46
00:02:46,600 --> 00:02:49,760
Speaker 2: deze drie en alle drie over... Die zeggen allemaal, ja,

47
00:02:49,820 --> 00:02:51,780
Speaker 2: er zijn wel hele goede wetten. We hebben de DSA

48
00:02:51,800 --> 00:02:55,650
Speaker 2: vanuit Europa. Maar dan moet je de handhavers middelen geven...

49
00:02:55,330 --> 00:02:58,130
Speaker 2: om te zorgen dat ze kunnen handhaven en durven handhaven.

50
00:02:58,169 --> 00:03:00,710
Speaker 2: Maar dat doen ze op het ogenblik nog niet zo.

51
00:03:00,790 --> 00:03:03,130
Speaker 2: En wat toch ook wel opmerkelijk is... is dat ze zeggen,

52
00:03:03,150 --> 00:03:07,240
Speaker 2: we hebben heel wat zaken gemeld. Dan zeggen we, we

53
00:03:07,250 --> 00:03:10,139
Speaker 2: zien bijvoorbeeld een Hitlergoed. Dan zeggen we, dit is haatdragend.

54
00:03:10,320 --> 00:03:12,419
Speaker 2: En dan krijgen we als antwoord van niet. Dat is

55
00:03:12,440 --> 00:03:16,200
Speaker 2: het antwoord van Pieter van Bohemen van PostX. Die legt

56
00:03:16,240 --> 00:03:17,840
Speaker 2: uit hoe dat in de praktijk dan uitwerkt.

57
00:03:18,060 --> 00:03:19,530
Speaker 5: Als ik over meldingen heb, heb ik het over de

58
00:03:19,560 --> 00:03:21,610
Speaker 5: organische content die we melden. Dus dit zijn de dingen

59
00:03:21,630 --> 00:03:25,130
Speaker 5: die gewoon aanbevolen worden en niet geadverteerd zijn. De reactie

60
00:03:25,169 --> 00:03:28,010
Speaker 5: is meestal, of eigenlijk bij Meta tot nu toe altijd,

61
00:03:28,060 --> 00:03:30,320
Speaker 5: dat er geen overtreding wordt geconstateerd. En we melden het

62
00:03:30,340 --> 00:03:34,960
Speaker 5: in de categorie... dat de beelden haatdragende ideologieën zouden bevatten.

63
00:03:35,000 --> 00:03:37,640
Speaker 5: Als iemand Hel Hitler hoopt met een hakenkruis en de

64
00:03:37,680 --> 00:03:39,340
Speaker 5: dood aan de Joden wenst... zou ik zeggen dat is

65
00:03:39,360 --> 00:03:43,430
Speaker 5: toch wel een haatdragende ideologie. Maar de moderatoren zeggen dan...

66
00:03:43,210 --> 00:03:44,750
Speaker 5: het is geen overtreding van ons beleid.

67
00:03:48,780 --> 00:03:49,750
Speaker 6: Zeer bijzonder

68
00:03:51,360 --> 00:03:52,980
Speaker 1: Hoe is daarop gereageerd door Meta

69
00:03:53,100 --> 00:03:56,020
Speaker 2: TikTok? Eerst een uurtje hebben ze met deskundigen zitten praten.

70
00:03:56,040 --> 00:03:58,660
Speaker 2: Daarna het afgelopen half uur, dat duurt ook nog een

71
00:03:58,680 --> 00:04:02,680
Speaker 2: goede twintig minuten zo... met drie van de vier uitgenodigde platforms.

72
00:04:02,700 --> 00:04:04,990
Speaker 2: Want X was helaas niet bereid om te komen. Dat

73
00:04:05,030 --> 00:04:07,730
Speaker 2: is ook even goed om te benoemen. Nee, die platforms

74
00:04:07,750 --> 00:04:10,830
Speaker 2: is hier helemaal geen probleem. Die hebben robuuste systemen om

75
00:04:10,850 --> 00:04:13,310
Speaker 2: alles aan te pakken. Dat is wat ze letterlijk schrijven,

76
00:04:13,330 --> 00:04:15,950
Speaker 2: ook in hun position paper... En ze lopen toch ook

77
00:04:15,990 --> 00:04:18,089
Speaker 2: wel heel makkelijk weg... want het gaat hier over beïnvloeding

78
00:04:18,130 --> 00:04:21,690
Speaker 2: van verkiezingen. En wat zegt dan de man van Meta bijvoorbeeld? Ja,

79
00:04:21,710 --> 00:04:24,350
Speaker 2: maar we moeten ook kijken naar hoe de sortering in

80
00:04:24,370 --> 00:04:26,770
Speaker 2: de timeline is... want die moet wel prettig zijn. Misschien

81
00:04:26,790 --> 00:04:27,680
Speaker 2: ook even op het luisteren

82
00:04:28,050 --> 00:04:34,670
Speaker 7: Juist personalisatie ervoor kan zorgen... dat kwalijke content geremd kan worden...

83
00:04:33,930 --> 00:04:38,360
Speaker 7: en minder zorgelijke content in mensen hun tijdlijn komt. Het

84
00:04:38,380 --> 00:04:41,430
Speaker 7: is een onderwerp waar best veel verwarring over is... maar

85
00:04:41,450 --> 00:04:45,670
Speaker 7: dat juist een cruciale schakel is... in het veilig, prettig

86
00:04:45,710 --> 00:04:47,260
Speaker 7: en leuk houden van het internet

87
00:04:48,040 --> 00:04:51,120
Speaker 2: Wat wordt hiermee bedoeld? Hij loopt heel erg weg bij

88
00:04:51,140 --> 00:04:54,440
Speaker 2: de vraag over de politieke beïnvloeding... waar hem naar gevraagd werd.

89
00:04:54,500 --> 00:04:58,240
Speaker 2: En vervolgens ook, in een hele naïeve bui... deze man

90
00:04:58,260 --> 00:05:01,620
Speaker 2: van Meta, echt waar, ik kan het niet anders zeggen... Ja,

91
00:05:01,660 --> 00:05:04,460
Speaker 2: als we dan zaken gemist hebben, zoals bijvoorbeeld die nazi-video's...

92
00:05:04,500 --> 00:05:06,310
Speaker 2: dan moeten die vooral melden. Maar dat

93
00:05:06,330 --> 00:05:06,770
Speaker 1: was net

94
00:05:06,810 --> 00:05:10,750
Speaker 2: getest. Er was gemeld en er zijn honderden, wat zeg ik...

95
00:05:10,410 --> 00:05:12,340
Speaker 2: er zijn tienduizenden video's gemeld

96
00:05:12,740 --> 00:05:16,000
Speaker 1: Ilias Nasrullah, jij hebt ook dat debat gevolgd. Wat viel

97
00:05:16,060 --> 00:05:16,360
Speaker 1: jou op?

98
00:05:17,610 --> 00:05:19,930
Speaker 8: Ja, nou eigenlijk hetzelfde als wat Mark zegt. Ik ben

99
00:05:19,950 --> 00:05:27,320
Speaker 8: een beetje in shock over de naïviteit die vanuit de

100
00:05:27,339 --> 00:05:31,060
Speaker 8: tech-platforms eigenlijk geuit wordt. Er wordt de hele tijd gezegd

101
00:05:31,100 --> 00:05:34,430
Speaker 8: dat ze heel veel doen, dat het steeds beter gaat.

102
00:05:34,470 --> 00:05:38,510
Speaker 8: TikTok heeft zelfs in... in San Diego, waar het ook was,

103
00:05:38,529 --> 00:05:43,310
Speaker 8: een ruimte gebouwd... waar overheden de broncode van TikTok kunnen bekijken...

104
00:05:42,910 --> 00:05:46,479
Speaker 8: en een beveiligde kamer. Eigenlijk van alles en nog wat.

105
00:05:47,330 --> 00:05:49,180
Speaker 8: En dat klinkt allemaal goed op het oog, maar als

106
00:05:49,220 --> 00:05:53,200
Speaker 8: je dan gewoon... eventjes teruggaat naar de experts in de

107
00:05:53,240 --> 00:05:56,460
Speaker 8: eerste sessie... en wat zij melden, dan denk je, ja,

108
00:05:56,500 --> 00:06:01,210
Speaker 8: er klopt iets niet. Het kan niet zo zijn dat

109
00:06:01,270 --> 00:06:06,909
Speaker 8: iemand Haal-Hitler-video's tegenkomt... hakenkruizen tegenkomt, die meldt, dat ze niet

110
00:06:06,950 --> 00:06:09,250
Speaker 8: verwijderd worden... en dat je dan daar zit en zegt, ja,

111
00:06:09,290 --> 00:06:12,830
Speaker 8: het gaat eigenlijk gewoon best prima. Dus dat maakt het

112
00:06:12,870 --> 00:06:16,960
Speaker 8: ook een vrij... Lastig te volgen debat. Op het moment

113
00:06:17,000 --> 00:06:21,650
Speaker 8: dat dit item begon hier bij BNR... toen was net

114
00:06:21,690 --> 00:06:24,890
Speaker 8: Dassen van Volt... die was ze flink de vuur aan

115
00:06:24,910 --> 00:06:27,870
Speaker 8: het schenen aan het leggen. En wat je ook steeds ziet,

116
00:06:27,930 --> 00:06:31,560
Speaker 8: is dat... het maakt niet uit hoeveel gas je geeft.

117
00:06:31,620 --> 00:06:35,740
Speaker 8: Zij ontwijken eigenlijk alle vragen. Dus Laurens Dassen vroeg bijvoorbeeld...

118
00:06:37,100 --> 00:06:41,860
Speaker 8: Hoe gaan jullie ermee om? Dat de topman van Meta,

119
00:06:41,900 --> 00:06:45,600
Speaker 8: Mark Zuckerberg, dat hij in Amerika roept... de Europese wetgeving,

120
00:06:45,620 --> 00:06:47,160
Speaker 8: daar willen we van af. En we gaan met Trump

121
00:06:47,180 --> 00:06:50,540
Speaker 8: samenwerken om daarvan af te raken. Waarom moeten wij dan

122
00:06:50,560 --> 00:06:52,339
Speaker 8: jullie nu geloven dat het allemaal zo goed gaat... en

123
00:06:52,360 --> 00:06:55,780
Speaker 8: dat jullie meewerken? Dan beantwoorden ze daarom heen. En dan

124
00:06:55,800 --> 00:06:57,800
Speaker 8: gaat het over alle initiatieven die ze wel doen... maar

125
00:06:57,820 --> 00:07:01,060
Speaker 8: niet over de fundamentele punten die er wel spelen. Het

126
00:07:01,080 --> 00:07:03,350
Speaker 8: doet echt denken aan de tabaksindustrie eigenlijk.

127
00:07:03,380 --> 00:07:05,000
Speaker 1: Maar het kan helemaal geen klaat om af en toe

128
00:07:05,020 --> 00:07:10,390
Speaker 1: op een feestje een sigaret... Het moet toch mogelijk blijven?

129
00:07:10,430 --> 00:07:16,610
Speaker 1: Wij zijn een gemaksindustrie. We zijn heel positief. Genotsindustrie. Genotsindustrie

130
00:07:18,370 --> 00:07:21,480
Speaker 2: Maar Niels, de politieke beïnvloeding moet wel gezellig blijven. Dat

131
00:07:21,520 --> 00:07:23,640
Speaker 2: is natuurlijk toch wel een onuitbaar standpunt. En dat is

132
00:07:23,680 --> 00:07:24,180
Speaker 1: eigenlijk wel

133
00:07:24,200 --> 00:07:26,050
Speaker 2: wat we net stonden te vertellen

134
00:07:27,100 --> 00:07:30,020
Speaker 6: Maar wie zijn die vertegenwoordigers van deze platform? Zijn het

135
00:07:30,060 --> 00:07:31,640
Speaker 6: Nederlands sprekende mensen? Ja.

136
00:07:31,900 --> 00:07:34,730
Speaker 2: Ja, dat zijn mensen die van PR-bureaus of van... Ik

137
00:07:34,820 --> 00:07:35,270
Speaker 2: ken

138
00:07:35,310 --> 00:07:36,090
Speaker 6: ze niet persoonlijk,

139
00:07:36,110 --> 00:07:37,270
Speaker 2: maar die worden ingehuurd.

140
00:07:37,290 --> 00:07:41,090
Speaker 6: Die worden ingehuurd? Dus absoluut niet iemand die bij Meta werkt?

141
00:07:41,790 --> 00:07:43,650
Speaker 2: Dat durf ik niet te zeggen. Of ze rechtsseksiendienst zijn

142
00:07:43,690 --> 00:07:45,330
Speaker 2: bij Meta... of dat ze gewoon heel vaak voor ze

143
00:07:45,350 --> 00:07:45,650
Speaker 2: werken

144
00:07:45,990 --> 00:07:48,100
Speaker 6: En Ilias, wat kan de Kamer hier nu mee? Want

145
00:07:48,250 --> 00:07:51,120
Speaker 6: ik neem aan dat die net als jullie ook wel enigszins...

146
00:07:50,580 --> 00:07:52,220
Speaker 6: sceptisch naar dit soort antwoorden kijken.

147
00:07:53,210 --> 00:07:56,710
Speaker 8: Ja, zeker sceptisch. Wat je ziet in hun vragen is

148
00:07:56,750 --> 00:07:59,680
Speaker 8: dat zij... in ieder geval de experts in de eerste

149
00:07:59,690 --> 00:08:04,520
Speaker 8: sessie hebben gevraagd... wat voor handhavingsmogelijkheden hebben we dan eigenlijk?

150
00:08:04,580 --> 00:08:07,160
Speaker 8: En dan wordt er genoemd, er is Europese wetgeving... de

151
00:08:07,180 --> 00:08:10,320
Speaker 8: Digital Services Act, die reguleert die platforms... en dat die

152
00:08:10,360 --> 00:08:14,630
Speaker 8: ook gewoon wel handhavingsmogelijkheden biedt... maar dat daar nog geen

153
00:08:14,670 --> 00:08:18,910
Speaker 8: gebruik van gemaakt wordt... En wat je ziet is dat

154
00:08:18,930 --> 00:08:22,000
Speaker 8: de Kamerleden eigenlijk een beetje aan het vissen en hengelen

155
00:08:22,040 --> 00:08:24,239
Speaker 8: zijn van wat zouden we kunnen. Ik vind het bijvoorbeeld

156
00:08:24,260 --> 00:08:30,160
Speaker 8: ook heel erg opvallend dat mevrouw Rajkowski van de VVD

157
00:08:30,200 --> 00:08:33,199
Speaker 8: ook echt de vraag stelt van is de tijd van

158
00:08:33,250 --> 00:08:35,550
Speaker 8: vrijblijvendheid dan niet voorbij en moeten we niet gaan ingrijpen.

159
00:08:35,569 --> 00:08:38,290
Speaker 8: En dat vind ik voor met name de VVD toch

160
00:08:38,309 --> 00:08:41,510
Speaker 8: wel een interessant standpunt richting bedrijven. En dat geeft mij

161
00:08:41,550 --> 00:08:45,640
Speaker 8: toch wel in ieder geval het teken... dat de Kamerleden

162
00:08:45,679 --> 00:08:48,420
Speaker 8: die er zitten, dat die meer willen. Maar

163
00:08:48,440 --> 00:08:48,900
Speaker 1: ze waren er niet

164
00:08:48,940 --> 00:08:52,790
Speaker 8: allemaal. Ze waren er niet allemaal, dus dat valt ook op.

165
00:08:52,850 --> 00:08:53,570
Speaker 2: Er waren vijf

166
00:08:53,590 --> 00:08:54,530
Speaker 8: partijen, zaten daar...

167
00:08:55,059 --> 00:08:57,780
Speaker 2: Ja, de centrum-linkse partijen zaten daar. Daar komt het eigenlijk

168
00:08:57,820 --> 00:08:59,700
Speaker 2: op neer. Alles op rechts, daar hebben we toch zeven

169
00:08:59,740 --> 00:09:03,420
Speaker 2: fracties tegenwoordig. Nul Kamerleden. De VVD was de meest rechtse

170
00:09:03,450 --> 00:09:07,310
Speaker 2: fractie die aanwezig was. En Rajkovski, die springt er echt uit.

171
00:09:07,350 --> 00:09:10,990
Speaker 2: GroenLinks heeft natuurlijk Barbara Katman... die altijd genoemd wordt bij

172
00:09:11,010 --> 00:09:13,700
Speaker 2: dit dossier... die ook gewoon hele schevere vragen stelt. En

173
00:09:13,720 --> 00:09:15,640
Speaker 2: de anderen, daar hadden Ilias en ik het net al

174
00:09:15,679 --> 00:09:17,380
Speaker 2: even over... die zaten er een klein beetje voor spek

175
00:09:17,420 --> 00:09:19,000
Speaker 2: en bonen bij... want die weten nog niet. Precies. Die

176
00:09:19,020 --> 00:09:20,630
Speaker 2: zijn nog niet slank Kamerlid. Moeten we misschien niet te

177
00:09:20,650 --> 00:09:22,410
Speaker 2: hard oordelen. Maar die weten nog niet precies wat ze

178
00:09:22,429 --> 00:09:22,850
Speaker 2: aan het doen

179
00:09:22,870 --> 00:09:25,380
Speaker 1: zijn. Wat zegt dat dan? Dat rechts helemaal niet komt?

180
00:09:25,420 --> 00:09:26,719
Speaker 1: Afgezien van de VVD, Ilias?

181
00:09:28,440 --> 00:09:32,900
Speaker 8: Nou, ik denk dat... en dit is misschien een beetje

182
00:09:32,920 --> 00:09:35,780
Speaker 8: hard om het zo te zeggen... maar dit zijn vaak

183
00:09:35,800 --> 00:09:38,320
Speaker 8: ook de partijen... in ieder geval de partijen die aan

184
00:09:38,340 --> 00:09:40,760
Speaker 8: de uiterste flanken zitten... die er wat aan hebben als

185
00:09:40,840 --> 00:09:44,200
Speaker 8: er politieke beïnvloeding plaatsvindt... op die platforms. Dus misschien is

186
00:09:44,220 --> 00:09:46,960
Speaker 8: het ook helemaal niet hun interesse... om hier nou heel

187
00:09:47,020 --> 00:09:50,300
Speaker 8: erg stennis over te schoppen... want ze hebben er baat bij.

188
00:09:50,320 --> 00:09:52,540
Speaker 8: Dus dat zou één interpretatie kunnen zijn. Ik wil het

189
00:09:52,559 --> 00:09:54,940
Speaker 8: niet direct zo hard zeggen... maar dat is wel iets

190
00:09:54,960 --> 00:09:55,550
Speaker 8: wat je in het achterhoofd

191
00:09:56,880 --> 00:09:59,010
Speaker 2: En ik moet voor het balans dan ook zeggen... dat

192
00:09:59,030 --> 00:10:00,330
Speaker 2: de SP en de Partij voor de Dieren ook af

193
00:10:00,350 --> 00:10:02,540
Speaker 2: moeten braken. Ja, er zijn wel kleine fracties

194
00:10:02,580 --> 00:10:03,280
Speaker 1: over. Ja, maar die zijn in

195
00:10:03,300 --> 00:10:04,440
Speaker 2: ieder geval aan de linkervleugel

196
00:10:05,070 --> 00:10:09,030
Speaker 1: Dank Mark Beekhuis en ook dank aan tech-columnist Ilias Nasroulis.