Copilot kan inhoud toevoegen op basis van AI (Artificial Intelligence) in de werkomgeving van Microsoft 365, bijvoorbeeld om samenvattingen en voorstellen schrijven. In feite is het een zoek-, schrijf-, reken- en programmeerhulp. In Bing zie je de Copilot automatisch, bij de andere programma’s kan die worden toegevoegd met een abonnement.

De werking is eenvoudig weergegeven in korte filmpjes, zoals voor Word en voor Powerpoint. Het gehannes met bijvoorbeeld het maken van een presentatie is niet meer nodig, maar cruciaal wordt nu het juist formuleren van opdrachten, oftewel de ‘prompting’. Dat vereist veel proberen en het opbouwen van ervaring.

Schermen toetsen vastgelegdHet vernuft van Copilot is gebaseerd op drie elementen: genoemde programma’s, het zelflerend taalmodel van ChatGPT en een grote hoeveelheid gegevens, alle documenten, e-mails, presentaties etc. Die worden verzameld, in een organisatie van iedereen samen, en vormen de zogenoemde Microsoft Graph.

Teneinde alles te laten terugvinden heeft Microsoft de functie Recall (Herinnering) geïntroduceerd, een soort van 'fotografisch' geheugen. Dat is de opstelsom van wat je eerder hebt gezien en gedaan in apps, zoals bezochte websites, afbeeldingen en documenten; geen video en audio.

Hoe wordt dit gedaan? Elke toetsaanslag wordt vastgelegd, en om de paar seconden een schermafbeelding.

Geheime opslag

Met een AI-chip kunnen de vastgelegde schermopnames worden geanalyseerd. Dergelijke chips zitten in de nieuwe generatie Windows PCs die zijn ontworpen voor AI toepassingen; zogenaamde Copilot+ PCs. Hiermee gaat Microsoft nog een flinke stap verder dan de mogelijkheden die Co-pilot al biedt in de Office 365 toepassingen op de PCs die geen AI-chip hebben.

Deze nieuwe generatie hardware Copilot+ is veel krachtiger dan ‘normale’ PC's. De gebruikte AI-chip kan wel zo’n 40 triljoen bewerkingen per seconde aan. Bovendien is de chip energiezuinig, waardoor een batterij op een laptop de hele dag meegaat ondanks de toename van gebruikte rekenkracht. De Copilot+ PC’s hebben toegang tot de AI-modellen. Recall legt vast wat er met je PC is gedaan en vastgelegd. Met Cocreator kun je in bijna realtime, direct op het apparaat, AI-beelden, genereren en verfijnen, een opwaardering van het aloude Paint. Met Live Captions, tenslotte, kun je gesproken woord uit meer dan 40 talen vertalen. Dat werkt ook op bijvoorbeeld Android

De aldus vastgelegde gegevens slaat de PC drie maanden lang versleuteld op in een daarvoor gereserveerde ruimte van 50 Gigabyte. De bijbehorende map is echter nergens terug te vinden in de verkenner of op andere manier. Met behulp van client-side scanning technologie is het voor Windows toepassingen mogelijk om alle gegevens voorafgaande aan de versleuteling, te evalueren. Apple iOS kan dat al enige tijd. Deze mogelijkheid is eigenlijk ontwikkeld om illegale content te kunnen detecteren, voor het geval bijvoorbeeld de Europese wetgever hiertoe zou verplichten.

De grote risico’s

Dat laatste is echter vooralsnog niet gebeurd vanwege de inbreuk op de grondrechten. Bovendien is het een beveiligingsrisico, want met malware - bijvoorbeeld ingebouwd in een virusscanner - zou ook een hacker zich toegang kunnen verschaffen tot de gegevens voordat die op het apparaat worden versleuteld.

 Ondertussen is de mogelijkheid van client-side scanning wel ingebouwd en zou die ook voor andere doeleinden gebruikt kunnen worden, bijvoorbeeld voor het trainen van AI toepassingen. Het is onduidelijk of dat al wel of niet gebeurt. Bovendien kan eenieder die toegang heeft tot de versleutelde folder, alles wat je op je computer hebt gedaan, terughalen.

Tijdens de installatie van Windows kun je Recall overigens wel uitzetten, maar elke nieuwe gebruiker in je huishouden die je toevoegt zal zelf opnieuw de beslissing moeten nemen om dit wel of niet te doen.

Data voor reclame

Belangrijke vragen zijn: wie heeft er baat heeft bij deze Recall feature van Microsoft? Zijn dat de gebruikers? Zijn dat de IT-beheerders binnen bedrijven en overheidsorganisaties? Of eerder de opsporingsdiensten? Of wellicht autoritaire regimes? Of is het eerder een slimme commerciële zet van Microsoft om een inhaalslag te maken op Google?

Google weet immers al heel erg veel van zijn gebruikers; voor Microsoft was het nauwgezet volgen van de handel en wandel van gebruikers geen overheersend verdienmodel. Maar misschien wordt het dat alsnog? Kan Microsoft toezichthouders toegang geven tot de logbestanden op je apparaat? Wat als de versleuteling wordt doorbroken door hackers, of bestanden in vreemde handen komen als je je apparaat (telefoon, laptop) verliest?

Zo staat in de aangepaste privacyverklaring van Microsoft onder “Mogelijkheden voor kunstmatige intelligentie en Microsoft Copilot” dat het Copilot-product voor consumenten de verzamelde gegevens gebruikt om de Copilot-services aan te bieden en te verbeteren, inclusief het aanbieden van relevante reclame.

KPN doet mee

Copilot-producten die zijn ontworpen voor zakelijke gebruikers die zijn aangemeld met hun Entra ID en die toegang willen krijgen tot Copilot-services van consumenten, krijgen Copilot aangeboden met commerciële gegevensbescherming, “waardoor het verzamelen van gegevens wordt geminimaliseerd en het gebruik consistent is met de verwachtingen van zakelijke gebruikers”.

Microsoft Entra ID Protection is een tool voor IT-beheerders en SOC-analisten (Security Operations Center). De vraag is derhalve wat dit in de praktijk betekent en in welke mate genoemde beheerders en analisten toegang kunnen krijgen tot de gegevens van gebruikers.

Voorzichtig begin

In juni 2024 kondigde Microsoft aan dat het had besloten de Recall-functie niet beschikbaar te stellen bij de release van Copilot+ PC's. Op 21 augustus 2024 liet Microsoft weten dat het de Recall (preview) ervaring op Copilot+ PC's voor klanten vanaf oktober voor testdoeleinden beschikbaar zal stellen aan beveiligingsexperts en ontwikkelaars die deelnemen aan het Windows Insiders-programma voor ontwikkelaars.

In september organiseerde KPN in samenwerking met Microsoft een aantal bijeenkomsten om het gebruik van Microsoft Copilot in Nederland te promoten onder het motto “Ontdek veilig thuiswerken met Microsoft Copilot”. KPN werkt dus nauw met Microsoft samen voor zakelijke klanten.

De vraag is of KPN zich voldoende realiseert wat de mogelijke impact is van de dienst op de rechten en vrijheden van de gebruikers? Heeft KPN een beoordeling uitgevoerd van de effecten op de gegevensbescherming conform de AVG, een zogenoemde DPIA? Wie kunnen er bij je gegevens? Kun je ze als gebruiker zelf inzien en verwijderen? Wie is er verantwoordelijk is voor de gegevensbescherming in organisaties?

Hoe gaat KPN zelf met de gegevens om? En Microsoft zelf? Ten aanzien van welke organisatie kunnen gebruikers hun AVG-rechten uitoefenen? Wat kunnen IT-beheerders en SOC analisten zoal doen met Recall in Windows?

Allemaal vragen waarop juristen zich in de nabije toekomst antwoorden op zullen moeten gaan vinden.

*)  Ad van Loon is strategisch juridisch adviseur