Adversarial AI in het cyberdomein
report
Welke dreigingen zijn er verbonden aan het gebruik van AI? Dat is waar TNO inzicht in geeft, aan de hand van het recente onderzoek naar de kwetsbaarheden van AI-toepassingen in het cyberdomein.
Artificial Intelligence (AI)-systemen gebruiken grote hoeveelheden data om beslissingen te maken in een complex systeem (AI HLEG, 2020). Wanneer de AI zelf leert van data, maakt het gebruik van Machine Learning (ML). Dat zijn
computerprogramma’s die automatisch en efficiënt leren door ervaring op te doen (Mitchell, 1997).
Naast civiele toepassingen heeft AI ook veel potentie in het veiligheidsdomein, aangezien een significant onderdeel van de activiteiten daar afhangen van het maken van beslissingen op basis van de juiste informatie (Swillens, 2022). Dit maakt de mogelijkheid van AI-toepassingen binnen defensie een relevante optie.
Tegenwoordig heeft AI bijvoorbeeld al een belangrijke rol binnen het verzamelen van informatie, net als bij het besturen van (semi-)autonome voertuigen, zoals drones (Xue, Yuan, Wu,Zhang & Liu, 2020; Araya & King, 2022).
Maar hoe robuust die AI-systemen tegen externe dreigingen zijn, dient zorgvuldig in kaart te worden gebracht alvorens ze grootschalig ingezet kunnen worden.
TNO helpt hieraan mee door middel van onderzoek naar de stand van zaken op gebied van de robuustheid van AIsystemen. Dit artikel geeft een overzicht van de conclusies van dat onderzoek.
Artificial Intelligence (AI)-systemen gebruiken grote hoeveelheden data om beslissingen te maken in een complex systeem (AI HLEG, 2020). Wanneer de AI zelf leert van data, maakt het gebruik van Machine Learning (ML). Dat zijn
computerprogramma’s die automatisch en efficiënt leren door ervaring op te doen (Mitchell, 1997).
Naast civiele toepassingen heeft AI ook veel potentie in het veiligheidsdomein, aangezien een significant onderdeel van de activiteiten daar afhangen van het maken van beslissingen op basis van de juiste informatie (Swillens, 2022). Dit maakt de mogelijkheid van AI-toepassingen binnen defensie een relevante optie.
Tegenwoordig heeft AI bijvoorbeeld al een belangrijke rol binnen het verzamelen van informatie, net als bij het besturen van (semi-)autonome voertuigen, zoals drones (Xue, Yuan, Wu,Zhang & Liu, 2020; Araya & King, 2022).
Maar hoe robuust die AI-systemen tegen externe dreigingen zijn, dient zorgvuldig in kaart te worden gebracht alvorens ze grootschalig ingezet kunnen worden.
TNO helpt hieraan mee door middel van onderzoek naar de stand van zaken op gebied van de robuustheid van AIsystemen. Dit artikel geeft een overzicht van de conclusies van dat onderzoek.
TNO Identifier
982226
Publisher
TNO
Collation
17 p.
Place of publication
Den Haag