Defense of Cyber-Physical Systems Against Learning-based Attackers

• Cyberattacks against critical infrastructures pose a serious threat to society, as they can have devastating consequences on the economy, security, or public health. These infrastructures rely on a large network of cyber components, such as sensors, controllers, computers, and communication devices, to monitor and control their physical processes. An adversary can exploit the vulnerabilities in these cyber components to gain access to the system and manipulate its behavior or functionality.This thesis proposes methods that can be employed as a first line of defense against such attacks for Cyber-Physical Systems. In the first part of the thesis, we consider how uninformed attackers can learn to attack a Cyber-Physical System by eavesdropping through the cyber component. By learning to manipulate the plant, the attacker could figure out how to destroy the physical system before it is too late or completely take it over without raising any alarms. Stopping the attacker at the learning stage would force the attacker to act obliviously, increasing the chances of detecting them.We analyze how homomorphic encryption, a technique that allows computation on encrypted data, hinders an attacker's learning process and reduces its capabilities to attack the system. Specifically, we show that an attacker must solve challenging lattice problems to find attacks that are difficult to detect. Additionally, we show how the detection probability is affected by the attacker's solution to the problems and what parameters of the encryption scheme can be tweaked to increase the detection probability. We also develop a novel method that enables anomaly detection over homomorphically encrypted data without revealing the actual signals to the detector, thereby discouraging attackers from launching attacks on the detector. The detection can be performed using a hypothesis test. However, special care must be taken to ensure that fresh samples are used to detect changes from nominal behavior. We also explore how the adversary can try to evade detection using the same test and how the system can be designed to make detection easier for the defender and more challenging for the attacker.In the second part of the thesis, we study how information leakage about changes in the system depends on the system's dynamics. We use a mathematical tool called the Hammersley-Chapman-Robbins lower bound to measure how much information is leaked and how to minimize it. Specifically, we study how structured input sequences, which we call events, can be obtained through the output of a dynamical system and how this information can be hidden by adding noise or changing the inputs. The system’s speed and sensor locations affect how much information is leaked. We also consider balancing the system’s performance and privacy when using optimal control. Finally, we show how to estimate when the adversary’s knowledge of the event becomes accurate enough to launch an attack and how to change the system before that happens. These results are then used to aid the operator in detecting privacy vulnerabilities when designing a Cyber-Physical System, which increases the overall security when removed.

• Cyberattacker mot kritisk infrastruktur utgör ett allvarligt hot mot samhället, eftersom de kan få förödande konsekvenser för ekonomin, säkerheten eller folkhälsan. Dessa infrastrukturer utgörs ofta av ett stort nätverk av cyberkomponenter, såsom sensorer, styrenheter, datorer och kommunikationsenheter, för att övervaka och styra sina fysiska processer. En angripare kan utnyttja sårbarheterna i dessa cyberkomponenter för att få tillgång till systemet och därefter manipulera dess beteende eller funktionalitet.Denna avhandling behandlar och föreslår metoder som kan användas som en första försvarslinje mot sådana attacker för cyberfysiska system. I den första delen av avhandlingen undersöker vi hur oinformerade angripare kan lära sig att attackera ett cyberfysiskt system genom att avlyssna dem via cyberkomponenten. Genom att lära sig att manipulera det fysiska systemet kan angriparen ta reda på hur man kan förstöra, eller helt ta över det cyberfysiska systemet utan att något alarm går av förrän det är försent. Genom att stoppa angriparen i inlärningsfasen tvingas angriparen att agera mer omedvetet, vilket ökar chanserna att upptäcka dem.Vi analyserar hur homomorf kryptering, vilket är en krypteringsmetod som möjliggör beräkning med krypterad data, hindrar angriparens inlärnings-process och minskar dess förmåga att attackera systemet. Specifikt visar vi att en angripare måste lösa svåra gitterproblem för att hitta svårdetekterade cyberattacker. Dessutom visar vi hur detektionssannolikheten påverkas av hur bra angriparens lösning är och vilka parametrar i krypteringsschemat som kan justeras för att öka sannolikheten att upptäcka anfallet. Vi utvecklar också en ny metod som möjliggör anomalidetektering över homomorft krypterade data, utan att avslöja de faktiska signalerna för detektorn och därmed avskräcka angripare från att attackera detektorn. Detektionen kan utföras med hjälp av ett hypotestest. Dock måste man se till att färska prover används för att upptäcka förändringar från normalt beteende. Vi undersöker också hur angriparen kan försöka undvika detektion genom att använda samma test, och hur systemet kan utformas för att göra detektionen enklare för försvararen och svårare för angriparen.I den andra delen av avhandlingen studerar vi hur informationsläckage om förändringar i systemet beror på dess dynamik. Vi använder ett matematiskt verktyg som kallas Hammersley-Chapman-Robbins undre gräns för att mäta hur mycket information som läcker ut och hur man minimerar den. Specifikt studerar vi hur strukturerade insignalssekvenser, som vi kallar händelser, kan uppskattas genom mätningar från ett dynamiskt system och hur denna information kan döljas genom att lägga till brus eller ändra insignalerna. Systemets hastighet och sensorplaceringar påverkar hur mycket information läcker ut. Vi behandlar också frågan om hur man balanserar systemets prestanda och integritet när vi använder optimal styrning. Slutligen visar vi hur man uppskattar när angriparens kunskap om händelsen blir tillräckligt noggrann för att starta en attack och hur man ändrar systemet innan det händer. Dessa resultat används sedan för att hjälpa operatören att upptäcka integritetsbrister vid utformningen av ett cyberfysiskt system, vilket ökar den totala säkerheten när de tas bort.

Ämnesord

TEKNIK OCH TEKNOLOGIER  -- Elektroteknik och elektronik -- Reglerteknik (hsv//swe)

ENGINEERING AND TECHNOLOGY  -- Electrical Engineering, Electronic Engineering, Information Engineering -- Control Engineering (hsv//eng)

Nyckelord

Control Theory

Security

Privacy

Machine Learning

Cyber-Physical Systems

Change Point Problems

Electrical Engineering

Elektro- och systemteknik

Publikations- och innehållstyp

vet (ämneskategori)

dok (ämneskategori)