System Identification with Multi-Step Least-Squares Methods

• The purpose of system identification is to build mathematical models for dynam-ical systems from experimental data. With the current increase in complexity of engineering systems, an important challenge is to develop accurate and computa-tionally simple algorithms, which can be applied in a large variety of settings.With the correct model structure, maximum likelihood (ML) and the predictionerror method (PEM) can be used to obtain (under adequate assumptions) asymp-totically efficient estimates. A disadvantage is that these methods typically requireminimizing a non-convex cost function. Alternative methods are then needed toprovide initialization points for the optimization.In this thesis, we consider multi-step least-squares methods for identificationof dynamical systems. These methods have a long history for estimation of timeseries. Typically, a non-parametric model is estimated in an intermediate step, andits residuals are used as estimates of the innovations of the parametric model ofinterest. With innovations assumed known, it is possible to estimate the parametricmodel with afinite number of least-squares steps. When applied with an appropriateweighting orfiltering, these methods can provide asymptotically efficient estimates.The thesis is divided in two parts. In thefirst part, we propose two methods:model order reduction Steiglitz-McBride (MORSM) and weighted null-spacefitting(WNSF). MORSM uses the non-parametric model estimate to create a simulateddata set, which is then used with the Steiglitz-McBride algorithm. WNSF is a moregeneral approach, which motivates the parametric model estimate by relating thecoefficients of the non-parametric and parametric models.In settings where different multi-step least-squares methods can be applied, weshow that their algorithms are essentially the same, whether the estimates are basedon estimated innovations, simulated data, or direct relations between the modelcoefficients. However, their range of applicability may differ, with WNSF allowing usto establish a framework for multi-step least-squares methods that is quiteflexible inparametrization. This is specially relevant in the multivariate case, for which WNSFis applicable to a large variety of model structures, including both matrix-fractionand element-wise descriptions of the transfer matrices.We conduct a rigorous statistical analysis of the asymptotic properties of WNSF,where the main challenge is to keep track of the errors introduced by truncationof the non-parametric model, whose order must tend to infinity as function of thesample size for consistency and asymptotic efficiency to be attained. Moreover, weperform simulation studies that show promising results compared with state-of-the-art methods.In the second part, we consider extensions of the developed methods for appli-cability in other settings. These include unstable systems, recursive identification,dynamic networks, and cascaded systems.

• Syftet med systemidentifiering är att bygga matematiska modeller av dynamiskasystem från observerade data. Dagens alltmer komplexa tekniska system har gjortatt behovet av att utveckla noggranna och beräkningseffektiva algoritmer som kananvändas i ett stort antal tillämpningar ökat.Om modellens struktur och ordningstal är korrekta kan maximum likelihood-metoden och prediktionsfelsmetoden användas för att få (under lämpliga förutsät-tningar) asymptotiskt effektiva skattningar. En nackdel med de här metoderna äratt de generellt kräver att en icke-konvex funktion minimeras. I detta fall behövsalternativa metoder för att hitta initieringspunkter åt optimeringen.I denna avhandling betraktasflerstegs-minstakvadratmedoter för identifiering avdynamiska system. Sådana metoder har en lång historia för skattning av tidsserier.Generellt skattas, i ett mellansteg, en icke-parametrisk modell av högt ordningstal,vars residualer används för att skatta innovationerna för den parametriska modellenav intresse. Med innovationer som antas kända är det möjligt att skatta denparametriska modellen med ett ändligt antal av minstakvadratsteg. Sådana metoderkan ofta förse asymptotiskt effektiva skattningar vid användning av korrekt viktningellerfiltrering.Avhandlingen är organiserad i två delar. I första delen föreslås två metoder:modellordningsreduktions-Steiglitz-McBride (MORSM) och viktad nollrumsanpass-ning (WNSF). MORSM använder den icke-parametriska modellen för att simuleradatan, som används för Steiglitz-McBride algoritmen. WNSF är en mer generellmetod, som motiverar den parametriska modellskattningen genom att sätta i relationkoefficienterna för den icke-parametriska och den parametriska modellerna.I tillämpningar där olikaflerstegs-minstakvadratmedoter kan användas, påvisar viatt deras algoritmer är väsentligen lika, vare sig skattningarna kommer från skattadeinnovationer, simulerade data, eller relationerna mellan modellkoeficienterna. Dockkan deras tillämpningsområden variera, och WNSF används då för att utvecklaett ramverk förflerstegs-minstakvadratmedoter som ärflexibelt i parametrisering.Detta är speciellt relevant förflervariabelmodeller, där WNSF kan användas förskattning av många olika modeller, inklusive både matrisfraktion och elementvisbeskrivningar av överföringsmatriserna.En rigorös statistiskt analys av asymptotiska egenskaper utförs för WNSF,som tar hänsyn till hur ordningstalet av den icke-parametriska modellen beror påantalet data så att konsistens och asymptotiskt effektivitet verifieras. Dessutomuförs simuleringar som visar på lovande resultat jämfört med konkurrenskraftigametoder.I andra delen undersöks utvidgningar av de förslagna metoderna. Dessa inkluderarinstabila system, onlineidentifiering, dynamiska nätverk, och kaskadsystem.

Ämnesord

TEKNIK OCH TEKNOLOGIER  -- Elektroteknik och elektronik (hsv//swe)

ENGINEERING AND TECHNOLOGY  -- Electrical Engineering, Electronic Engineering, Information Engineering (hsv//eng)

Nyckelord

Electrical Engineering

Elektro- och systemteknik

Publikations- och innehållstyp

vet (ämneskategori)

dok (ämneskategori)