Stochastic Methods

Prerequisite Knowledge

Probability and statistics

Course Units

#	Title	Description	Hours
1	Introduction	------> Κατ. Δομοστατικού: Εισαγωγή στην έννοια των στοχαστικών ανελίξεων, κύριες κατηγορίες ανελίξεων, μοντελοποίηση αβεβαιοτήτων σε προβλήματα μηχανικού μέσω στοχαστικών ανελίξεων, αναπτύγματα σε σειρά, η έννοια της προσομοίωσης Monte Carlo, ποσοτικοποίηση αβεβαιότητας, ανάλυση αξιοπιστίας κατασκευών και συστημάτων έργων πολιτικού μηχανικού, ο ρόλος των δεδομένων στην επιστήμη του μηχανικού. ------> Κατ. Υδραυλικού: Βασικές έννοιες, ο ρόλος της αβεβαιότητας σε προβλήματα Μηχανικού, χρησιμότητα, τύποι προβλημάτων. Εισαγωγή στις πιθανότητες.	3
2	Simulation	------> Κατ. Δομοστατικού: Μαθηματικός ορισμός, Κλάσεις στοχαστικών ανελίξεων, Στάσιμες/μη-στάσιμες ανελίξεις, Γκαουσιανές/Μη-Γκαουσιανές ανελίξεις, η έννοια της εργοδικότητας, Συνάρτηση Αυτοσυσχέτισης, Φάσμα ισχύος, Παραδείγματα. ------> Κατ. Υδραυλικού: Η έννοια της προσομοίωσης, κατηγορίες προσομοίωσης, χρήσεις της στοχαστικής προσομοίωσης, μοντέλα προσομοίωσης, τυχαίοι αριθμοί. Απλές εφαρμογές προσομοίωσης στην επίλυση προβλημάτων στατιστικής επαγωγής, ολοκλήρωσης Monte Carlo και στοχαστικής βελτιστοποίησης.	3
3	Review of probability theory and statistics	------> Κατ. Δομοστατικού: Αναπτύγματα σε σειρά στοχαστικών ανελίξεων, Η μέθοδος Karhunen-Loeve, Η μέθοδος της φασματικής απεικόνισης, η μέθοδος του πολυωνυμικού χάους, Εφαρμογή στην παραγωγή χρονοϊστοριών επιτάχυνσης σεισμού, Εφαρμογή στην επίλυση στοχαστικών διαφορικών εξισώσεων ------> Κατ. Υδραυλικού: Γενικές έννοιες, τυχαίες μεταβλητές, στατιστικές παράμετροι, στατιστική εκτίμηση, πιθανοτικές κατανομές και προσαρμογή τους. Η έννοια της εντροπίας και μεγιστοποίησή της. Εφαρμογή στη στατιστική ανάλυση υδρολογικών χρονοσειρών.	6
4	Stochastic processes and time series	------> Κατ. Δομοστατικού: Η μέθοδος προσομοίωσης Monte Carlo, Ο νόμος των μεγάλων αριθμών, γεννήτριες τυχαίων αριθμών, Κεντρικό οριακό θεώρημα, Εφαρμογή στον υπολογισμό ολοκληρωμάτων, Importance Sampling, Μέθοδοι ελέγχου σύγκλισης, Εφαρμογές σε προβλήματα μηχανικού, Ανάλυση αξιοπιστίας των Κατασκευών.-------> Κατ. Υδραυλικού: Στοχαστικές ανελίξεις και χρονοσειρές. Η έννοια της στασιμότητας και της εργοδικότητας. Αυτοσυσχέτιση, ετεροσυσχέτιση, κλιμακόγραμμα. Ανελίξεις συνεχούς και διακριτού χρόνου. Δειγματοληψία και χρονοσειρές. Λευκός θόρυβος. Εφαρμογή στη στοχαστική ανάλυση υδρολογικών χρονοσειρών.	6
5	Spectral analysis	------> Κατ. Δομοστατικού: Μεγάλα Δεδομένα (Big Data) σε προβλήματα μηχανικού και μοντέλα οδηγούμενα από τα δεδομένα. Μέθοδοι εξαγωγής δεδομένων, ανάλυση δεδομένων, στατιστική επεξεργασία και ερμηνεία. ------> Κατ. Υδραυλικού: Ο μετασχηματισμός Fourier και η χρησιμότητά του στην επίλυση ολοκληρωτικών εξισώσεων. Συνέλιξη. Ο μετασχηματισμός Fourier της αυτοσυνδιασποράς και το φάσμα ισχύος. Εκτίμηση του φάσματος ισχύος από χρονοσειρές. Υπολογιστικά θέματα του φάσματος ισχύος.	3
6	Μοντέλα οδηγούμενα από τα δεδοιμένα (Δ), Στάσιμα στοχαστικά μοντέλα μιας μεταβλητής (Υ)	------> Κατ. Δομοστατικού: Μηχανική Μάθηση για τη διαχείριση Μεγάλων Δεδομένων, Τεχνικές Μείωσης Διαστατικότητας και Εφαρμογές σε προβλήματα μηχανικού ------> Κατ. Υδραυλικού: Μοντέλα διακριτού χρόνου. Τα μοντέλα AR(1), AR(2), ARMA(1,1), και γενικεύσεις τους. Η γενική μέθοδος προσομοίωσης ανέλιξης με τον αλγόριθμο SΜΑ. Προσαρμογή στοχαστικών μοντέλων σε ιστορικές χρονοσειρές και παραγωγή συνθετικών χρονοσειρών.	6
7	Univariate and stationary stochastic models	------> Κατ. Δομοστατικού: Υυποκατάστατη μοντελοποίησης σε παραμετρικά προβλήματα μηχανικού, χρήση στοχαστικών μοντέλων και αλγορίθμων μηχανικής μάθησης για την ανάπτυξη υποκατάστατων μοντέλων. Επιτάχυνση της μεθόδου Monte Carlo, Εφαρμογή σε προβλήματα ανάλυσης αξιοπιστίας των κατασκευών. ------> Κατ. Υδραυλικού: Εμπειρική τεκμηρίωση της ύπαρξης μακροπρόθεσμης εμμονής. Θεωρητική τεκμηρίωση με βάση την μεγιστοποίηση παραγωγής εντροπίας. Η ανέλιξη Hurst-Kolmogorov και απλοί τρόποι προσομοίωσής της. Ανάλυση της επίδρασης της μακροπρόθεσμης εμμονής στην διαθεσιμότητα των υδατικών πόρων και στον σχεδιασμό έργων αξιοποίησής τους.	6
8	Long term persistence and simpe scaling processes	------> Κατ. Δομοστατικού: H Μέθοδος της Μπεϋζιανής επικαιροποίησης, Επικαιροποίηση υπολογιστικών προσομοιώματων με χρήση πειραματικών δεδομένων, Αλγόριθμοι δειγματολοψίας, Μαρκοβιανές Αλυσίδες, Markov Chain Monte Carlo Methods, αλγόριθμος Metropolis-Hastings. Εφαρμογές σε προβλήματα ανάλυσης κατασκευών. ------> Κατ. Υδραυλικού: Εισαγωγή στα κυκλοστάσιμα μοντέλα. Τα μοντέλα PAR και PARSMA. Εφαρμογή στον σχεδιασμό ταμιευτήρα και τη στοχαστική ανάλυση αξιοπιστίας. Υπενθύμιση εννοιών γραμμικής άλγεβρας. Διανυσματικές τυχαίες μεταβλητές και χειρισμός τους. Μητρώα συνδιασποράς. Το πολυμεταβλητό κυκλοστάσιμο μοντέλο PAR. Εφαρμογή στη διαχείριση συστήματος ταμιευτήρων.	3

Learning Objectives

• Familiarization with uncertainty, inherent in complex but also in simple systems.
• Understanding the potential of Monte Carlo simulation for stochastic numerical problems as well as in deterministic ones.
• Familiarization with stochastic calculus.
• Learning how to use simple stationary and cyclostationary stochastic models for simulation purposes.
• Understanding the notion of persistence and its effect on the uncertainty increase and the design of engineering projects.
• Familiarization with stochastic process simulation methods and their relation to the corresponding physical processes.
• Understanding the formulation and solution of structural mechanics problems in the presence of uncertain parameters.
• Understanding the effect of uncertainties in the analysis and design of structures.

Teaching Methods

Teaching methods	Teaching of theory and its application in examples at the PC Lab (mostly using Excel and Visual Basic and Matlab).
Teaching media	Use of power point presentations
Laboratories	Use of PC Lab
Computer and software use	Formulation and solution of complex simulation and optimization problems in spreadsheets
Problems - Applications	Simple classroom exercises
Assignments (projects, reports)	Seven computational exercises which cover the topics of the course: 1. Emergence of uncertainty in simple deterministic models. 2. Fitting of probability distributions on time series data. 3. Fitting of stochastic models.on time series data. 4. Using stochastic simulation in reservoir design. 5. Using cyclostationary and multivariate models. 6. Synthetic accelerogram generation using Matlab. 7. Implementation of Monte Carlo simulation on simple beams with uncertainties in material properties.
Other	The students are encouraged to prepare and present their research work in the international conference of the European Geosciences Union at Vienna. This effort is supervised and guided from the teaching stuff of the course.

Student Assessment

• Final written exam: 50%
• Assignments (projects, reports): 50%

Textbooks - Bibliography

The full course material, which includes lecture notes, presentations and problems of past exams, as well as references to research publications and related websites, is available on the course website.

1. D. Koutsoyiannis, Statistical Hydrology, Edition 4, 312 pages, doi:10.13140/RG.2.1.5118.2325, National Technical University of Athens, Athens, 1997 (in Greek).

2. D. Koutsoyiannis, Probability and statistics for geophysical processes, doi:10.13140/RG.2.1.2300.1849/1, National Technical University of Athens, Athens, 2008.

3. V. Papadopoulos, and D.G. Giovanis, Stochastic Finite Elements - An Introduction, doi:10.1007/978-3-319-64528-5, Springer, 2018.

Lecture Time - Place:

• Wednesday, 12:45 – 16:30,
  Rooms:
  • Κτ. Διοίκησης, PC Lab Σχολής