St-cours

I NTRODUCTION

AUX SÉRIES TEMPORELLES

Julien JACQUES http://eric.univ-lyon2.fr/∼jjacques/

Table des matières 1 Introduction et premières définitions 1.1 Tendances et composantes saisonnières . 1.2 Indices descriptifs d’une série temporelle 1.2.1 Indices de tendance centrale . . . 1.2.2 Indices de dispersion . . . . . . . 1.2.3 Indices de dépendance . . . . . . 1.3 Mise en oeuvre sous R . . . . . . . . . .

. . . . . .

5 7 8 8 8 8 10

2 TP 1 : Introduction 2.1 Données de varicelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2 Simulations de séries temporelles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

11 11 11

3 Lissages exponentiels 3.1 Lissage exponentiel simple . . . . . . . . . 3.2 Lissage exponentiel double . . . . . . . . . 3.3 Méthode de Holt-Winters . . . . . . . . . . 3.3.1 Méthode non saisonnière . . . . . . 3.3.2 Méthode saisonnière additive . . . . 3.3.3 Méthode saisonnière multiplicative 3.4 Mise en oeuvre sous R . . . . . . . . . . .

. . . . . . .

12 12 13 13 13 14 14 15

4 TP 2 : Lissage Exponentiel 4.1 Lissage et prévision de données simulées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.2 Lissage et prévision de la concentration en co2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3 Lissage et prévision du CAC40 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

20 20 20 20

5 Estimation et élimination de la tendance et de la saisonnalité 5.1 Bruit blanc . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2 Processus stationnaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.3 Une estimation paramétrique de la tendance (trend) . . . . . . . . . . . . . . 5.4 Estimation non paramétrique : moyenne mobile . . . . . . . . . . . . . . . . 5.5 Elimination de la tendance et de la saisonnalité par la méthode des différences 5.6 Test sur la série résiduelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.6.1 Comment tester si on est en présence d’un bruit blanc ? . . . . . . . . 5.7 Mise en oeuvre sous R . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . .

21 21 21 21 22 25 25 27 27

6 TP 3 : Tendance et saisonnalité 6.1 Données AirPassengers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.2 Données simulées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

28 28 28

7 Modélisation des séries stationnaires 7.1 Auto-corrélation partielle . . . . . . . . . . . . . . . . . . . . . . . 7.2 Les processus auto-régressifs ARp . . . . . . . . . . . . . . . . . . 7.2.1 Exercice : cas particulier de l’AR1 . . . . . . . . . . . . . . 7.2.2 Illustrations . . . . . . . . . . . . . . . . . . . . . . . . . . 7.3 Les processus en moyenne mobile M Aq . . . . . . . . . . . . . . . 7.3.1 Exercice : cas particulier du M A1 . . . . . . . . . . . . . . 7.3.2 Illustrations . . . . . . . . . . . . . . . . . . . . . . . . . . 7.4 Les processus mixtes ARM Ap,q . . . . . . . . . . . . . . . . . . . 7.4.1 Exercice : le processus ARM A1,1 . . . . . . . . . . . . . . 7.4.2 Illustrations . . . . . . . . . . . . . . . . . . . . . . . . . . 7.5 Récapitulatif des propriétés des processus M Aq , ARp et ARM Ap,q

29 29 29 30 31 31 31 31 39 39 39 41

. . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

2

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . .

. . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . .

. . . . . . .

. . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

7.6

Estimation, choix de modèle et prévision . 7.6.1 Estimation . . . . . . . . . . . . 7.6.2 Choix de modèle . . . . . . . . . 7.6.3 Prévision . . . . . . . . . . . . .

. . . .

41 41 41 42

8 Processus non stationnaire : ARIMA et SARIMA 8.1 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8.2 Les processus ARIMA et SARIMA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8.3 Mise en oeuvre sous R : processus ARMA, ARIMA, SARIMA . . . . . . . . . . . . . . . . . . . . .

43 43 43 44

9 TP 4 : Processus ARMA et ARIMA 9.1 Simulation de processus ARMA . . . . . . . . . . . . . . . 9.2 Identification d’un processus ARMA . . . . . . . . . . . . . 9.3 Prévision dans un processus ARMA . . . . . . . . . . . . . 9.4 Précipitations mensuelles à San Fransisco entre 1932 et 1966 9.5 Taux d’intérêt au Royaume-Uni . . . . . . . . . . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

45 45 45 45 45 46

10 Processus ARCH et GARCH 10.1 Définitions . . . . . . . . . . . . 10.2 Quelques rappels de probabilités 10.3 Propriétés des processus ARCH 10.4 Processus GARCH et propriétés 10.5 Mise en oeuvre sous R . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

47 48 48 48 49 49

11 TP 5 : Processus ARCH et GARCH 11.1 Données simulées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11.2 Données réelles EuStockMarkets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11.3 Données réelles : NYSE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

50 50 50 50

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

Ce document est uniquement un support de cours, et ne constitue pas à lui seul un cours sur les séries temporelles. Les différentes démonstrations, applications et exercices nécessaires à la compréhension des notions présentées dans ce document n’y figurent pas (ou alors sous la forme d’exercice), mais seront développés en cours. A la fin de chaque chapitre figurent les commandes R nécessaires à l’application des notions du chapitre.

4

1 Introduction et premières définitions Une série temporelle (ou série chronologique) à temps discret est une suite réelle finie (xt )1≤t≤n , où t représente le temps (en minute, jour, année...).

9000 7000

8000

USAccDeaths

10000

11000

Voici quelques exemples de séries temporelles : – Ex. 1 : Nombre de morts accidentelles aux Etats-Unis de 1973 à 1978 (figure 1).

1973

1974

1975

1976

1977

1978

1979

Time

F IGURE 1 – Nombre de morts accidentelles aux Etats-Unis de 1973 à 1978

400 300 200 100

AirPassengers

500

600

– Ex. 2 : Nombre de passagers par mois (en milliers) dans les transports aériens, de 1949 à 1960 (figure 2).

1950

1952

1954

1956

1958

1960

Time

F IGURE 2 – Nombre de passagers (en milliers) dans les transports aériens

5

100 0

50

sunspot.year

150

– Ex. 3 : Nombre annuel de tâches solaires observées à la surface du soleil de 1700 à 1980 (figure 3).

1700

1750

1800

1850

1900

1950

Time

F IGURE 3 – Nombre annuel de tâches solaires – Ex. 4 : Taille de la population française (en milliers) de 1985 à 2005 (figure 4).

F IGURE 4 – Population française de 1985 à 2005

3500 3000 2500 1500

2000

EuStockMarkets[, 3]

4000

– Ex. 5 : Valeurs de clôtures journalières du CAC40 de 1991 à 1998 (figure 11).

1992

1993

1994

1995

1996

1997

1998

Time

F IGURE 5 – Valeurs de clôtures journalières du CAC40 de 1991 à 1998 Excepté l’exemple 4, ces données sont disponibles dans le logiciel R sous les noms : EuStockMarkets, USAccDeaths, AirPassengers et sunspot.year.

6

Exercice 1. Repérer les tendances (croissance, décroissance, linéaire, quadratique...) et saisonnailités (périodicités) de chacune de ces séries. Un des objectifs principaux de l’étude d’une série temporelle est la prévision des réalisations futures, très souvent pour des raisons économiques (prévoir l’évolution de la vente d’un produit pour ajuster au mieux les moyens de production, prévoir l’évolution d’un marché financier ...). Bien entendu, aucun modèle ne correspond exactement à la réalité, et il est impossible de prévoir parfaitement le devenir d’une série temporelle. Lorsque cela sera possible, nous donnerons des intervalles de prévisions, afin de pouvoir apporter une information quant à la précision de la prévision. Pour ce faire, il existe un large choix de modèle utilisable : – les modèles de régression, comme par exemple : xt = α1 t2 + α2 t + α3 + ǫt ,

t = 1, . . . , n.

Une fois les coefficients de ce modèle estimés, la prévision de xt+1 sera x ˆt+1 = αˆ1 (t + 1)2 + α ˆ 2 (t + 1) + α ˆ3 . – les lissages exponentiels qui sont très simples à mettre en oeuvre, et qui feront l’objet d’un chapitre suivant, – les modèles de type ARMA, qui consistent à enlever de la série les tendances et saisonnalités (ou périodicités) évidentes et à modéliser le résidu restant. Ces méthodes sont plus sophistiquées et plus lourdes numériquement (temps de calcul) que les précédentes, mais également plus performantes. Parmi les 5 exemples précédents, celui relatif au nombre de passagers dans les transports aériens (figure 2) est une série assez typique de ce que l’on rencontre en économétrie, et elle donne lieu à de bonnes prévisions pour toutes les méthodes classiques. Au contraire, l’évolution des marchés boursiers (figure 11) est beaucoup plus difficile à prévoir. Les défis que nous allons devoir relever sont les suivants : – définir un modèle avec un nombre fini de paramètres, – estimer les paramètres de ce modèle, – vérifier la qualité d’ajustement du modèle, comparer différents modèles (partage de l’échantillon d’observations en 80% pour l’apprentissage et 20% pour le test), – effectuer des prédictions.

1.1 Tendances et composantes saisonnières On parle de tendance lorsque la série (xt )1≤t≤n peut s’écrire, à une erreur d’ajustement ǫt près, comme une combinaison linéaire de m fonctions du temps, choisies a priori (par exemple fonction puissance, exponentielle, logarithmique...) : xt =

m X

αj fj (t) + ǫt

1 ≤ t ≤ n.

j=1

Lorsque xt = αt + β + ǫt la tendance est linéaire (m = 1 et f (t) = αt + β). Une tendance polynomiale se traduira par xt = α1 tp + αp−1 tp−1 + . . . + αp+1 + ǫt . Exercice 2. Comment semble être la tendance dans l’exemple 5 ? On parle de composante périodique lorsque la série (xt )1≤t≤n peut se décomposer en : 1 ≤ t ≤ n,

xt = st + ǫt

où st est périodique, c’est-à-dire st+T = st , avec T la période (supposée entière). Lorsque la période est de 6 mois ou 1 an, on parle généralement de composante saisonnière. Enfin, il est fréquent qu’une série comporte à la fois une tendance et une composante périodique (cf. exemple 2).

7

1.2 Indices descriptifs d’une série temporelle 1.2.1 Indices de tendance centrale Nous utilisons comme indicateur de la tendance centrale la moyenne : n

x¯n =

1X xt . n t=1

1.2.2 Indices de dispersion Nous utilisons comme indicateur de dispersion la variance empirique (et sa racine carrée, l’écart-type empirique) : n

σ ˆn (0) =

1X (xt − x ¯n )2 . n t=1

1.2.3 Indices de dépendance Ces notions, plus spécifiques à l’étude de série temporelle, renseignent sur la dépendance entre les données xt . Auto-covariance L’auto-covariance empirique d’ordre 1 renseigne sur la dépendance entre deux données successives : σ ˆn (1) =

n−1 1 X (xt − x ¯n )(xt+1 − x ¯n ), n − 1 t=1

l’auto-covariance empirique d’ordre 2 renseigne sur la dépendance entre deux données écartées de deux pas de temps : σ ˆn (2) =

n−2 1 X (xt − x ¯n )(xt+2 − x ¯n ), n − 2 t=1

et ainsi de suite. Pour des raisons de bon sens statistique, nous ne considèrerons les covariances empiriques que jusqu’à un ordre h pas trop grand. On appelle fonction d’auto-covariance (empirique) la fonction qui à h associe σ ˆn (h). Auto-corrélation Les auto-corrélations empiriques sont les quotients des covariances empiriques par la variance empirique : ρˆn (h) =

σ ˆn (h) . σ ˆn (0)

Ce sont les auto-corrélations empiriques que nous utiliserons pour caractériser la dépendance entre les variables. On appelle fonction d’auto-corrélation (empirique) la fonction qui à h associe ρˆn (h).

Visualisation de l’auto-corrélation d’ordre 1 La représentation graphique des nuages de points (xt , xt+1 ), pour t = 1, . . . , n − 1, est une bonne illustration de la valeur de l’auto-corrélation d’ordre 1 ρˆn (1) : plus le nuage sera arrondi, plus ρˆn (1) sera proche de 0, et plus le nuage sera allongé, plus ρˆn (1) sera proche de 1. Ceci est vrai pour toutes les auto-corrélations ρˆn (k), 1 ≤ k ≤ n.

8

11000

11000

7000

9000

11000

11000

x[7:length(x)]

11000

11000

9000

x[1:(length(x) − 3)]

7000

7000

9000

x[6:length(x)]

11000 9000

9000

x[1:(length(x) − 2)]

7000

x[5:length(x)]

x[1:(length(x) − 1)]

7000

11000 7000

7000

9000

9000

9000

x[4:length(x)]

11000 7000

9000

x[3:length(x)]

11000 9000 7000

x[2:length(x)]

7000

7000

x[1:(length(x) − 4)]

9000

11000

7000

x[1:(length(x) − 5)]

9000

11000

x[1:(length(x) − 6)]

7000

9000

11000

x[1:(length(x) − 7)]

0.4

0.8 7000

−0.4 0.0

ACF

9000

x[9:length(x)]

9000 7000

x[8:length(x)]

Series x

7000

9000

11000

x[1:(length(x) − 8)]

0.0

0.5

1.0

1.5

Lag

F IGURE 6 – Nuages de points (xt , xt+k ) pour k = 1, . . . , 8 et auto-corrélation pour la série temporelle du nombre de morts accidentelles aux Etats-Unis de 1973 à 1978

9

Première analyse de la série à l’aide des auto-corrélations Proposition 1. Si la série (xt )1≤t≤n est une tendance linéaire pure xt = at + b, t = 1, . . . , n, alors on a pour h fixé : ρˆn (h) −−−−→ 1. n→∞

Exercice 3. Faire la preuve. Proposition 2. Si la série (xt )1≤t≤n est une série périodique pure xt = a cos 2tπ T , t = 1, . . . , n, on a pour h fixé : ρˆn (h) −−−−→ cos n→∞

2hπ . T

En interprétant l’auto-corrélation grâce à ces deux propositions, il sera possible de « deviner »si une série temporelle admet une tendance (l’auto-corrélation tend vers 1) ou une saisonnalité (la saisonnalité se voit sur l’autocorrélation).

1.3 Mise en oeuvre sous R Quelques fonctions R utiles à l’étude des séries temporelles : – Lire un fichier de données en sautant les k premières lignes : data=scan(file=”donnee.dat”,skip=k). – Créer un objet de type série temporelle : serie <- ts (data,start,end,frequency). data contient le vecteur des données (un fichier contenant les données peut être mentionné en remplaçant data par file=”donnees.dat”), start et end mentionne les dates de début et de fin de la série (ex : start=c(1990,1) et end=c(1999,6) pour des données allant de janvier 90 à juin 99), et enfin frequency mentionne le nombre de données par unité de temps (par exemple, si les dates de début et de fin sont des années, et que les données sont mensuelles, il faudra indiquer frequency=12). – Représenter graphiquement un objet de type série temporelle : plot.ts(serie) – La fonction acf(x, lag.max = 10, type = c("correlation", "covariance"), plot = TRUE) calcule (et trace si l’option plot est à TRUE) les lag.max premières auto-corrélations et auto-covariances. Quelques conseils utiles pour les graphiques en R : – pour représenter plusieurs courbes sur le même graphique, tracer la première à l’aide de la commande plot qui créé la fenêtre graphique et y insère la courbe, puis tracer les autres courbes à l’aide de la commande lines qui trace une courbe sur une fenêtre graphique existante. – pour partager la fenêtre graphique en plusieurs (n×p) sous-graphes, utiliser la commande par(mfrow=c(n,p)). – préciser les limites des axes des graphiques : plot(...,xlim=c(0,10),ylim=c(-10,10)). – pour exporter les graphiques en jpeg (idem pour bmp, png), il faut lui procéder de la sorte 1. jpeg(filename=“nomfichier%d.jpeg”), 2. réaliser le graphique, 3. la commande dev.off() permet enfin de rediriger le dernier graphique tracé vers le fichier nomfichier1.jpeg, et ainsi de suite après chaque graphique. Le nom de fichier sera automatiquement incrémenté.

10

2 TP 1 : Introduction Préliminaires Lancer Open Office Writer et créer un fichier TP1_ST.odt. Dans ce fichier, vous répondrez clairement aux questions ci-dessous, en incluant vos codes R, les résultats obtenus sous R (graphique y compris 1 ), vos interprétations, remarques... Une fois ce TP fini, vous metterez en forme votre compte-rendu et l’exporterez au format pdf. Le jour de l’examen, la même démarche vous sera demandée. Seul le fichier pdf sera pris en compte pour la correction. Entrainez-vous donc dès maintenant, notamment pour l’exportation des graphiques de R vers Open Office Writer.

Consignes – Durée du TP : 2h. – Indispensables pour la suite : exercices 1 et 2.

2.1 Données de varicelle Récupérer le fichier 2 contenant le nombre de cas de varicelle relevés à New-York de janvier 1931 à juin 1972. 1. Créer un objet de type série temporelle contenant cette série. Représenter graphiquement la série. 2. Analyser qualitativement cette série, c’est-à-dire repérer d’éventuelles tendance et/ou saisonnalité (changer d’échelle si besoin). 3. Quel est le nombre de cas de varicelles mensuel moyen ? 4. Tracer les 25 premières auto-corrélations. Intérpreter ces résultats. Que représentent les traits pointillés horizontaux sur le graphique de l’auto-corrélation. 5. Tracer sur un même graphique, les évolutions mensuelles du nombre de cas de varicelle pour chaque année. 6. Tracer sur un graphique l’évolution annuelle du nombre de cas de varicelle. 7. Ces deux dernières questions vous permettent-elles d’améliorer vos conclusions de la question 2 ?

2.2 Simulations de séries temporelles On appelle bruit blanc gaussien une suite de variables aléatoires indépendantes et identiquement distribuées ǫt de loi normale centrée réduite. 1. Quelle est la fonction d’auto-corrélation d’un bruit blanc ? 2. Simuler un bruit blanc gaussien de taille 100, et représenter le graphiquement. 3. Tracer la fonction d’auto-corrélation. 4. Recommencer les deux questions précédentes et observer la variabilité des résultats. Jouer sur la longueur de la série. 5. Simuler maintenant la série temporelle X(t) = 0.5t + 2ǫt avec ǫt ∼ N (0, 1) (taille 100). 6. Représenter graphiquement la série et interpréter-la qualitativement.
7. Faites de même pour X(t) = 0.5t + ǫt + 3 cos t π6 avec ǫt ∼ N (0, 1).

1. se référer au document de cours, à la fin du premier chapitre, pour l’exportation de graphique sous R 2. les fichiers de données sont disponibles sur http://math.univ-lille1.fr/∼jacques/

11

3 Lissages exponentiels Les méthodes de lissages exponentiels constituent un outil permettant de réaliser des prévisions à partir de l’observation d’une série temporelle. Ces méthodes étant relativement basiques et simples de mise en oeuvre, elles sont souvent utilisées dans l’industrie, notamment lorsque le nombre de prévisions à réaliser est important (par exemple, prévisions des ventes de centaines de produits dans une grande surface). Nous présentons trois types de lissage exponentiel : – le lissage exponentiel simple qui consiste à ajuster localement à la série temporelle une constante, – le lissage exponentiel double qui ajuste quant à lui une droite, – le lissage exponentiel de Holt-Winters qui considère des fonctions plus complexes (polynomiales, périodiques...).

3.1 Lissage exponentiel simple Disposant d’une série temporelle x1 , . . . , xn , l’objectif du lissage exponentiel est d’estimer la valeur xn+h non encore observée. Nous noterons x ˆn,h cette prévision. Etant donnée une constante de lissage 0 < α < 1, on définit la prévision par lissage exponentiel simple : x ˆn,h = α

n−1 X

(1 − α)j xn−j .

(1)

j=0

La prévision est une moyenne de toutes les observations passées, pondérée de sorte que plus l’observation soit ancienne moins elle ait d’importance. Une constante de lissage α proche de 0 (≤ 0.3) donne une importance significative aux observations éloignées, tandis qu’un α proche de 1 (≥ 0.7) tend à négliger ces observations éloignées. Remarque : la prévision x ˆn,h ne dépend pas de h ! Formules récursives de mise à jour La définition (1) vérifiant la formule récursive suivante x ˆn,h = αxn + (1 − α)ˆ xn−1,h , la prévision xˆn,h peut être obtenue immédiatement à partir de la connaissance de : 1- la prévision x ˆn−1,h basée sur les n − 1-èmes premières observations, 2- l’observation xn . L’utilisation de cette récurrence permet de réaliser des algorithmes très rapides d’estimation de la prévision par lissage exponentiel (en initialisant à xˆ1,h = x1 ). Exercice 4. Ecrire et interpréter la valeur de xˆn,1 à partir de l’équation de récurrence. Exercice 5. Montrer que x ˆn,h défini en (1) est solution asymptotique d’un problème de moindres carrés pondérés. Choix de la constante de lissage Pour choisir la constante de lissage, une solution pragmatique consiste à tester plusieurs valeurs et à choisir celle minimisant un critère d’erreur minimale. Pour cela on partage l’échantillon d’observations en un échantillon d’apprentissage (les 80% premières observations : x1 , . . . , xm où m est par exemple l’entier 8 le plus proche de 10 n) et un échantillon test (les 20% dernières : xm+1 , . . . , xn ), on estime le modèle de lissage exponentiel à partir de l’échantillon d’apprentissage, et on évalue l’erreur sur l’échantillon test : erreur =

n−m X

(ˆ xt,h − xt,h )2

h=1

On répéte cette opération pour plusieurs valeurs de la constante de lissage α, et on choisit celle conduisant à l’erreur la plus petite.

12

3.2 Lissage exponentiel double On ajuste au voisinage de l’instant n une droite d’équation yt = a1 + a2 (t − n). La prévision par lissage exponentiel double est : xˆn,h = a ˆ1 (n) + a ˆ2 (n)h où a ˆ1 (n) et a ˆ2 (n) sont solution de inf

a1 ,a2 ∈R

n−1 X

(1 − α)j (xn−j − (a1 + a2 j))2 .

j=0

Les solutions de cette équation sont a ˆ1 (n) = 2L1 (n) − L2 (n)

et

a ˆ2 (n) =

α (L1 (n) − L2 (n)) 1−α

Pn−1 Pn−1 où L1 (n) = α j=0 (1 − α)j xn−j et L2 (n) = α j=0 (1 − α)j L1 (n − j) sont deux lissages exponentiels simples successifs. Remarque : comme pour le lissage exponentiel simple, l’estimateur de la prévision est la meilleure approximation au sens des moindres carrés pondérés. Formules récursives de mise à jour a ˆ1 (n) a ˆ2 (n)

= =

a ˆ1 (n − 1) + a ˆ2 (n − 1) + α(2 − α)(xn − xˆn−1,1 ), a ˆ2 (n − 1) + α(2 − α)(xn − xˆn−1,1 ),

où a ˆ1 (n) et a ˆ2 (n) sont les estimations des paramètres a1 et a2 lorsque l’on a observé la série jusqu’à la n-ème réalisation. Les valeurs intiales étant a ˆ1 (0) = x1 et a ˆ2 (0) = x2 − x1 .

3.3 Méthode de Holt-Winters 3.3.1 Méthode non saisonnière Comme la méthode de lissage exponentiel double, celle de Holt-Winters non saisonnière revient à estimer au voisinage de l’instant n une droite yt = a1 + a2 (t − n). La prévision prend la forme x ˆn,h = a ˆ1 (n) + a ˆ2 (n)h. La variante par rapport à la méthode de lissage exponentiel double est au niveau des formules de mise à jour dans l’estimation des paramètres a1 et a2 . Soient deux constantes de lissages 0 < α < 1 et 0 < β < 1. Les formules de mise à jour sont : a ˆ1 (n)

= αxn + (1 − α)[ˆ a1 (n − 1) + a ˆ2 (n − 1)],

a ˆ2 (n)

= β[ˆ a1 (n) − a ˆ1 (n − 1)] + (1 − β)ˆ a2 (n − 1).

Exercice 6. Montrer que les formules de mise à jour du lissage exponentiel double sont un cas particulier de ces dernières. Remarque : – l’introduction de deux constantes rend la méthode plus souple que le lissage exponentiel double : la constante α joue un rôle dans l’estimation de l’ordonnée à l’origine de la droite, a1 , et la constante β dans celle de la pente de la droite, a2 . – si α et β sont petits le lissage est important car on tient compte du passé lointain. 13

3.3.2 Méthode saisonnière additive On cherche maintenant à ajuster au voisinage de l’instant n une droite d’équation yt = a1 + a2 (t − n) + st , où st est une composante périodique de période T . Les formules récursives de mise à jour sont : a ˆ1 (n) =

α(xn − sˆn−T ) + (1 − α)[ˆ a1 (n − 1) + a ˆ2 (n − 1)],

a ˆ2 (n) = sˆn =

β[ˆ a1 (n) − a ˆ1 (n − 1)] + (1 − β)ˆ a2 (n − 1), γ[xn − a ˆ1 (n)] + (1 − γ)ˆ sn−T .

Les prévisions sont de la forme : x ˆn,h x ˆn,h

= =

a ˆ1 + a ˆ2 h + sˆn+h−T 1 ≤ h ≤ T, a ˆ1 + a ˆ2 h + sˆn+h−2T T + 1 ≤ h ≤ 2T.

et ainsi de suite pour h ≥ 2T . Les trois constantes de lissages, α, β et γ ont le même effet que précédemment, plus elles sont petites et plus l’importance des données éloignées est significative. Elles agissent respectivement sur les paramètres a1 , a2 et st . Se référer à Gouriéroux et Monfort 1983 [5] pour les valeurs d’initialisation. 3.3.3 Méthode saisonnière multiplicative On ajuste au voisinage de l’instant n une droite d’équation yt = [a1 + a2 (t − n)] × st , où st est une composante périodique de période T . Les formules récursives de mise à jour sont : a ˆ1 (n) = a ˆ2 (n) = sˆn

=

xn

+ (1 − α)[ˆ a1 (n − 1) + a ˆ2 (n − 1)], sˆn−T β[ˆ a1 (n) − a ˆ1 (n − 1)] + (1 − β)ˆ a2 (n − 1), xn + (1 − γ)ˆ sn−T . γ a ˆ1 (n)

α

Les prévisions sont de la forme : x ˆn,h

=

[ˆ a1 + a ˆ2 h]ˆ sn+h−T

x ˆn,h

=

[ˆ a1 + a ˆ2 h]ˆ sn+h−2T

Se référer également à [5] pour les valeurs d’initialisation.

14

1 ≤ h ≤ T, T + 1 ≤ h ≤ 2T.

3.4 Mise en oeuvre sous R Les méthodes de lissages exponentiels sont disponibles sous R, grâce à la fonction HoltWinters. Pour une série temporelle x, cette procédure permet : – un lissage exponentiel simple : xlisse <- HoltWinters(x,alpha=α,beta=FALSE,gamma=FALSE), – un lissage de Holt-Winters sans composante saisonnière : xlisse <- HoltWinters(x,alpha=α,beta=β,gamma=FALSE), – un lissage Holt-Winters additif : xlisse <- HoltWinters(x,alpha=α,beta=β,gamma=γ,seasonal=’add’), – un lissage Holt-Winters multiplicatif : xlisse <- HoltWinters(x,alpha=α,beta=β,gamma=γ,seasonal=’mul’). A noter que pour un lissage de Holt-Winters avec composante saisonnière la série temporelle x doit obligatoirement être un objet de type série temporelle, défini avec la fonction ts en précisant la saisonnalité. L’affichage et la visualisation des résultats peuvent être réalisés à l’aide des commandes : – summary(xlisse) : description de l’objet xlisse obtenu précédemment par la procédure HoltWinters, – plot(xlisse) : représentation des valeurs observées et des valeurs lissées, – plot(xlisse$fitted[,1]) : représentation de l’ajustement de la série remis à jour à chaque observation. Les prévisions à l’horizon h sont réalisées à l’aide de la fonction predict : p<-predict(xlisse,n.ahead=h). Un intervalle de confiance (dont le fondement théorique n’a pas été étudié dans ce cours) peut être obtenu en validant (à TRUE) l’option prediction.interval. Remarque : lorsque les constantes de lissage sont fixées à NULL (valeur par défaut), un algorithme interne à la procédure HoltWinters se charge d’estimer la meilleur constante possible à partir de la série des observations.

15

F IGURE 7 – Lissage et prévision par lissage exponentiel double d’un bruit blanc gaussien

16

F IGURE 8 – Lissage et prévision par lissage exponentiel double de la série X(t) = 0.5t + 2ǫt avec ǫt ∼ N (0, 1)

17


F IGURE 9 – Lissage et prévision par lissage exponentiel double de la série X(t) = 0.5t + ǫt + 3 cos t π6 avec ǫt ∼ N (0, 1)

18

30 0

10

20

bb

40

50

Lissage Exponentiel Simple

2

4

6

8

10

8

10

8

10

Time

30 0

10

20

bb

40

50

Lissage Exponentiel Double, alpha=0.5

2

4

6 Time

30 0

10

20

bb

40

50

HoltWinters Seasonal

2

4

6 Time

F IGURE 10 – Lissage et prévision par lissage
exponentiel simple, double, et Holt-Winters avec composante saisonnière de la série X(t) = 0.5t + ǫt + 3 cos t π6 avec ǫt ∼ N (0, 1) 19

4 TP 2 : Lissage Exponentiel Consignes – Durée du TP : 2h. – Indispensables pour la suite : exercices 1 et 2.

4.1 Lissage et prévision de données simulées Simuler les trois séries temporelles suivantes (cf. TP1), de taille 100 : – X1 (t) = ǫt , – X2 (t) = 0.5t + 2ǫt ,
– X3 (t) = 0.5t + ǫt + 3 cos t π6 , où ǫt ∼ N (0, 1). Les 70 premières données de chaque série vont être utilisées pour prédire les 30 dernières. 1. Pour chaque série, effectuer la prévision par lissage exponentiel simple et double. Tester différentes valeurs du paramètre de lissage α (4 à 5 valeurs), et représenter graphiquement la série ainsi que la prévision. Commenter chaque résultat, et essayer de déterminer graphiquement le lissage le plus adaptée pour chaque série. 2. Calculer pour chaque prévision effectuée la somme des carrés des erreurs, et selectionner le meilleur modèle à l’aide de cette quantité. 3. Tester maintenant le lissage exponentiel de Holt-Winters avec composante saisonnière additive puis multiplicative. 4. Les prédictions obtenues sont-elles meilleures ? Rq : la commande par(mfrow=c(n,p)) permet d’afficher n × p graphique sur la même page.

4.2 Lissage et prévision de la concentration en co2 Le fichier de données co2 contenu dans R contient les concentrations en CO2 à proximité du volcan Mauna Loa (Hawaï) de 1959 à 1997. Après avoir représenté graphiquement ces données, quel modèle de lissage exponentiel vous semble le mieux approprié ? Afin de valider ce modèle, tester la prédiction des données de 1990 à 1997 en utilisant celles de 1959 à 1989. Si cela vous semble graphiquement correct, utilisez cette méthode pour prédire les concentrations en co2 de 1997 à 2007. Sinon, tester d’autres méthodes de lissage exponentiel.

4.3 Lissage et prévision du CAC40

1500 2000 2500 3000 3500 4000

EuStockMarkets[, 3]

Récupérer le fichier contenant les valeurs de cloture journalière du CAC40 de 1991 à 1998 (données R EuStockMarkets). Essayer de prédire par lissage exponentiel les valeurs de cloture de 1998 en utilisant les valeurs de cloture de 1991 à 1997.

1992

1993

1994

1995

1996

1997

1998

Time

F IGURE 11 – Valeurs de cloture journalières du CAC40 de 1991 à 1998

20

5 Estimation et élimination de la tendance et de la saisonnalité Une série temporelle (xt )1≤t≤n est l’observation des n premières réalisations d’un processus stochastique (Xt )t . C’est ce processus que l’on cherche désormais à modéliser. Pour cela, la démarche suivante doit être adoptée : – représenter graphiquement la série afin de repérer les tendances et saisonnalités, – estimer et supprimer les tendances et saisonnalités (partie déterministe du processus stochastique), – choisir un modèle pour les résidus (partie aléatoire du processus stochastique) et l’estimer, – prédire les réalisations futures à l’aide de ce modèle. L’objectif de cette section est de donner quelques méthodes pour estimer et supprimer les tendances et saisonnalités. La fin de ce cours sera concentré sur la modélisation de processus stationnaires.

5.1 Bruit blanc Définition 1. Un processus de bruit blanc est une suite de variables aléatoires (Xt )t indépendantes, d’espérance et de variance constantes. Si l’espérance est nulle, le bruit blanc est centré, et si les variables aléatoires sont gaussiennes, le bruit blanc est gaussien.

5.2 Processus stationnaire Un processus aléatoire (Xt )t est stationnaire s’il est d’espérance constante E[Xt ] := µ

∀t,

et si les covariances sont stables par translation dans le temps, c’est-à-dire, pour tout h Cov(Xt , Xt+h ) := σ(h)

∀t.

On appelle fonction d’auto-covariance du processus stationnaire la suite σ(h), et fonction d’auto-corrélation du processus stationnaire la suite ρ(h) := σ(h) σ(0) . Exercice 7. Montrer que σ(h) = σ(−h).

5.3 Une estimation paramétrique de la tendance (trend) Nous supposons que la série temporelle étudiée soit la réalisation d’un processus stochastique composé d’une tendance déterministe mt et d’une partie aléatoire ǫt (supposée de moyenne nulle) : X t = mt + ǫ t . Une méthode simple consiste à supposer que cette tendance est linéaire : mt = a + bt, et d’estimer les paramètres a et b par moindres carrés. Ainsi, si on observe la série x1 , . . . , xn , il faut trouver a et b qui minimisent la quantité : n X

(xt − a − bt)2

t=1

Les solutions de ce problème sont : a ˆ

=

ˆb =

! 2n + 1 − txt + n¯ x , 3 t=1 ! n X n+1 12 txt − n¯ x . n(n2 − 1) t=1 2 6 n(n − 1)

n X

21

Exercice 8. Ecrire le problème sous forme matricielle... et le résoudre. L’hypothèse de linéairité de la tendance convient très bien à certaines séries temporelles : par exemple, celles des figures 1, 2 (et encore...), 4... Mais ce n’est pas le cas de toutes les séries : voir par exemple celle représentant le cours du CAC40, figure 11. Il est alors possible de supposer que la tendance soit de forme polynomiale : mt = a + bt + ct2 et d’estimer les paramètres a, b et c par moindres carrés. Mais il est parfois difficile d’estimer le degré du polynôme, et lorsque le degré est trop important, le nombre de paramètres à estimer devient grand et les calculs fastidieux. Dans cette situation, on a recourt à une méthode d’estimation non paramétrique.

5.4 Estimation non paramétrique : moyenne mobile Tendance Supposons que la tendance mt soit linéaire dans un petit intervalle [t − q, t + q] autour de t. Dans ce cas, un bon estimateur de la tendance est la moyenne sur cet intervalle : m ˆt =

q X 1 xt+k . 2q + 1 k=−q

On peut donc estimer la tendance à chaque temps t en calculant la moyenne sur les observations étant dans une fenêtre de largeur 2q + 1 autour de t : c’est ce que l’on appelle une estimation par moyenne mobile. Pour éviter les problèmes de bord, on suppose que xt = x1 si t < 1 et xt = xn si t > n. Tendance et saisonnalité Supposons désormais que le processus ne comporte pas uniquement une tendance, mais également une saisonnalité : X t = mt + s t + ǫ t , avec st une fonction T -périodique. Le principe d’estimation est (en simplifiant légèrement) le suivant : on estime la tendance moyenne sur une période, puis on estime la composante saisonnière en moyennant sur toutes les périodes les écarts à la tendance moyenne de la période. Application à la série du nombre de morts accidentelles aux Etats-Unis La figure 12 représente la série du nombre de morts accidentelles aux Etats-Unis de 1973 à 1978 (déjà présentée en introduction), la figure 13 représente la tendance (estimée par moyenne mobile) et la figure 14 représente la composante saisonnière. La figure 15 représente la série après élimination de la tendance et la figure 16 représente la série après élimination de la tendance et de la composante saisonnière. La série 16 ainsi obtenue est une série (supposée) stationnaire, sur laquelle nous chercherons plus tard à ajuster un modèle.

22

11000 10000 9000 7000

8000

USAccDeaths

1973

1974

1975

1976

1977

1978

1979

Time

8400 8600 8800 9000 9200 9400 9600

m$trend

F IGURE 12 – Série USAccDeaths : nombre de morts accidentelles aux Etats-Unis de 1973 à 1978

1973

1974

1975

1976

1977

1978

1979

1978

1979

Time

0 −1500 −1000 −500

m$seasonal

500

1000 1500

F IGURE 13 – Tendance de la série USAccDeaths

1973

1974

1975

1976

1977

Time

F IGURE 14 – Composante saisonnière de la série USAccDeaths

23

2000 1000 0 −2000

−1000

USAccDeaths − m$trend

1973

1974

1975

1976

1977

1978

1979

Time

200 0 −200 −400

USAccDeaths − m$trend − m$seasonal

400

F IGURE 15 – Série USAccDeaths après élimination de la tendance

1973

1974

1975

1976

1977

1978

1979

Time

F IGURE 16 – Série USAccDeaths après élimination de la tendance et de la composante saisonnière

24

5.5 Elimination de la tendance et de la saisonnalité par la méthode des différences Cette méthode permet de supprimer les tendance et saisonnalité d’une série temporelle sans les estimer. Soit ∆T l’opérateur qui associe (Xt − Xt−T ) à (Xt ) : ∆T Xt = Xt − Xt−T . On note ∆ l’opérateur ∆1 , et ∆kT l’opérateur ∆T ◦ . . . ◦ ∆T . | {z } k fois

Proposition 3. Soit un processus admettant une tendance polynomiale d’ordre k : Xt =

k X

aj tj +ǫt .

j=0

| {z } mt

Le processus ∆Xt admet une tendance polynomiale d’ordre k − 1. Exercice 9. Faire la preuve. Ainsi, en appliquant k fois ∆, on élimine la tendance. Remarque : il est important de remarquer que si l’on applique ∆t quelque soit t, le résultat est le même quant à l’élimination de la tendance. Comme en pratique il n’est pas évident de connaître le degré k, on appliquera l’opérateur ∆ jusqu’à ce que la moyenne du processus soit nulle (k sera généralement 1, 2 ou 3). Proposition 4. Soit un processus admettant une tendance mt et une saisonnalité, de période T : X t = mt + s t + ǫ t . Dans ce cas, ∆T Xt = (mt − mt−T ) + (ǫt − ǫt−T ) est un processus désaisonnalisé. De plus, si la tendance du processus est linéaire, elle est également supprimée. Exercice 10. Faire la preuve. Si la tendance est plus que linéaire, il suffit d’appliquer la procédure précédente pour finir de supprimer la tendance, et obtenir ainsi un processus que l’on supposera stationnaire. La figure 17 illustre l’élimination de la tendance linéaire et de la saisonnalité de la série xt = ǫt ∼ N (0, 1).

t 2

+ 3 cos tπ 6 ǫt avec

5.6 Test sur la série résiduelle L’objectif des techniques présentées dans la section 5.5 est d’obtenir une série stationnaire (ou tout au moins le plus stationnaire possible), et en particulier sans tendance ou saisonnalité. L’étape suivante consiste à modéliser la série résiduelle obtenue. La première chose à faire est donc de tester s’il y a dépendance entre les termes de cette série. Si ce n’est pas le cas, on dit que la série résiduelle (stationnaire) est un bruit blanc (définition 1). Si la série résiduelle obtenue après désaisonalisation et élimination de la tendance, est un bruit blanc, il n’est donc pas utile d’aller plus loin dans la modélisation si ce n’est d’estimer la moyenne et variance du bruit blanc.

25

30 0

10

bb

50

Serie avec tendance lineaire et saisonnalité (période 12)

0

20

40

60

80

100

Time

2 0 −4

−2

bb_diff1

4

Serie avec la tendance eliminée par la méthode des différences

0

20

40

60

80

100

Time

6 4 2

bb_diff12

8

Serie avec la saisonnalité (et la tendance) eliminées par la méthode des différences

0

20

40

60

80

Time

F IGURE 17 – Elimination de la tendance et de la saisonnalité par la méthode des différences (figure du haut : série xt = 2t + 3 cos tπ 6 ǫt avec ǫt ∼ N (0, 1) ; figure du milieu : série xt − xt−1 ; figure du bas : série xt − xt−12

26

5.6.1 Comment tester si on est en présence d’un bruit blanc ? Par l’étude de la fonction d’auto-corrélation empirique Lorsque n est assez grand, les auto-corrélations d’un bruit blanc sont approximativement indépendantes et de loi N (0, n1 ). Ainsi, 95% des auto-corrélations devraient se √ √ ], et en traçant les 40 premières auto-corrélations il ne devrait pas y en avoir plus trouver dans l’intervalle [ −1.96 , 1.96 n n de 2 voir 3 en dehors de ces limites. A noter que ces bornes sont tracées lorsque l’on demande à R de représenter graphiquement les auto-corrélations. A l’aide du test du portemanteau Plutôt que de regarder si chaque auto-corrélation est dans les bornes de l’intervalle précédent, nous considérons la statistique définie par la somme des h premières auto-corrélations au carré Q=n

h X

ρˆ2 (j).

j=1

D’après la remarque précédente sur la normalité des auto-corrélations, la statistique Q suit une loi du χ2 à h degrés de liberté. Il est donc possible de construire un test qui consistera à rejeter l’hypothèse nulle (la série est un bruit blanc) si Q est supérieur au quantile χ2h,1−α . Ljung et Box (1978) ont amélioré ce test en considérant la statistique QLB = n(n + 2)

h X ρˆ2 (j) , n−j j=1

dont la distribution est mieux approximée que la précédente par une loi du χ2 à h degrés de liberté. C’est ce test qui est implémenté dans la fonction Box.test de R.

5.7 Mise en oeuvre sous R La fonction decompose permet d’extraire d’une série temporelle (via la méthode de la moyenne mobile) : serie_decomp<-decompose(serie,type=c(”additive”,”mutliplicative”)) – la composante saisonnière : serie_decomp$seasonal, que l’on suppose additive ou multiplicative dans l’option type, – la tendance : serie_decomp$trend, – le partie aléatoire stationnaire de la série : serie_decomp$random. La fonction diff.ts(serie,lag=T,difference=k) permet d’appliquer l’opérateur de différeciation ∆kT . La fonction Box.test(serie,lag=H) examine l’hypothèse nulle de nullité des H première auto-covariance, à l’aide du test du portemanteau. Par défaut H est fixé à 1, et seule la nullité de l’auto-covariance d’ordre 1 est testée. Pour tester si la série peut-être apparentée à un bruit blanc, nous fixerons arbitrairement un H de l’ordre de 20 (nous considérerons abusivement que si les 20 premières auto-corrélations sont nulles, la série est indépendante).

27

6 TP 3 : Tendance et saisonnalité Consignes – Durée du TP : 2h. – Indispensable pour la suite : exercice 1.

6.1 Données AirPassengers Nous étudions la série chronologique du nombre de passagers par mois (en milliers) dans les transports aériens, de 1949 à 1960. Cette série est disponible sous R (AirPassengers). 1. Estimation paramétrique de la tendance (a) Représenter graphiquement la série. Ce processus vous semble-t-il stationnaire ? Présente-t-il des tendances et saisonnalités ? (b) Estimer les paramètres d’une tendance linéaire at + b. (c) Supprimer cette tendance et représenter graphiquement la série ainsi obtenue. Vérifier que la série des résidus est de moyenne nulle. (d) Calculer et représenter l’auto-corrélation de la série des résidus. 2. Méthode des différences (a) Appliquer la méthode des différences pour enlever la tendance et la saisonnalité. Préciser la période de la saisonnalité, le degré du polynôme de tendance. (b) La série obtenue semble-t-elle stationnaire ? 3. Méthode des moyennes mobiles (a) Appliquer la méthode des moyennes mobiles pour enlever la tendance et la saisonnalité. (b) La série obtenue semble-t-elle stationnaire ? Pourrait-on la modéliser par un bruit blanc ? Remarque : la fonction Box.test permet de tester l’indépendance d’une suite de variables aléatoires. Remarque : la fonction Box.test, qui permet de tester l’indépendance d’une suite de variable aléatoire, peut être utilisée pour

6.2 Données simulées Récupérer la série temporelle contenue dans le fichier simulation.dat. Cette série a été simulée à partir d’un processus relativement simple. Essayer de le retrouver ! 1. Analyser qualitativement cette série temporelle. 2. Pouvez-vous proposer une modélisation pour cette série (c’est-à-dire définir le processus Xt qui a généré cette série) ? pi Indication : la partie saisonnière est de la forme a cos(t pi b ) ou a sin(t b )... à vous de deviner !

28

7 Modélisation des séries stationnaires Nous présentons dans cette section comment modéliser une série, qui une fois tendance et saisonnalité supprimées, est stationnaire. A noter que le seul fait de supprimer la tendance et la saisonnalité ne rend pas la série nécessairement stationnaire, puisque cela n’affecte pas la variance et l’auto-covariance, qui dovient être constantes pour un processus stationnaire.

7.1 Auto-corrélation partielle Le coefficient de corrélation partielle entre les deux variables X1 et Xn d’un processus stochatistique (Xt )t est le coefficient de corrélation entre les deux variables auxquelles on a retranché leurs meilleures explications en terme de X2 , . . . , Xn−1 : rX2 ,...,Xn−1 (X1 , XN ) = corr(X1 − PX2 ,...,Xn−1 (X1 ), Xn − PX2 ,...,Xn−1 (Xn )), où corr est le coefficient de corrélation classique (quotient de la covariance par le produit des écarts-types), et où PX2 ,...,Xn−1 (X1 ) est la projection 3 de la variable X1 dans l’espace vectoriel engendré par les variables X2 , . . . , Xn−1 . Ce coefficient exprime la dépendance entre les variables X1 et Xn qui n’est pas due aux autres variables X2 , . . . , Xn−1 . La fonction d’auto-corrélation partielle r(h) d’un processus stationnaire est définie par : r(h) r(h)

= rX2 ,...,Xh (X1 , Xh+1 ) = r(−h) ∀h 6= 0

r(1)

= ρ(1)

∀h ≥ 2

L’algorithme de Durbin-Watson, que nous ne présentons pas ici, permet d’estimer les auto-corrélations partielles d’un processus stationnaire. Dans le logiciel R, la fonction pacf permet ces estimations.

7.2 Les processus auto-régressifs ARp Les premiers modèles que nous présentons sont les processus auto-régressifs, construits à partir de l’idée que l’observation au temps t s’explique linéairement par les observations précédentes. Définition 2. On dit que (Xt ) est un processus auto-régressif d’ordre p (centré) s’il s’écrit Xt = ǫ t +

p X

aj Xt−j ,

(2)

j=1

où ǫt est un bruit blanc centré de variance σ 2 . L’observation Xt au temps t est alorsPla somme d’un choc aléatoire à l’instant t, ǫt , indépendant de l’historique, p et d’une fonction linéaire de son passé j=1 aj Xt−j , qui peut être vue comme la prédiction de Xt à partir des p dernières observations passées. ǫt est l’innovation contenue dans le processus au temps t. On dit que (ǫt ) est le processus d’innovation. Les coefficients aj doivent vérifier la contrainte suivante pour assurer la stationnarité du processus : le polynôme caractéristique du processus (2), A(z) = 1 − a1 z − . . . − ap z p , ne doit avoir que des racines (réelles ou complexes) de module strictement supérieur à 1. La démonstration sort du cadre de ce cours. Remarque 1 : en prenant l’espérance de (2) et en utilisant la stationarité du processus, on obtient que l’espérance µ du P processus vérifie µ(1 − pj=1 aj ) = 0. Comme 1 ne peut être racine du polynôme A(z), on a nécessairement µ = 0. Remarque 2 : dans ce cours, conformément à la définition (2), nous ne considèrons que des processus ARp centrés. Pp Un processus ARp non centré serait défini par Xt = µ + ǫt + j=1 aj Xt−j . 3. la projection PX2 ,...,Xn−1 (X1 ) = γ2 X2 + . . . + γn−1 Xn−1 peut être interprétée comme la meilleure explication linéaire de X1 en fonction de X2 , . . . , Xn−1 .

29

Exercice 11. Vérifier la stationnarité et expliciter l’expression du processus autorégressif de polynôme caractéristique A(z) = 1 − z − 21 z 2 . Proposition 5. La variance du processus ARp défini en (2) est : σ(0) = σ 2 +

p X

aj σ(j)

j=1

et l’auto-covariance, pour tout h > 0 : σ(h) =

p X

aj σ(h − j).

j=1

Exercice 12. Faire la démonstration. L’auto-covariance d’un processus ARp vérifie donc la formule de récurrence d’ordre p suivante : σ(h) − a1 σ(h − 1) − . . . − ap σ(h − p) = 0.

(3)

Le polynôme caractéristique de cette relation de récurrence est :    a1 1 ap  z p − a1 z p−1 − . . . − ap−1 z − ap = z p 1 − . − . . . − p = zpA z z z

Les racines λi de ce polynôme sont les inverses des racines du polynôme A, et sont donc de module strictement inférieur à 1. En supposant que A a toute ses racines distinctes, les solutions de l’équation de récurrence précédente sont de la forme : p X ci λhi . σ(h) = i=1

Ainsi, puisque |λi | < 1, l’auto-covariance décroit exponentiellement avec h. Ces résultats s’étendent immédiatement à l’auto-corrélation d’un processus ARp .

Quant à l’auto-corrélation partielle, elle est nulle à tout ordre strictement supérieur à p, et vaut ap à l’ordre p: r(h) r(p)

= =

0 ap .

∀h > p,

La démonstration de ce résultat très utile ne sera pas abordée dans ce cours. 7.2.1 Exercice : cas particulier de l’AR1 Soit le processus AR1 (centré) suivant Xt = aXt−1 + ǫt , où ǫt est un bruit blanc centré de variance σ . 2

1. Quelle condition sur a doit on imposer pour que ce processus soit stationnaire ? 2. Calculer la variance de ce processus. 3. Montrer que l’auto-covariance d’un tel processus est σ(h) = σ 2

ah 1 − a2

4. En déduire la décroissance vers 0 de l’auto-covariance lorsque h tend vers l’infini. 5. Calculer l’auto-corrélation partielle. 30

7.2.2 Illustrations Voici quelques simulations de processus ainsi que leurs auto-corrélation et auto-corrélation partielle empiriques : – AR1 avec coefficient positif puis négatif : figures 18 et 19, – AR2 : figures 20 et 21.

7.3 Les processus en moyenne mobile MAq La seconde catégorie de modèles classiques regroupe les processus en moyenne mobile. Définition 3. On appelle moyenne mobile (Moving Average) d’ordre q un processus de la forme Xt = ǫt + b1 ǫt−1 + . . . + bq ǫt−q , où les ǫj pour t − q ≤ j ≤ t sont des bruits blancs centrés de variance σ 2 . Pq On notera parfois Xt = j=0 bj ǫt−j en imposant b0 = 1. A noter que pour l’instant aucune condition n’est nécessaire sur les bi pour que le processus stationnaire 4 . Un processus moyenne mobile est nécessairement centré, et son auto-covariance vérifie la proposition suivante. Proposition 6. L’auto-covariance d’un processus moyenne mobile Xt = ǫt + b1 ǫt−1 + . . . + bq ǫt−q est  q−h   2X σ bk bk+h ∀h ≤ q σ(h) = où b0 = 1 k=0   0 ∀h > q

Exercice 13. Faire la démonstration (simple).

L’auto-corrélation est donc également nulle au dessus de l’ordre q. On retrouve le même comportement que l’autocorrélation partielle d’un ARp . L’auto-corrélation partielle d’un processus moyenne mobile est compliquée à calculer, et sans grand intérêt. Néanmoins, il est important de savoir qu’elle tend vers 0 à vitesse exponentielle lorsque h tend vers l’infini. Ce comportement symétrique entre les processus moyenne mobile et auto-régressif est du à la propriété suivante : Proposition 7. Un processus auto-régessif est un processus moyenne mobile d’ordre infini, et réciproquement un processus moyenne mobile est un processus auto-régressif d’ordre infini. Exercice 14. De la définition d’un processus moyenne mobile, extraire la valeur de l’innovation au temps t, puis ré-écrire la définition d’un M Aq en remplaçant les innovations par leur valeur. Conclure. 7.3.1 Exercice : cas particulier du M A1 Calculer les coefficients d’auto-corrélation d’un tel processus. 7.3.2 Illustrations Voici quelques simulations de processus ainsi que leurs auto-corrélation et auto-corrélation partielle empiriques : – M A1 avec coefficient positif puis négatif : figures 22 et 23, – M A3 : figure 24. 4. pour des questions de prévision, nous serons amené à supposer que le polynôme caractéristique B(z) = 1 + b1 z + . . . + bq z q a toute ses racines de module strictement supérieurs à 1.

31

4 2 0 −4

−2

ar1

0

200

400

600

800

1000

Time

0.4 0.0

ACF

0.8

Series ar1

0

5

10

15

20

25

30

25

30

Lag

0.4 0.0

Partial ACF

0.8

Series ar1

0

5

10

15

20

Lag

F IGURE 18 – Simulation d’un AR1 : Xt = 0.8Xt−1 + ǫt , auto-corrélation et auto-corrélation partielle.

32

4 2 0 −4

ar1

0

200

400

600

800

1000

Time

0.0 −0.5

ACF

0.5

1.0

Series ar1

0

5

10

15

20

25

30

25

30

Lag

−0.4 −0.8

Partial ACF

0.0

Series ar1

0

5

10

15

20

Lag

F IGURE 19 – Simulation d’un AR1 : Xt = −0.8Xt−1 + ǫt , auto-corrélation et auto-corrélation partielle.

33

6 4 2 −2 −6

ar2

0

200

400

600

800

1000

Time

0.6 0.2 −0.2

ACF

1.0

Series ar2

0

5

10

15

20

25

30

25

30

Lag

0.6 0.2 −0.2

Partial ACF

Series ar2

0

5

10

15

20

Lag

F IGURE 20 – Simulation d’un AR2 : Xt = 0.9Xt−2 + ǫt , auto-corrélation et auto-corrélation partielle.

34

5 0 −5

ar2

0

200

400

600

800

1000

Time

0.0 −0.5

ACF

0.5

1.0

Series ar2

0

5

10

15

20

25

30

25

30

Lag

0.0 −0.4 −0.8

Partial ACF

Series ar2

0

5

10

15

20

Lag

F IGURE 21 – Simulation d’un AR2 : Xt = −0.5Xt−1 − 0.9Xt−2 + ǫt , auto-corrélation et auto-corrélation partielle.

35

4 2 0 −4

−2

ma1

0

200

400

600

800

1000

Time

0.5 0.0 −0.5

ACF

1.0

Series ma1

0

5

10

15

20

25

30

25

30

Lag

−0.1 −0.3 −0.5

Partial ACF

Series ma1

0

5

10

15

20

Lag

F IGURE 22 – Simulation d’un M A1 : Xt = ǫt − 0.8ǫt−1 , auto-corrélation et auto-corrélation partielle.

36

4 2 0 −4

−2

ma1

0

200

400

600

800

1000

Time

0.4 0.0

ACF

0.8

Series ma1

0

5

10

15

20

25

30

25

30

Lag

0.2 −0.2

Partial ACF

0.4

Series ma1

0

5

10

15

20

Lag

F IGURE 23 – Simulation d’un M A1 : Xt = ǫt + 0.8ǫt−1 , auto-corrélation et auto-corrélation partielle.

37

10 5 0 −10

ma3

0

200

400

600

800

1000

Time

0.4 0.0

ACF

0.8

Series ma3

0

5

10

15

20

25

30

25

30

Lag

0.4 0.2 −0.2

Partial ACF

Series ma3

0

5

10

15

20

Lag

F IGURE 24 – Simulation d’un M A3 , auto-corrélation et auto-corrélation partielle.

38

7.4 Les processus mixtes ARMAp,q Cette classe plus générale de modèles définit des processus sous la forme d’une récurrence auto-régressive avec un second membre de type moyenne mobile. Définition 4. Un processus auto-régressif moyenne mobile d’ordres p et q est de le forme : Xt =

p X

ak Xt−k +

q X

bj ǫt−j .

j=0

k=1

où les ǫj pour t − q ≤ j ≤ t sont des bruits blancs centrés de variance σ 2 . La stationnarité d’un ARM Ap,q est assurée lorsque toutes les racines du polynôme A(z) = 1 − a1 z − . . . − ap z p sont de module strictement supérieur à 1. Ce polynôme forme avec B(z) = 1 + b1 z + . . . + bq z p les deux polynômes caractéristiques du processus. On supposera également que les polynômes A et B n’ont pas de racine commune, afin de s’assurer qu’il n’y a pas de représentation plus courte. Exercice 15. Soit le processus ARM A1,1 défini par Xt + aXt−1 = ǫt + aǫt−1 . Est-ce un processus stationnaire ? Existe-t-il une écriture plus simple de ce processus ? On peut écrire le processus ARM Ap,q sous la forme suivante Xt − a1 Xt−1 − . . . − ap Xt−p = ǫt + b1 ǫt−1 + . . . + bq ǫt−q . Ainsi, Cov(Xt+h − a1 Xt+h−1 − . . . − ap Xt+h−p , Xt ) = =

σ(h) − a1 σ(h − 1) − . . . − ap σ(h − p) Cov(ǫt+h + b1 ǫt+h−1 + . . . + bq ǫt+h−q , Xt )

qui est nulle dès que h > q. L’auto-covariance d’un processus ARM Ap,q évolue selon la même récurrence qu’un ARp (cf. équation (3)). Ainsi, l’auto-covariance (et l’auto-corrélation) d’un processus ARM Ap,q vont tendre exponentiellement vers 0 lorsque h tend vers l’infini, à partir de l’ordre q + 1. 7.4.1 Exercice : le processus ARM A1,1 Considérons le processus Xt = aXt−1 + ǫt + bǫt−1 . 2

+2ab 1. Montrer que la variance du processus est σ(0) = σ 2 1+b 1−a2 . 2

2

+a b . 2. Montrer que l’auto-covariance d’ordre 1 est σ(1) = σ 2 a+b+ab 1−a2

3. En déduire les auto-corrélations ρ(1) =

(a+b)(1+ab) b2 +2ab+1

et ρ(h) = ah−1 ρ(1).

7.4.2 Illustrations Voici une simulation d’un processus ARM A2,2 (figure 25) ainsi que ses auto-corrélation et auto-corrélation partielle empiriques.

39

5 0 −5

arma22

0

200

400

600

800

1000

Time

0.0 −0.5

ACF

0.5

1.0

Series arma22

0

5

10

15

20

25

30

25

30

Lag

0.0 −0.4 −0.8

Partial ACF

0.4

Series arma22

0

5

10

15

20

Lag

F IGURE 25 – Simulation d’un ARM A2,2 , auto-corrélation et auto-corrélation partielle.

40

7.5 Récapitulatif des propriétés des processus MAq , ARp et ARMAp,q La tableau 7.5 récapitule les principales propriétés des processus M Aq , ARp et ARM Ap,q . modèle auto-covariance

M Aq σ(h) = 0 ∀h > q

auto-corrélation

ρ(h) = 0 ∀h > q

auto-corrélation partielle

lim r(h) = 0

h→∞

ARp lim σ(h) = 0

ARM Ap,q ∀h > q, lim σ(h) = 0

lim ρ(h) = 0

∀h > q, lim ρ(h) = 0

h→∞

h→∞

h→∞

r(h) = 0 ∀h > p et r(p) = ap

h→∞

TABLE 1 – Récapitulatif des propriétés des processus M Aq , ARp et ARM Ap,q .

7.6 Estimation, choix de modèle et prévision Les principaux modèles de séries temporelles ont été définis. A partir d’une série observée, il faut maintenant choisir un modèle, éventuellement plusieurs, estimer ses paramètres et enfin faire des prévisions pour les réalisations futures. Dans le cas où l’on hésite entre plusieurs modèles, des critères de choix de modèles seront utilisés pour sélectionner le meilleur d’entre eux. 7.6.1 Estimation Exemple

Considérons le processus AR2 suivant : Xt = a1 Xt−1 + a2 Xt−2 + ǫt .

On peut montrer que les auto-covariances d’ordre 1 et 2 sont les suivantes : σ(1) =

a1 σ(0) 1 − a2

et

σ(2) = a1 σ(1) + a2 σ(0).

Exercice 16. Montrez-le ! Ainsi, les paramètres du modèle a1 et a2 peuvent être éxprimés en fonction de la variance et des 2 premières auto-covariance du processus : a1 =

σ(1) σ(0)2 − σ(0)σ(1) σ(0) σ(0)2 − σ(1)2

et

a2 =

σ(0)σ(2) − σ(1)2 σ(0)2 − σ(1)2

Exercice 17. Montrez-le également ! En estimant les auto-covariances du processus à l’aide des auto-covariances empiriques, on en déduit des estimateurs des paramètres du modèle AR2 . Comme de plus σ(0) = σ 2 + a1 σ(1) + a2 σ(2), il est possible d’obtenir également un estimateur de la variance du bruit d’innovation. Cas général En réalité, les estimateurs précédents peuvent être améliorés : ainsi, dans le cas général, l’estimation des paramètres des modèles ARMA (AR, MA) est faite par maximum de vraisemblance. L’expression de la vraisemblance étant généralement trop complexe pour que l’on puisse obtenir un maximum explicite, des algorithmes numériques (type Newton) sont utilisés. 7.6.2 Choix de modèle Comme on l’a vu précédemment (cf. tableau récapitulatif 7.5) l’étude des auto-covariances, auto-corrélations et auto-corrélations partielles peut conduire à certaines hypothèses sur la nature du modèle. Une fois quelques modèles choisis, et leur paramètres estimés, des critères vont être utilisés pour choisir le modèle qui effectue le meilleur compromis entre : 41

– ajustement à la série de données, – complexité du modèle. Il est en effet très important de prendre en compte ce compromis, car si on ne s’intéressait qu’à coller au mieux aux données, on serait tenter de choisir un modèle ARM A avec un très grand nombre de paramètres. Or, plus il y a de paramètres, plus il faut de données pour les estimer. Et donc pour un nombre d’observations fixé de la série, plus le modèle sera complexe, moins bien seront estimés les paramètres. Les critères de choix de modèles les plus courants sont : – le critère AIC (Akaïke Information Criterion), qui sera généralement préféré si l’objectif de l’étude est de faire de la prévision, et qui est défini par : AIC = −2 log L(θ) + 2ν, où L(.) est la vraisemblance du modèle, θ représente les paramètres du modèle et ν le nombre de ces paramètres. – le critère BIC (Bayesian Information Criterion) sera quant à lui généralement préféré si l’objectif de l’étude est de s’ajuster à la série observée, et est défini par : BIC = −2 log L(θ) + nν où n est le nombre d’observations de la série. Les modèles ayant la plus petite valeur du critère devront être choisis. Ces deux critères conduisent donc à séléctionner des modèles dont la vraisemblance est grande, en la pénalisant par la complexité du modèle. 7.6.3 Prévision L’objectif est de prévoir la valeur que va prendre la variable aléatoire Xn+h , h étant appelé l’horizon de la prévision, ayant observé la réalisation des variables aléatoires X1 , . . . , Xn . Dans le cadre d’une modélisation ARMA, on choisit d’estimer Xn+h par une combinaison linéaire des Xj précédents (1 ≤ j ≤ n) : ˆ n,h = c1,h X1 + . . . + cn,h Xn . X Les coefficients cj,h sont estimés de sorte qu’il minimise : E[(Xn+h − c1,h X1 − . . . − cn,h Xn )2 ]. ˆ n,h ainsi défini n’est autre que la projection de Xn+h sur l’espace vectoriel engendré par les variables L’estimateur X X1 , . . . , Xn . ˆ n+1 = Exercice 18. Montrer que la prévision au rang 1 d’un processus ARp défini par l’équation 2 n’est autre que X a1 Xn + . . . + ap Xn+1−p . En déduire que l’erreur de prévision à horizon 1 est le bruit d’innovation. Nous ne détaillerons pas plus en détail cette partie dans ce cours, mais nous citons néanmoins, sans démonstrations, deux propriétés intéressantes. Proposition 8. – L’erreur de prévision à horizon 1 pour un processus ARM A est le bruit d’innovation ǫn+1 . – La variance de l’erreur de prévision à horizon h dans un processus ARM A croît depuis la variance du bruit d’innovation (valeur prise pour h = 1) jusqu’à la variance du processus lui-même. Intervalle de confiance sur la prévision Enfin, si on suppose que le bruit d’innovation ǫt est gaussien, les variables aléatoires Xt sont elles aussi gaussiennes, tout comme l’erreur de prédiction. Ainsi, il sera possible de construire des intervalles de confiances sur la prédiction, ce que permettent les fonctions du logiciel R décrites plus loin.

42

8 Processus non stationnaire : ARIMA et SARIMA Les modèles ARMA sont destinés à modéliser des processus stationnaires. En pratique, les séries temporelles sont généralement non stationnaires, et un pré-traitement est nécessaire pour supprimer les tendances et saisonnalités. Une fois la série stationnarisée analysée, et les valeurs futures prédites, il est ensuite nécessaire de revenir à la série initiale.

8.1 Exemple Considérons une série temporelle (xt )1≤t≤n qui présente une saisonnalité de période 12. Afin de supprimer cette saisonnalité, c’est la série suivante que nous étudions : yt = xt − xt−12

pour t = 13, . . . , n

(4)

L’ajustement d’un modèle ARMA et les prévisions sont réalisées sur la série (yt ). Il est donc nécessaire de revenir à la série initiale, car ce sont les prévisions de (xt ) qui nous intéressent. De l’équation (4) on obtient : xt

=

yt + xt−12

= .. .

yt + yt−12 + xt−24

=

yt + yt−12 + yt−24 + . . . + yr(t)+12 + xr(t)

où r(t) est le reste de la division euclidienne de t par 12. Puisque l’on connait les xt pour t ≤ n ainsi que les prévisions yn+h , on peut en déduire les prévisions de xn+h . Exercice 19. Ecrire pour cet exemple la prévision à l’horizon 1 de la série (xt )1≤t≤n .

8.2 Les processus ARIMA et SARIMA Les processus ARIMA et SARIMA sont la généralisation des modèles ARMA pour des processus non stationnaires, admettant une tendance (ARIMA), ou encore une tendance et une saisonnalité (SARIMA). En pratique, et dans le logiciel R notamment, ce sont ces processus qui sont directement utilisés. Soit ∆ l’opération de différenciation précédemment défini (section 5), qui associe au processus (Xt )t∈N le processus (Xt −Xt−1 )t∈N . Nous rappelons que le processus obtenu en différenciant deux fois de suite, (Xt −2Xt−1 +Xt−2 )t∈N , est noté ∆2 . Et ainsi de suite. Définition 5. Un processus (Xt ) est un processus ARIM Ap,d,q si le processus Yt = ∆d Xt est un processus ARM Ap,q . Les processus ARIM Ap,d,q sont donc bien adaptés aux séries temporelles présentant une tendance polynômiale de degré d − 1. Soit ∆T l’opérateur précédemment défini (section 5), qui fait passer de (Xt ) à (Xt − Xt−T ). Définition 6. Un processus (Xt ) est un processus SARIM Ap,d,q,T si le processus Yt = ∆T ◦ ∆d Xt est un processus ARM Ap,q . Les processus SARIM Ap,d,q,T sont bien adaptés aux séries temporelles présentant une période de longueur T et une tendance polynômiale de degré d. Remarque : en réalité, les processus SARIMA sont plus complexes et comportent d’autres paramètres. Nous ne considèrerons que cette version SARIM Ap,d,q,T dans ce cours, se référer à [5] pour des compléments sur ces processus. 43

8.3 Mise en oeuvre sous R : processus ARMA, ARIMA, SARIMA La fonction arima.sim(modele,n) permet de simuler un processus ARM Ap,q défini par Xt −

p X

ak Xt−k = ǫt +

q X

bj ǫt−j .

j=1

k=1

Les paramètres ak et bj du processus sont précisés dans le paramètre modele de la fonction : modele<-list(ar=c(a1, . . . , ap ),ma=c(b1 , . . . , bq )). Pour simuler un modèle ARIM Ap,d,q il faut ajouter le composant order=c(p,d,q) dans le paramètre modele de la fonction arima.sim. La fonction ar permet d’estimer les paramètres d’un processus ARp : out<-ar(data,aic=TRUE,order.max=NULL) L’ordre p du processus auto-régressif est choisi (inférieur à order.max) à l’aide du critère AIC (si l’option aic est validée). La fonction arima permet d’estimer les paramètres : – d’un ARM Ap,q : out<-arima(serie,order=c(p,0,q)) – d’un ARIM Ap,d,q : out<-arima(serie,order=c(p,d,q)) – d’un SARIM Ap,d,q,T : out<-arima(serie,order=c(p,d,q),seasonal=list(order=c(P,D,Q),period=T)) Les paramètres P, D, Q du modèle SARIMA ne sont pas abordés dans ce cours, nous leur donnerons par défaut la valeur des paramètres p, d, q (pas trop grands). Parmi les sorties de cette fonction, on peut obtenir : – out$coef : estimation des coefficients, – out$aic : valeur du critère AIC, – out$resid : estimation des résidus. La fonction p=predict(out,h) permet d’effectuer une prévision à l’horizon h. Parmi les sorties de cette fonction, p$pred contient les prévisions, et p$se contient l’écart-type de l’erreur de prévision. Il n’existe pas de fonction prédéfinie pour calculer un intervalle de confiance sur les prévisions, mais cela peut être fait manuellement grâce à ces deux sorties de la fonction predict.

44

9 TP 4 : Processus ARMA et ARIMA Consignes – Durée du TP : 4h. – Indispensable pour la suite : exercices 1 à 4.

9.1 Simulation de processus ARMA Penser à représenter chaque processus simulé. 1. Donner la définition d’un processus ARM Ap,q . Rappeler les conditions sur les coefficients pour que ce processus soit stationnaire. 2. A l’aide de la fonction arima.sim, simuler plusieurs processus ARp et M Aq (p et q pas trop grands). Avant toute simulation, écrire la définition mathématique du processus à simuler et veillez à ce que les conditions de stationnarité soient respectées. 3. Observer les auto-corrélations empiriques (partielles ou non). Que constatez-vous ? 4. Simuler quelques ARM Ap,q , observer et interpréter les auto-corrélations empiriques (partielles ou non). 5. Faire de même avec un modèle ARIM Ap,d,q , avec un d assez petit.

9.2 Identification d’un processus ARMA Récupérer le fichier de données serie1.dat. 1. Ce processus vous semble-t-il modélisable par un processus ARM A ? Pourquoi ? 2. On travaille désormais avec la série obtenue en appliquant la fonction diff à la série. Quelle transformation a-t-on effectuée ? Pourquoi ? 3. En observant les auto-corrélations empiriques et auto-corrélations partielles empiriques, proposer des modèles ARp et M Aq d’ordre faible pour modéliser cette série. 4. Estimer les paramètres des deux modèles sélectionnés. 5. Tester la blancheur des résidus. 6. Conclure pour choisir un modèle. 7. S’inspirer de la démarche pour modéliser la série serie2.dat.

9.3 Prévision dans un processus ARMA Soit le processus Xt − Xt−1 + 12 Xt−2 − 31 Xt−3 = ǫt avec ǫt un bruit blanc gaussien centré réduit. 1. Après avoir identifié ce processus, simuler 50 réalisations de longueur 105. 2. Pour chaque simulation, extraire les 100 premières valeurs et estimer les paramètres d’un AR3 . 3. Pour chaque simulation, prédire les cinq valeurs suivantes. 4. Donner une estimation de l’erreur moyenne (biais) et de la variance de l’erreur de prévision à 1, 2, 3, 4 et 5 pas. 5. Recommencer en rallongeant la durée d’observation, et comparer aux résultats précédents.

9.4 Précipitations mensuelles à San Fransisco entre 1932 et 1966 Récupérer la série sanfran.dat. 1. La série semble-t-elle stationnaire ? Si non faites en sorte qu’elle le soit. 2. Proposer un modèle ARp adapté à la série stationnarisé. Valider votre proposition en testant les résidus. 3. Gardez votre idée de coté. Estimer le modèle SARIM A{2,0,0,12} sur les données jusqu’à la fin de l’année 1963 (car nous allons chercher à prédire les précipitations des trois dernières années). Que pouvez-vous dire quant à mon choix de vous demander d’utiliser ce modèle ? Afficher et tester les résidus de cette modélisation. 45

4. Prévoir, à partir de cette modélisation, les précipitations de 1964, 1965 et 1966. Superposer sur un graphique prévision et valeurs réelles. 5. Reprenez votre idée, et refaites la prédiction des précipitations de 1964 à 1966, à l’aide du modèle que vous pouvez proposer à l’issue des deux premières questions. Faites de même avec un lissage exponentiel de HoltWinters, avec et sans composante saisonnière. 6. Quel est, graphiquement, le meilleur modèle pour prédire cette série ? 7. Comment peut-on répondre à la question précédente de façon moins subjective ? Comparer les résultats à l’analyse graphique.

9.5 Taux d’intérêt au Royaume-Uni Le fichier UKinterestrates.dat contient le spread des taux d’intérêts (différence entre taux d’intérêt à long terme et à court terme) pour le Royaume-Uni entre mars 1953 et décembre 1995. En vous inspirant des exercices précédents, proposer une modélisation de type ARM A, ARIM A ou SARIM A. Justifier bien votre démarche.

46

10 Processus ARCH et GARCH

−0.05 −0.15

−0.10

x

0.00

0.05

Les séries précédemment étudiées étaient supposées stationnaires. Si besoin, tendances et saisonnalités étaient supprimées pour obtenir une série résiduelle stationnaire. Néanmoins, toutes les séries résiduelles obtenues de la sorte ne sont pas nécessairement stationnaires. C’est le cas par exemple de la série représentée par la figure 26, qui contient les évolutions journalières de la bourse des valeurs de New-York (NYSE) du 19 octobre 1984 au 31 décembre 1991.

0

500

1000

1500

2000

Index

F IGURE 26 – Evolution journalière de la bourse des valeurs de New-York (1984-1991)

−2

−1

0

x

1

2

3

La figure 27 représente la simulation d’un processus ARCH2 .

0

200

400

600

800

1000

Time

F IGURE 27 – Simulation d’un ARCH2 Comme on peut le voir, la moyenne semble constante alors que la variance change au cours du temps (on qualifie ce comportement d’« hétéroscédastique »). De plus, les moments de grande variabilité semblent regroupés. Les modèles de type ARIMA qui supposent un comportement « homoscédastique »(variance constante), ne sont pas adaptés à ce type de série. Nous présentons dans cette section des modèles adaptés à ce type de série : les processus ARCH (AutoRegressive Conditionally Heteroscedastic) introduits pas Engle vers 1982, ainsi que leur généralisation, les processus GARCH.

47

10.1 Définitions Un processus ARCHp est défini par : Xt = ǫt |Xt−1 , Xt−2 , . . . ∼ σt2

=

ǫt N (0, σt2 ) 2 2 α0 + α1 Xt−1 + . . . + αp Xt−p

La variance condionnelle dépend du temps : si les valeurs précédentes sont grandes (en valeur absolue), la variance sera grande, et inversement. Ainsi, si on observe un choc dans la série (valeur anormalement grande), elle sera suivi d’une période de haute volatilité, dont la durée dépend de l’ordre p du modèle ARCH. Exercice 20. Pensez-vous que cela correspond à la série NYSE (figure 26) ?

10.2 Quelques rappels de probabilités Soit un couple de variables aléatoires continues (X, Y ), de dentsité f (., .). Soit fY (.) la densité marginale de Y . La densité conditionnelle de X sachant que Y = y est définie par : fX|Y (x, y) =

f (x, y) fY (y)

si fY (y) > 0

L’espérance conditionelle est donc l’espérance par rapport à cette loi : Z E[X|Y = y] = xfX|Y (x, y)dx R

La variance conditionnelle est

2

σt2 = V(Xt |It−1 ) = E[X 2 |Y = y] − E[X|Y = y]

Soit Is−1 = {Xs−1 , Xs−2 , . . .} l’ensemble des observations précédant l’instant s. On a : E[Xt |Is ] = E[Xt |Ir ] =

Xt ∀t ≤ s E[E[Xt |Is ]|Ir ]

∀r ≤ s

et en particulier E[Xt ] = E[E[Xt |Is ]].

10.3 Propriétés des processus ARCH Si Xt est un processus ARCH, alors : E[Xt ] = 0 E[Xt |It−1 ] = 0 V(Xt ) =

où It−1 = Xt−1 , Xt−2 , . . . p X α P0p αi < 1 si 1 − i=1 αi i=1

2 2 V(Xt |It−1 ) = α0 + α1 Xt−1 + . . . + αp Xt−p Cov(Xt , Xt+h ) = σh = 0 ∀h > 0

Cov(Xt , Xt+h |It−1 ) = 0 Remarque : un processus ARCH est conditionnellement hétéroscédastique mais inconditionnellement homoscédastique ! Pp Condition suffisante de stationnarité : i=1 αi < 1. On peut montrer également, ce qui peut être intéressant pour détecter un ARCH en pratique, que la distribution d’un processus ARCH a – un skewness nul (moment centré d’ordre 3) : la distribution est donc symétrique, – un kurtosis (moment centré d’ordre 4) supérieur à 3 : la distribution est donc plus applatie qu’une gaussienne. 48

10.4 Processus GARCH et propriétés Un processus GARCHp,q est défini par : Xt

=

ǫt |Xt−1 , Xt−2 , . . . ∼ σt2

=

ǫt N (0, σt2 ) 2 2 2 2 α0 + α1 Xt−1 + . . . + αp Xt−p + β1 σt−1 + . . . + βq σt−q

avec α0 > 0, αi ≥ 0 pour i = 1, . . . , p et βj ≥ 0 pour j = 1, . . . , q. Un processus GARCH peut être vu comme un processus ARCH d’ordre infini, et peut ainsi représenter formellement de façon plus parcimonieuse un processus ARCH comprenant un nombre élevé de paramètres. Remarque évidente : un GARCHp,0 est un ARCHp . Si Xt est un processus GARCHp,q , alors : E[Xt ] =

0

E[Xt |It−1 ] = Cov(Xt , Xt+h ) = σh =

0 0

Cov(Xt , Xt+h |It−1 ) =

0

∀h > 0

Propriété : soit Xt un processus GARCHp,q , et soit m = max(p, q). Le processus Xt2 admet une représentation ARM A(m, q). Ainsi, pour identifier un GARCHp,q , on identifiera tout d’abord le processus ARM A(m, q) qui modélise Xt2 . Pour identifier p dans le cas où m = q (p ≤ q), il faut effectuer des tests de significativité des coefficients αq , . . . , α1 du processus ARM A(m, q) (sont-ils significativement non nuls ?).

10.5 Mise en oeuvre sous R Pour utiliser les fonctions spécifiques à l’étude des modèles ARCH et GRACH, il faut avant tout charger le package tseries à l’aide de la commande library(tseries). La fonction garch permet d’estimer un GARCHp,q : serie<-garch(data,order=c(q,p)) Parmi les sorties de cette fonction : coef, residuals, fitted.values. La prédiction se fait de la même façon que pour les modèles de type ARMA.

49

11 TP 5 : Processus ARCH et GARCH Consignes – Durée du TP : 2h. – Nécessite l’installation du package tseries. Pour cela charger le package à l’aide de la commande library (si le package n’est pas présent dans votre version installée de R, il sera nécessaire de l’installer grâce à la commande install.packages).

11.1 Données simulées Soit le processus Xt défini par : Xt |Xt−1 , Xt−2 , . . . ∼ N (0, σt2 )

2 2 avec σt2 = 0.1 + 0.5Xt−1 + 0.2Xt−2 .

1. Reconnaissez-vous ce processus ? 2. Simuler dans un vecteur x 1000 réalisations de ce processus. Représenter cette trajectoire graphiquement, et analyser les moyenne, variance et auto-covariance empiriques. 3. Ajuster un processus ARCHp au vecteur x.

11.2 Données réelles EuStockMarkets Le fichier EuStockMarkets de R contient les valeurs de cloture des 4 principaux indices boursiers européens, de 1991 à 1998. Pour chaque indice, chercher un modèle ARCH ou GARCH approprié, et effectuer la prévision à 30 jours. Les données pourront (devront ?) au préalable être transformées.

11.3 Données réelles : NYSE Le fichier nyse.dat contient les évolutions journalières de la bourse des valeurs de New-York (NYSE) du 19 octobre 1984 au 31 décembre 1991. Checher un processus ARCH ou GARCH adapté, et réaliser la prévision à 30 jours.

Références [1] [2] [3] [4] [5] [6]

Aragon, Y. Séries temporelles avec R. Méthodes et cas., Springer, Paris, 2011. Bensaber A. et Bleuse-Trillon B. Pratique des chroniques et de la prévision à court terme, Masson, Paris, 1989. Bosq D. et Lecoutre J-P. Analyse et prévision des séries chronologiques, Masson, Paris, 1992. Brockwell P.J. et Davis R.A. Introduction to Time Series and Forecasting, Springer, 2001. Gouriéroux C. et Montfort A. Cours de séries temporelles, Economica, Paris, 1983. Shumway R.H. et Stoffer D.S. Times Series Analysis and Its Applications, With R Example, Springer, 2006.

Ce cours est en partie inspiré du cours de M.-Cl. Viano disponible à l’adresse suivante : http://math.univ-lille1.fr/ viano/economcours.pdf 50