Revisão de Probabilidades e Processos Estocásticos

Probabilidades
e Processos Estocásticos
EE-240
Probabilidade e
Processos Estocásticos
EE-240/2009
Probabilidades
e Processos Estocásticos
1. Espaço de Probabilidades: É uma Tripla , F , P
2. Espaço Amostral: É o conjunto dos resultados possíveis
3. Classe de Eventos: É a classe F de sub-conjuntos de  que satisfaz:
i) A  F  A C  F
ii) A i  F ; i  1,2,.... 
iii) Ai  F ; i  1,2,.... 

 Ai  F
i 1

 Ai  F
i 1
4. Medida de Probabilidade: É uma função P: F  0,1 tal que, para A  F
i) PA   0
ii) P   1
iii) A1  A 2    PA1  A 2   PA1   PA 2 
EE-240/2009
Probabilidades
e Processos Estocásticos
5. Probabilidade Condicional:
PA M 
PA  M
PM

A
A M
M
Exemplo:
  1,2,3,4,5,6 
1
P  i  , i  1,...,6
6
M   2,4,6   P  5 M  0
M  1,3,5   P  5 M 
M  1,3,5 
1
3
2
 P  3 M 
3
EE-240/2009
Probabilidades
e Processos Estocásticos
5. Probabilidade Condicional:
PA M 
PA  M
PM

A
A M
M
6. Fórmula de Bayes:
PA  M
PM
PA  M
PM A  
PA 
PA M 
PA M 
PM A PA 
PM
EE-240/2009
Probabilidades
e Processos Estocásticos
7. Independência:
A, B  
PA  B   PA PB  
A e B independentes
8. Variáveis Aleatórias: x :   R


R
0
x
EE-240/2009
Probabilidades
e Processos Estocásticos
Exemplo:
  1,2,3,4,5,6 
 35  par
x  
 20  ímpar

x
$
-20
0
+35
EE-240/2009
Probabilidades
e Processos Estocásticos
9. Função Distribuição de Probabilidade: Fx    P x   


Fx
P x   
R
0
x

EE-240/2009
Probabilidades
e Processos Estocásticos
9. Função Distribuição de Probabilidade: Fx    P x   
10. Propriedades da Função Distribuição:
a ) F    1 e F    0
b ) 1   2  F1   F 2 
c ) F   0  F   0   
 
d) F    F 
e ) P 1  x     2   F 2   F1 
11. Função Densidade de Probabilidade:
fx   
dFx
 
d
EE-240/2009
Probabilidades
e Processos Estocásticos
12. Distribuição Condicional de Probabilidade:
Fx  M  P x   M 
Exemplo: M   x  a
P x    M
PM
Fx  | x  a 
Px    x  a
Px  a
 > a  x     x   a x   a F  x   a  1
x
  a  x    x   a x    F  x   a 
x
Fx
Fx a 
Fx
Fx  | x  a
1
Fx  

a
EE-240/2009
Probabilidades
e Processos Estocásticos
13. Funções de uma variável aleatória:
y  gx()  g  x
R


x
R
gx()  g  x
y
Fy    P | y()   
EE-240/2009
Probabilidades
e Processos Estocásticos

14. Média: mx  E[x]   xPd    fx  d
d


fx

0
x
EE-240/2009
Probabilidades
e Processos Estocásticos

14. Média: mx  E[x]   xPd    fx  d
Pd


fx
x.
f  
R
0

EE-240/2009
Probabilidades
e Processos Estocásticos

14. Média: mx  E[x]   xPd    fx  d
Pd


x.
fx
f  
R
0

EE-240/2009
Probabilidades
e Processos Estocásticos
15. Estatística conjunta de duas variáveis aleatórias:
y


y
Fx , y ,    P | x   , y   
x
x
16. Propriedades de Fx,y:
a ) Fx , y  ,    0
b) Fx , y  ,   0
c ) Fx , y  ,   1
d) P1  x()   2 , y()     Fxy  2 ,    Fxy 1 ,  
EE-240/2009
Probabilidades
e Processos Estocásticos
17. Distribuição Marginal:
Fx    Fxy , 
Fy    Fxy   ,  
18. Independência de Variáveis Aleatórias:
As variáveis aleatórias x e y são ditas independentes se, para A,B
 | x()  A e  | y()  B são independentes, ou seja,
P{x()  A}  {y()  B}  Px()  A  Py()  B
A  x()  
B  y()  
Fxy ,    Fx   Fy  
fxy ,    fx   fy  
EE-240/2009
Probabilidades
e Processos Estocásticos
19. Função de duas variáveis aleatórias:
z = g(x,y)
z
y


g(.,.)
y
g(x,y)
x
x
EE-240/2009
Probabilidades
e Processos Estocásticos
19. Função de duas variáveis aleatórias:
z = g(x,y)
z
y


g(.,.)
y
g(x,y)
Dz
x
x
Fz   P | z()  
 P | g( x(), y())  

 fx, y ,   d d
Dz
EE-240/2009
Probabilidades
e Processos Estocásticos
Conexão Série
S1
P    min T1, T2    t  
S2
(, , P)
P     T1  t    T2   t  
P    T1  t   P    T2  t   P    T1  t   T2  t  
t2

FT1(t)  FT2 (t)  FT1(t)FT2 (t)
T2()
FT i( t )  1  e  t
t
t1
T1()
t

 
 


FT ( t )  1  et  1  et  1  et 1  et  1  e2t
d
dt
Na área sombreada,
o sistema conectado
em série ficou
inoperante antes
do instante t
f T ( t )  2e2t
ET  
1
2
EE-240/2009
Probabilidades
e Processos Estocásticos
Conexão Paralela
S1
P    max T1, T2    t  
S2
(, , P)
P   
 T1  t   T2   t  
P    T1  t P    T2  t  
t2

FT1(t)FT2 (t)
T2()
FT i( t )  1  e  t
t
t1
T1()
t


 
FT ( t )  1  e  t 1  e  t  1  e  t
d
dt
Na área sombreada,
o sistema conectado
em paralelo ficou
inoperante antes
do instante t

f T ( t )  2 e
 t

2
0.03
0.025
e
2 t

0.02
0.015
0.01
0.005
0
ET  
0
10
20
30
40
50
60
70
80
90
100
3
2
EE-240/2009
Probabilidades
e Processos Estocásticos
Conexão Stand By
FT1(t )  P    T1 T2   t 
S1
f T1, T 2 ( t1, t 2 )  f T1 ( t1 )f T1 ( t1 )
S2
(, , P)
FT ( t )  
t2

t t 2
 t t 2 f

t1, t 2 dt1  dt 2    f T1 t1 dt1  f T 2 t 2 dt 2 
T
1
,
T
2



 
 
 
 



 FT1(t  t 2 ) fT2 (t 2 )dt 2
T2()
t
d
dt
t1
T1()
t
fT (t ) 
d 
FT1 ( t  t 2 ) f T 2 ( t 2 )dt 2 
dt  

d
 dt1 FT1(t  t 2 )
dt1
fT 2 (t 2 )dt 2 
x  z  y dt

 fT1(t  t 2 )fT2 (t 2 )dt 2  fT1 * fT2 (t)
Na área sombreada,
o sistema conectado
em configuração stand
by ficou inoperante
antes do instante t
f T i ( t )   e  t
z
0 e
( t  t 2 )
et 2 dt 2  2 te t
ET  
2

EE-240/2009
Probabilidades
e Processos Estocásticos

20. Covariança:  xy  E ( x  mx )( y  m y )

  

 

(  mx )(  m y )fx , y ,  dd
21. Distribuição Normal: x ~ N(m,Q), x  Rn
fx   
 1

T
exp

(


m
)
Q
(


m
)


n 2 det Q 1 / 2
2


1
EE-240/2009
Probabilidades
e Processos Estocásticos
22. Processos Estocásticos:
Coleção de variáveis aleatórias indexadas por parâmetro t  Z ou R
Exemplo de Processo Estocástico
2.5
2
1.5
1
x
0.5
0
-0.5
-1
-1.5
-2
-2.5
0
20
40
60
80
100
tempo
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
23. Caracterização de Processos Estocásticos: x t 
Para cada t fixo, x t  é uma variável aleatória. Logo, para caracterizar
a coleção de variáveis aleatórias, necessita-se de
t
fx t  
,  
t 1 , t 2 , t 3 fx t , x t , x t ,  ,  
1
2
3
t 1 , t 2
fx t
1
, x t2

EE-240/2009
Probabilidades
e Processos Estocásticos
Caracterização de Processos Estocásticos:
Para cada t fixo, x t  é uma variável aleatória. Logo, para caracterizar
a coleção de variáveis aleatórias, necessita-se de
t
fx t  
,  
t 1 , t 2 , t 3 fx t , x t , x t ,  ,  
1
2
3
t 1 , t 2
fx t
1
, x t2

x t5
x t1
x t3
x t4
x t2
EE-240/2009
Probabilidades
e Processos Estocásticos
23. Caracterização de Processos Estocásticos: x t 
Para cada t fixo, x t  é uma variável aleatória. Logo, para caracterizar
a coleção de variáveis aleatórias, necessita-se de
t
fx t  
,  
t 1 , t 2 , t 3 fx t , x t , x t ,  ,  
1
2
3
t 1 , t 2
fx t
1
, x t2

24. Processos Estacionários (no Sentido Estrito)
Um processo xt(.) é dito ser estacionário se, n ,  t , t 1 , t 2 ,, t n
fx t
1
,, x tn
1 ,, n   fx t1 t ,, x tn t 1 ,, n 
EE-240/2009
Probabilidades
e Processos Estocásticos
Exemplo:
Processo Não-Estacionário
8
6
4
x
2
0
-2
-4
-6
-8
0
20
40
t
60
80
100
tempo
120
140
160
180
200
t
EE-240/2009
Probabilidades
e Processos Estocásticos
Exemplo:
Processo Não-Estacionário
10
8
6
x
4
2
0
-2
-4
0
20
40
60
t
80
100
tempo
120
140
160
180
200
t
EE-240/2009
Probabilidades
e Processos Estocásticos
25. Processos Estacionários no Sentido Amplo
Um processo xt(.) é dito ser estacionário no sentido amplo se,
fx t    fx t  t  
fx t
1
, x t2
,    fx t1  t , x t 2  t ,  
Estacionário no Sentido Amplo
Estacionário no
Sentido Estrito
EE-240/2009
Probabilidades
e Processos Estocásticos
26. Função de Auto-Correlação

R xx t 1 , t 2   E x t 1 x t 2

No caso de processo estacionário no sentido amplo:
R xx t 1 , t 2   R x t 2  t 1   R x t 
EE-240/2009
Probabilidades
e Processos Estocásticos
Função de Auto-correlação e Densidade Espectral de Potência
5
0
-5
0
1
1
0
0
-1
-1
500 1000 1500 2000 2500 3000 3500 4000 4500 5000
1
0
20
40
60
80
100 120 140 160 180 200
0
1
1
0
0
20
40
60
80
100 120 140 160 180 200
0.5
0
-0.5
0
10
20
30
40
50
60
2
-1
0
10
20
30
40
50
60
40
-1
0
10
20
30
40
50
60
0
20
40
60
80
100
120
60
1.5
40
20
1
0.5
20
0
20
40
60
80
100
120
140
0
0
20
40
60
80
100
120
0
EE-240/2009
Probabilidades
e Processos Estocásticos
26. Função de Auto-Correlação

R xx t 1 , t 2   E x t 1 x t 2

No caso de processo estacionário no sentido amplo:
R xx t 1 , t 2   R x t 2  t 1   R x t 
27. Ruído Branco
t 1  t 2  x t 1 independente de x t 2
28. Ruído Gaussiano
x t 1 e x t 2 conjuntamente gaussianas
EE-240/2009
Probabilidades
e Processos Estocásticos
26. Ruído Branco Gaussiano
Se x e y são variáveis aleatórias conjuntamente normais de média 0,
Exy  0  x independente de y
Portanto, no caso do Ruído Branco Gaussiano Padrão
R x t   t 
Observação:
independência  não-correlação
não-correlação  independência
EE-240/2009
Probabilidades
e Processos Estocásticos
Exemplo: Ruído em Sistemas Lineares
uk
yk
hk
k
yk   hk iui
i0
Ruy ( j, k )  E [u j yk ]
 k

 E u j  hk iui 
 i0

k
  hk i E [ u j ui ]
i0
k
  hk i Ruu ( j, i)
i0
Ruu ( j, i)   ji
k
Ruy ( j, k )   hk i  ji  hk  j
i0
EE-240/2009
Probabilidades
e Processos Estocásticos
uk
yk
hk
qi
*
E (.)
hi
EE-240/2009
Probabilidades
e Processos Estocásticos
Resposta Impulso
350
G(s) 
300
250
200
  0 .4
150
h(k)
4
s 2  1 .2 s  4
n  2
G(z) 
100
0.073 z  0.0674
z2  1.646 z  0.786
50
0
-50
-100
-150
0
5
10
15
k
20
25
30
EE-240/2009
Probabilidades
e Processos Estocásticos
Exemplos de
Processos Estocásticos
EE-240/2009
Probabilidades
e Processos Estocásticos
Ruído Branco Gaussiano
15
10
5
0
-5
-10
-15
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Ruído Branco Gaussiano
Nova Variança
15
10
5
0
-5
-10
-15
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Outlier
15
?
10
?
5
0
?
-5
-10
-15
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Novelty
15
?
10
5
0
?
-5
-10
-15
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Alteração Brusca de Tendência
14
12
10
8
6
4
2
0
-2
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
15
10
?
5
0
-5
-10
-15
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Sinal dependente de variável manipulada...
10
5
y(t) 0
-5
-10
0
20
40
60
80
100
120
140
160
180
200
y(t)
u(t)
S
1
0.5
u(t) 0
-0.5
-1
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Ausência de Resposta pode ser Falha ...
10
5
y(t) 0
-5
-10
0
20
40
60
80
100
120
140
160
180
200
y(t)
u(t)
S
1
0.5
u(t) 0
-0.5
-1
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Saturação
10
5
0
-5
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Modelo AR: y(k)=0.8*y(k-1) + ruído
Nova Variança do Ruído
6
4
2
0
-2
-4
-6
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Qual a distribuição do ruído?
6
4
2
N(0,2)
0
-2
-4
-6
0
20
40
60
80
100
120
140
160
180
200
6
4
2
U(-2,2)
0
-2
-4
-6
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Ruído aumentando com o tempo...
50
40
30
20
10
0
-10
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Falhas Intermitentes ...
4.5
4
3.5
3
2.5
2
1.5
1
0.5
0
-0.5
0
20
40
60
80
100
120
140
160
180
200
EE-240/2009
Probabilidades
e Processos Estocásticos
Muito Obrigado!
EE-240/2009