הגדרה תאורטית
עריכה
בהינתן מרחב הסתברות ,
(
Ω
,
F
,
Pr
)
{\displaystyle (\Omega ,{\mathcal {F}},\Pr )}
Ω
{\displaystyle \Omega }
מרחב המדגם ,
F
{\displaystyle {\mathcal {F}}}
הסיגמה-אלגברה (קבוצת כל האירועים), ו-
Pr
{\displaystyle \Pr }
את ההסתברות עבור כל אירוע). וקטור מקרי הוא פונקציה מדידה המוגדרת על מרחב המדגם ותמונתה נמצאת ב-
R
n
{\displaystyle \mathbb {R} ^{n}}
X
:
Ω
↦
R
n
{\displaystyle \operatorname {X} :\Omega \mapsto \mathbb {R} ^{n}}
וקטור עמודה
X
=
[
X
1
⋮
X
n
]
{\displaystyle \mathbf {X} ={\begin{bmatrix}X_{1}\\\vdots \\X_{n}\end{bmatrix}}}
או כוקטור שורה
X
=
[
X
1
,
…
,
X
n
]
{\displaystyle \mathbf {X} =[X_{1},\dots ,X_{n}]}
X
i
:
Ω
↦
R
{\displaystyle X_{i}:\Omega \mapsto \mathbb {R} }
1
≤
i
≤
n
{\displaystyle 1\leq i\leq n}
מרחב הסתברות ,
(
Ω
,
F
,
Pr
)
{\displaystyle (\Omega ,{\mathcal {F}},\Pr )}
[1]
הווקטור המקרי
X
{\displaystyle \operatorname {X} }
פונקציית מידת ההתפלגות מהסיגמא-אלגברת בורל של המרחב האוקלידי ה-
n
{\displaystyle n}
ν
:
R
n
↦
[
0
,
1
]
{\displaystyle \nu :{\mathcal {R}}^{n}\mapsto [0,1]}
לכל קבוצת בורל
B
∈
R
n
{\displaystyle B\in {\mathcal {R}}^{n}}
ν
(
B
)
=
Pr
(
X
−
1
(
B
)
)
{\textstyle \nu (B)=\Pr(X^{-1}(B))}
ν
(
B
)
=
Pr
(
X
∈
B
)
{\textstyle \nu (B)=\Pr(X\in B)}
במקרה כזה, אם קיימת פונקציה לא שלילית
f
X
:
R
n
↦
[
0
,
∞
]
{\displaystyle f_{X}:R^{n}\mapsto [0,\infty ]}
ν
(
B
)
=
∫
B
f
X
d
λ
n
=
∫
B
f
X
d
x
{\displaystyle \nu (B)=\int _{B}f_{X}{\text{d}}\lambda _{n}=\int _{B}f_{X}{\text{d}}x}
אינטגרל לבג
[2]
λ
n
{\displaystyle \lambda _{n}}
מידת לבג , אז
f
X
{\displaystyle f_{X}}
פונקציית צפיפות של הווקטור המקרי
X
{\displaystyle \operatorname {X} }
[3]
פונקציית ההתפלגות
עריכה
ההתפלגויות של כל אחד מהמשתנים המקריים המרכיבים
X
i
{\displaystyle X_{i}}
התפלגויות שוליות . ההתפלגות המותנית של
X
i
{\displaystyle X_{i}}
X
j
{\displaystyle X_{j}}
X
i
{\displaystyle X_{i}}
X
j
{\displaystyle X_{j}}
פונקציית ההתפלגות המצטברת
F
X
:
R
n
↦
[
0
,
1
]
{\displaystyle F_{\mathbf {X} }:\mathbb {R} ^{n}\mapsto [0,1]}
X
=
(
X
1
,
…
,
X
n
)
T
{\displaystyle \mathbf {X} =(X_{1},\dots ,X_{n})^{\mathsf {T}}}
[4]
F
X
(
x
)
=
Pr
(
X
1
≤
x
1
,
.
.
.
,
X
n
≤
x
n
)
{\displaystyle F_{X}(\mathbf {x} )=\Pr(X_{1}\leq x_{1},...,X_{n}\leq x_{n})}
x
=
(
x
1
,
…
,
x
n
)
T
{\displaystyle \mathbf {x} =(x_{1},\dots ,x_{n})^{\mathsf {T}}}
פעולות על וקטורים מקריים
עריכה
שונות ושונות משותפת
עריכה
מטריצת השונות של הווקטור המקרי
X
{\displaystyle \mathbf {X} }
Var
(
X
)
{\displaystyle \operatorname {Var} (\mathbf {X} )}
מומנט מרכזי שני ) היא מטריצה
n
×
n
{\displaystyle n\times n}
i,j ) הוא
Cov
(
X
i
,
X
j
)
{\displaystyle \operatorname {Cov} (X_{i},X_{j})}
שהיא השונות המשותפת בין המשתנים המקריים
X
i
{\displaystyle X_{i}}
X
j
{\displaystyle X_{j}}
Cov
(
X
i
,
X
i
)
=
Var
(
X
i
)
{\displaystyle \operatorname {Cov} (X_{i},X_{i})=\operatorname {Var} (X_{i})}
Var
(
X
)
=
[
Var
(
X
1
)
Cov
(
X
1
,
X
2
)
Cov
(
X
1
,
X
3
)
⋯
Cov
(
X
1
,
X
n
)
)
Cov
(
X
2
,
X
1
)
Var
(
X
2
)
Cov
(
X
2
,
X
3
)
⋯
Cov
(
X
2
,
X
n
)
Cov
(
X
3
,
X
1
)
Cov
(
X
3
,
X
2
)
Var
(
X
3
)
⋯
Cov
(
X
3
,
X
n
)
⋮
⋮
⋮
⋱
⋮
Cov
(
X
n
,
X
1
)
Cov
(
X
n
,
X
2
)
Cov
(
X
n
,
X
3
)
⋯
Var
(
X
n
)
]
.
{\displaystyle {\boldsymbol {\operatorname {Var} }}(\operatorname {X} )={\begin{bmatrix}{\operatorname {Var} \left(X_{1}\right)}&\operatorname {Cov} \left(X_{1},X_{2}\right)&\operatorname {Cov} \left(X_{1},X_{3}\right)&\cdots &\operatorname {Cov} \left(X_{1},X_{n)}\right)\\\operatorname {Cov} \left(X_{2},X_{1}\right)&\operatorname {Var} \left(X_{2}\right)&\operatorname {Cov} \left(X_{2},X_{3}\right)&\cdots &\operatorname {Cov} \left(X_{2},X_{n}\right)\\\operatorname {Cov} \left(X_{3},X_{1}\right)&\operatorname {Cov} \left(X_{3},X_{2}\right)&\operatorname {Var} \left(X_{3}\right)&\cdots &\operatorname {Cov} \left(X_{3},X_{n}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{n},X_{1}\right)&\operatorname {Cov} \left(X_{n},X_{2}\right)&\operatorname {Cov} \left(X_{n},X_{3}\right)&\cdots &\operatorname {Var} \left(X_{n}\right)\\\end{bmatrix}}~.}
מטריצת השונות היא
Var
(
X
)
=
E
[
[
X
−
E
[
X
]
]
[
X
−
E
[
X
]
]
T
]
{\displaystyle \operatorname {Var} (\mathbf {X} )=\operatorname {E} [[\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {X} -\operatorname {E} [\mathbf {X} ]]^{T}]}
Var
(
X
)
=
E
[
X
X
T
]
−
E
[
X
]
E
[
X
]
T
{\displaystyle \operatorname {Var} (\mathbf {X} )=\operatorname {E} [\mathbf {X} \mathbf {X} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{T}}
מטריצת השונות המשותפת בין שני וקטורים מקריים
X
{\displaystyle \mathbf {X} }
Y
{\displaystyle \mathbf {Y} }
X
{\displaystyle \mathbf {X} }
n
{\displaystyle n}
Y
{\displaystyle \mathbf {Y} }
p
{\displaystyle p}
Cov
(
X
,
Y
)
{\displaystyle \operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )}
n
×
p
{\displaystyle n\times p}
(
i
,
j
)
{\displaystyle (i,j)}
Cov
(
X
i
,
X
j
)
{\displaystyle \operatorname {Cov} (X_{i},X_{j})}
X
i
{\displaystyle X_{i}}
X
j
{\displaystyle X_{j}}
Cov
(
X
,
Y
)
=
[
Cov
(
X
1
,
Y
1
)
Cov
(
X
1
,
Y
2
)
Cov
(
X
1
,
Y
3
)
⋯
Cov
(
X
1
,
Y
p
)
)
Cov
(
X
2
,
Y
1
)
Cov
(
X
2
,
Y
2
)
Cov
(
X
2
,
Y
3
)
⋯
Cov
(
X
2
,
Y
p
)
⋮
⋮
⋮
⋱
⋮
Cov
(
X
n
,
X
1
)
Cov
(
X
n
,
X
2
)
Cov
(
X
n
,
X
3
)
⋯
Cov
(
X
n
,
Y
p
)
]
.
{\displaystyle {\boldsymbol {\operatorname {Cov} }}(\operatorname {X} ,\operatorname {Y} )={\begin{bmatrix}{\operatorname {Cov} \left(X_{1},Y_{1}\right)}&\operatorname {Cov} \left(X_{1},Y_{2}\right)&\operatorname {Cov} \left(X_{1},Y_{3}\right)&\cdots &\operatorname {Cov} \left(X_{1},Y_{p)}\right)\\\operatorname {Cov} \left(X_{2},Y_{1}\right)&\operatorname {Cov} \left(X_{2},Y_{2}\right)&\operatorname {Cov} \left(X_{2},Y_{3}\right)&\cdots &\operatorname {Cov} \left(X_{2},Y_{p}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{n},X_{1}\right)&\operatorname {Cov} \left(X_{n},X_{2}\right)&\operatorname {Cov} \left(X_{n},X_{3}\right)&\cdots &\operatorname {Cov} \left(X_{n},Y_{p}\right)\\\end{bmatrix}}~.}
מתקיים:
Cov
(
X
,
Y
)
=
E
[
[
X
−
E
[
X
]
]
[
Y
−
E
[
Y
]
]
T
]
=
E
[
X
Y
T
]
−
E
[
X
]
E
[
Y
]
T
{\textstyle \operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {E} [[\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {Y} -\operatorname {E} [\mathbf {Y} ]]^{T}]=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}
מטריצת השונות היא מטריצה סימטרית ,
Var
(
X
)
T
=
Var
(
X
)
{\textstyle \operatorname {Var} (\mathbf {X} )^{T}=\operatorname {Var} (\mathbf {X} )}
מטריצת השונות היא מטריצה חיובית למחצה , כלומר, לכל
a
∈
R
n
{\displaystyle \mathbf {a} \in \mathbb {R} ^{n}}
a
T
Var
(
X
)
a
≥
0
{\textstyle \mathbf {a} ^{T}\operatorname {Var} (\mathbf {X} )\mathbf {a} \geq 0}
מטריצת השונות המשותפת
Cov
(
Y
,
X
)
{\displaystyle \operatorname {Cov} (\mathbf {Y} ,\mathbf {X} )}
Cov
(
X
,
Y
)
{\displaystyle \operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )}
Cov
(
Y
,
X
)
=
Cov
(
X
,
Y
)
T
{\textstyle \operatorname {Cov} (\mathbf {Y} ,\mathbf {X} )=\operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )^{T}}
וקטורים מקריים לא מתואמים
עריכה
שני וקטורים מקריים
X
=
(
X
1
,
.
.
.
,
X
m
)
T
{\displaystyle \mathbf {X} =(X_{1},...,X_{m})^{T}}
Y
=
(
Y
1
,
.
.
.
,
Y
n
)
T
{\displaystyle \mathbf {Y} =(Y_{1},...,Y_{n})^{T}}
לא מתואמים אם
E
[
X
Y
T
]
=
E
[
X
]
E
[
Y
]
T
{\textstyle \operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]=\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}
הם אינם מתואמים אם ורק אם מטריצת השונות המשותפת שלהם
Cov
(
X
,
Y
)
{\displaystyle \operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )}
אורתוגונליות
עריכה
שני וקטורים אקראיים
X
{\displaystyle \mathbf {X} }
Y
{\displaystyle \mathbf {Y} }
בלתי-תלויים אם לכל
x
{\displaystyle \mathbf {x} }
y
{\displaystyle \mathbf {y} }
F
X
,
Y
(
x
,
y
)
=
F
X
(
x
)
⋅
F
Y
(
y
)
{\textstyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )}
F
X
(
x
)
{\displaystyle F_{\mathbf {X} }(\mathbf {x} )}
F
Y
(
y
)
{\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}
X
{\displaystyle \mathbf {X} }
Y
{\displaystyle \mathbf {Y} }
F
X
,
Y
(
x
,
y
)
{\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}
X
{\displaystyle \mathbf {X} }
Y
{\displaystyle \mathbf {Y} }
X
⊥
⊥
Y
{\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }
פונקציה אופיינית
עריכה
התאוריה של תיקי השקעות
עריכה
בתאוריה של תיקי השקעות , המטרה היא לרוב לבחור בתיק עם מגוון נכסים כך שלתשואה של התיק יש את מאפיינים הרצויים. לדוגמה, ייתכן שתרצה לבחור בתיק עם תשואה בעלת השונות הנמוכה ביותר. כאן הווקטור המקרי הוא הווקטור
r
{\displaystyle \mathbf {r} }
p (סקלר מקרי) היא המכפלה הפנימית של וקטור התשואות עם וקטור משקלים w - לפי החלוקת העלות של של הנכסים השונים. במקרה כזה,
p
=
w
T
r
{\displaystyle p=w^{T}\mathbf {r} }
w
T
E
(
r
)
{\displaystyle w^{T}\operatorname {E} (\mathbf {r} )}
w
T
C
w
{\displaystyle w^{T}Cw}
C
{\displaystyle C}
r
{\displaystyle \mathbf {r} }
רגרסיה ליניארית
עריכה
ברגרסיה הליניארית , יש לנו נתונים על n תצפיות על משתנה תלוי y ו-n תצפיות על כל אחד מ-k משתנים בלתי תלויים. התצפיות על המשתנה התלוי הן הרכיבים של ווקטור y ; התצפיות על כל משתנה בלתי תלוי מהוות את הרכיבים של וקטורי עמודות, שמהווים את העמודות למטריצה X (לא מציינת וקטור מקרי בהקשר זה) של התצפיות על המשתנים הבלתי תלויים. משוואת הרגרסיה הבאה היא מודל עבור התהליך שייצר את הנתונים:
,
y
=
X
β
+
e
{\displaystyle ,y=X\beta +e}
כאשר β הוא וקטור קבוע אך לא ידוע של
k
{\displaystyle k}
e
{\displaystyle e}
שיטת הריבועים הפחותים ) לאמוד את הווקטור β באמצעות וקטור
β
^
{\displaystyle {\hat {\beta }}}
e
{\displaystyle e}
e
^
{\displaystyle {\hat {e}}}
.
e
^
=
y
−
X
β
^
{\textstyle .{\hat {e}}=y-X{\hat {\beta }}}
β
^
{\displaystyle {\hat {\beta }}}
e
^
{\displaystyle {\hat {e}}}
y .
סדרות עתיות וקטוריות
עריכה
את ההשתנות של וקטור מקרי
X
{\displaystyle \mathbf {X} }
X
t
=
c
+
A
1
X
t
−
1
+
A
2
X
t
−
2
+
⋯
+
A
p
X
t
−
p
+
e
t
,
{\displaystyle \mathbf {X} _{t}=c+A_{1}\mathbf {X} _{t-1}+A_{2}\mathbf {X} _{t-2}+\cdots +A_{p}\mathbf {X} _{t-p}+\mathbf {e} _{t},\,}
X
t
−
i
{\displaystyle \mathbf {X} _{t-i}}
i
{\displaystyle i}
t
{\displaystyle t}
c
{\displaystyle c}
A i היא מטריצה קבועה בזמן ו-
e
t
{\displaystyle \mathbf {e} _{t}}
קישורים חיצוניים
עריכה
הערות שוליים
עריכה
^ Billingsley, P. (2017). "Probability and measure". p.183, John Wiley & Sons.
^ Billingsley, P. (2017). "Probability and measure". p.213, John Wiley & Sons.
^ Billingsley, P. (2017). "Probability and measure". p.225, John Wiley & Sons.
^ Gallager, Robert G. (2013). Stochastic Processes Theory for Applications . p.15, Cambridge University Press. ISBN 978-1-107-03975-9
^ Lapidoth, Amos (2009). A Foundation in Digital Communication . Cambridge University Press. p. 290-291 ISBN 978-0-521-19395-5
^ Gubner, John A. (2006). Probability and Random Processes for Electrical and Computer Engineers. Cambridge University Press. p.333 ISBN 978-0-521-86470-1
^ Lapidoth, Amos (2009). A Foundation in Digital Communication . Cambridge University Press. p.468. ISBN 978-0-521-19395-5
![{\displaystyle \mathbf {X} =[X_{1},\dots ,X_{n}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3c125cbf2ed3e9af845bdb5856351f754afb8828)
![{\displaystyle \nu :{\mathcal {R}}^{n}\mapsto [0,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/16f5edd9835a7fc11ff8add17086d1f55889fbc3)
![{\displaystyle f_{X}:R^{n}\mapsto [0,\infty ]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3da142b165a47f974226e3bbafe1ccacb1bfe0cf)
![{\displaystyle F_{\mathbf {X} }:\mathbb {R} ^{n}\mapsto [0,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5b30f84c300818779899583633faa44ef4cc9100)
![{\displaystyle \operatorname {E} [\mathbf {X} ]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3027b4ba8627bb297a8039b230b2afb29a717422)
![{\displaystyle \operatorname {E} [\mathbf {X} ]={\begin{bmatrix}\operatorname {E} [X_{1}]\\\vdots \\\operatorname {E} [X_{n}]\end{bmatrix}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a85fdab9a03bb074d4ec9ce0b7908c3aad817b33)
![{\displaystyle \operatorname {Var} (\mathbf {X} )=\operatorname {E} [[\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {X} -\operatorname {E} [\mathbf {X} ]]^{T}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b8965c43f92bf6dd2eec5cd7ec2a5f1b52145712)
![{\displaystyle \operatorname {Var} (\mathbf {X} )=\operatorname {E} [\mathbf {X} \mathbf {X} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{T}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9f498dea26d8bf5609833f4899a22345ce721b33)
![{\textstyle \operatorname {Cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {E} [[\mathbf {X} -\operatorname {E} [\mathbf {X} ]][\mathbf {Y} -\operatorname {E} [\mathbf {Y} ]]^{T}]=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6130b7a350899b9b62ab277e0c2babab1c853441)
![{\textstyle \operatorname {E} [\mathbf {X} \mathbf {Y} ^{T}]=\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{T}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1f3443afb9a679f8d1ecbf08740dfa76bb1bdf0f)
![{\textstyle \operatorname {E} [\mathbf {X} ^{T}\mathbf {Y} ]=0}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f3ba5b6a4f6a22416054a50c437974e2efe9911d)
![{\displaystyle \varphi _{\mathbf {X} }(\mathbf {\omega } )=\operatorname {E} \left[e^{i(\mathbf {\omega } ^{T}\mathbf {X} )}\right]=\operatorname {E} \left[e^{i(\omega _{1}X_{1}+\ldots +\omega _{n}X_{n})}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/8c60146238888d3530b7411e867111a572489abc)
