Συνδιακύμανση

Το πρόσημο της συνδιακύμανσης δύο τυχαίων μεταβλητών Χ και Υ

Στη θεωρία πιθανοτήτων και τη στατιστική, η συνδιακύμανση είναι ένα μέτρο της κοινής μεταβλητότητας δύο τυχαίων μεταβλητών.

Το πρόσημο της συνδιακύμανσης, επομένως, δείχνει την τάση στη γραμμική σχέση μεταξύ των μεταβλητών. Εάν οι μεγαλύτερες τιμές της μιας μεταβλητής αντιστοιχούν κυρίως σε μεγαλύτερες τιμές της άλλης μεταβλητής και το ίδιο ισχύει και για τις μικρότερες τιμές (δηλαδή οι μεταβλητές τείνουν να παρουσιάζουν παρόμοια συμπεριφορά), η συνδιακύμανση είναι θετική. Στην αντίθετη περίπτωση, όταν οι μεγαλύτερες τιμές της μιας μεταβλητής αντιστοιχούν κυρίως σε μικρότερες τιμές της άλλης (δηλαδή οι μεταβλητές τείνουν να παρουσιάζουν αντίθετη συμπεριφορά), η συνδιακύμανση είναι αρνητική. Το μέγεθος της συνδιακύμανσης είναι ο γεωμετρικός μέσος όρος των αποκλίσεων που είναι κοινές για τις δύο τυχαίες μεταβλητές. Ο συντελεστής συσχέτισης κανονικοποιεί τη συνδιακύμανση διαιρώντας με το γεωμετρικό μέσο των συνολικών αποκλίσεων για τις δύο τυχαίες μεταβλητές.

Πρέπει να γίνει διάκριση μεταξύ (1) της συνδιακύμανσης δύο τυχαίων μεταβλητών, η οποία είναι μια πληθυσμιακή παράμετρος που μπορεί να θεωρηθεί ως ιδιότητα της κοινής κατανομής πιθανοτήτων, και (2) της δειγματικής συνδιακύμανσης, η οποία εκτός από περιγραφικό στοιχείο του δείγματος χρησιμεύει και ως εκτιμώμενη τιμή της πληθυσμιακής παραμέτρου.

Ορισμός

Για δύο από κοινού κατανεμημένες τυχαίες μεταβλητές πραγματικής αξίας $X$ και $Y$ με πεπερασμένες δεύτερες ροπές, η συνδιακύμανση ορίζεται ως η αναμενόμενη τιμή (ή μέση τιμή) του γινομένου των αποκλίσεών τους από τις επιμέρους αναμενόμενες τιμές τους

$\operatorname {cov} (X,Y)=\operatorname {E} {{\big [}(X-\operatorname {E} [X])(Y-\operatorname {E} [Y]){\big ]}}$

όπου $\operatorname {E} [X]$ είναι η αναμενόμενη τιμή του $X$, γνωστή και ως μέση τιμή του $X$. Η συνδιακύμανση μερικές φορές συμβολίζεται επίσης ως $\sigma _{XY}$ ή $\sigma (X,Y)$, κατ' αναλογία με τη διακύμανση. Χρησιμοποιώντας την ιδιότητα γραμμικότητας των προσδοκιών, αυτό μπορεί να απλοποιηθεί στην αναμενόμενη τιμή του γινομένου τους μείον το γινόμενο των αναμενόμενων τιμών τους:

${\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {E} \left[\left(X-\operatorname {E} \left[X\right]\right)\left(Y-\operatorname {E} \left[Y\right]\right)\right]\\&=\operatorname {E} \left[XY-X\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]Y+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right],\end{aligned}}$

αλλά η εξίσωση αυτή είναι επιρρεπής σε ακύρωση (βλέπε το τμήμα για τον αριθμητικό υπολογισμό παρακάτω).

Οι μονάδες μέτρησης της συνδιακύμανσης $\operatorname {cov} (X,Y)$ είναι εκείνες του $X$ επί εκείνες του $Y$. Αντίθετα, οι συντελεστές συσχέτισης, οι οποίοι εξαρτώνται από τη συνδιακύμανση, είναι ένα μέτρο γραμμικής εξάρτησης χωρίς διαστάσεις. (Στην πραγματικότητα, οι συντελεστές συσχέτισης μπορούν απλώς να κατανοηθούν ως μια κανονικοποιημένη εκδοχή της συνδιακύμανσης).

Σύνθετες τυχαίες μεταβλητές

Η συνδιακύμανση μεταξύ δύο σύνθετων τυχαίων μεταβλητών $Z,W$ ορίζεται ως εξής

$\operatorname {cov} (Z,W)=\operatorname {E} \left[(Z-\operatorname {E} [Z]){\overline {(W-\operatorname {E} [W])}}\right]=\operatorname {E} \left[Z{\overline {W}}\right]-\operatorname {E} [Z]\operatorname {E} \left[{\overline {W}}\right]$

Προσέξτε την μιγαδική συζυγία του δεύτερου παράγοντα στον ορισμό.

Μια σχετική ψευδο-συνδιακύμανση μπορεί επίσης να οριστεί.

Διακριτές τυχαίες μεταβλητές

Αν το ζεύγος (πραγματικών) τυχαίων μεταβλητών $(X,Y)$ μπορεί να πάρει τις τιμές $(x_{i},y_{i})$ για $i=1,\ldots ,n$, με ίσες πιθανότητες $p_{i}=1/n$, τότε η συνδιακύμανση μπορεί να γραφεί ισοδύναμα ως προς τους μέσους $\operatorname {E} [X]$ και $\operatorname {E} [Y]$ ως εξής

$\operatorname {cov} (X,Y)={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-E(X))(y_{i}-E(Y)).$

Μπορεί επίσης να εκφραστεί ισοδύναμα, χωρίς άμεση αναφορά στο μέσο, ως εξής

$\operatorname {cov} (X,Y)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}{\frac {1}{2}}(x_{i}-x_{j})(y_{i}-y_{j})={\frac {1}{n^{2}}}\sum _{i}\sum _{j>i}(x_{i}-x_{j})(y_{i}-y_{j}).$

Γενικότερα, αν υπάρχουν $n$ πιθανές πραγματοποιήσεις της $(X,Y)$, δηλαδή $(x_{i},y_{i})$ αλλά με πιθανώς άνισες πιθανότητες $p_{i}$ για $i=1,\ldots ,n$, τότε η συνδιακύμανση είναι

$\operatorname {cov} (X,Y)=\sum _{i=1}^{n}p_{i}(x_{i}-E(X))(y_{i}-E(Y)).$

Στην περίπτωση που δύο διακριτές τυχαίες μεταβλητές $X$ και $Y$ έχουν κοινή κατανομή πιθανοτήτων, η οποία αντιπροσωπεύεται από τα στοιχεία $p_{i,j}$ που αντιστοιχούν στις κοινές πιθανότητες της $P(X=x_{i},Y=y_{j})$, η συνδιακύμανση υπολογίζεται με διπλό άθροισμα επί των δεικτών του πίνακα:

$\operatorname {cov} (X,Y)=\sum _{i=1}^{n}\sum _{j=1}^{n}p_{i,j}(x_{i}-E[X])(y_{j}-E[Y]).$

Παραδείγματα

Θεωρήστε τρεις ανεξάρτητες τυχαίες μεταβλητές $A,B,C$ και δύο σταθερές $q,r$.

${\begin{aligned}X&=qA+B\\Y&=rA+C\\\operatorname {cov} (X,Y)&=qr\operatorname {var} (A)\end{aligned}}$

Στην ειδική περίπτωση, $q=1$ και $r=1$, η συνδιακύμανση μεταξύ $X$ και $Y$ είναι απλώς η διακύμανση του $A$ και η ονομασία συνδιακύμανση είναι απολύτως κατάλληλη.

Γεωμετρική ερμηνεία του παραδείγματος της συνδιακύμανσης. Κάθε κυβοειδές είναι το ευθυγραμμισμένο με τους άξονες πλαίσιο οριοθέτησης του σημείου του (x, y, f (x, y)), και οι X' και Y μέσα (πορφυρό σημείο). Η συνδιακύμανση είναι το άθροισμα των όγκων των κυβοειδών στο 1ο και 3ο τεταρτημόριο (κόκκινο) και στο 2ο και 4ο (μπλε).

Ας υποθέσουμε ότι τα $X$ και $Y$ έχουν την ακόλουθη κοινή συνάρτηση μάζας πιθανότητας, στην οποία τα έξι κεντρικά κελιά δίνουν τις διακριτές κοινές πιθανότητες $f(x,y)$ των έξι υποθετικών πραγματώσεων $(x,y)\in S=\left\{(5,8),(6,8),(7,8),(5,9),(6,9),(7,9)\right\}$:

$f(x,y)$		x				$f_{Y}(y)$
		5	6	7
y	8	0	0.4	0.1		0.5
	9	0.3	0	0.2		0.5
$f_{X}(x)$		0.3	0.4	0.3	1

Το $X$ μπορεί να πάρει τρεις τιμές (5, 6 και 7), ενώ το $Y$ μπορεί να πάρει δύο (8 και 9). Οι μέσοι όροι τους είναι $\mu _{X}=5(0,3)+6(0,4)+7(0,1+0,2)=6$ και $\mu _{Y}=8(0,4+0,1)+9(0,3+0,2)=8,5$. Τότε,

${\begin{aligned}\operatorname {cov} (X,Y)={}&\sigma _{XY}=\sum _{(x,y)\in S}f(x,y)\left(x-\mu _{X}\right)\left(y-\mu _{Y}\right)\\[4pt]={}&(0)(5-6)(8-8.5)+(0.4)(6-6)(8-8.5)+(0.1)(7-6)(8-8.5)+{}\\[4pt]&(0.3)(5-6)(9-8.5)+(0)(6-6)(9-8.5)+(0.2)(7-6)(9-8.5)\\[4pt]={}&{-0.1}\;.\end{aligned}}$

Ιδιότητες

Συνδιακύμανση με τον εαυτό της

Η διακύμανση είναι μια ειδική περίπτωση της συνδιακύμανσης στην οποία οι δύο μεταβλητές είναι ταυτόσημες:

$\operatorname {cov} (X,X)=\operatorname {var} (X)\equiv \sigma ^{2}(X)\equiv \sigma _{X}^{2}.$

Συνδιακύμανση γραμμικών συνδυασμών

Αν $X$, $Y$, $W$ και $V$ είναι τυχαίες μεταβλητές πραγματικής τιμής και $a,b,c,d$ είναι σταθερές πραγματικής τιμής, τότε τα ακόλουθα γεγονότα είναι συνέπεια του ορισμού της συνδιακύμανσης:

${\begin{aligned}\operatorname {cov} (X,a)&=0\\\operatorname {cov} (X,X)&=\operatorname {var} (X)\\\operatorname {cov} (X,Y)&=\operatorname {cov} (Y,X)\\\operatorname {cov} (aX,bY)&=ab\,\operatorname {cov} (X,Y)\\\operatorname {cov} (X+a,Y+b)&=\operatorname {cov} (X,Y)\\\operatorname {cov} (aX+bY,cW+dV)&=ac\,\operatorname {cov} (X,W)+ad\,\operatorname {cov} (X,V)+bc\,\operatorname {cov} (Y,W)+bd\,\operatorname {cov} (Y,V)\end{aligned}}$

Για μια ακολουθία $X_{1},\ldots ,X_{n}$ τυχαίων μεταβλητών σε πραγματικές τιμές και σταθερές $a_{1},\ldots ,a_{n}$, έχουμε

$\operatorname {var} \left(\sum _{i=1}^{n}a_{i}X_{i}\right)=\sum _{i=1}^{n}a_{i}^{2}\sigma ^{2}(X_{i})+2\sum _{i,j\,:\,i<j}a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})=\sum _{i,j}{a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})}$

Ταυτότητα συνδιακύμανσης του Χόεφντινγκ

Μια χρήσιμη ταυτότητα για τον υπολογισμό της συνδιακύμανσης μεταξύ δύο τυχαίων μεταβλητών $X,Y$ είναι η ταυτότητα συνδιακύμανσης του Χόεφντινγκ:

$\operatorname {cov} (X,Y)=\int _{\mathbb {R} }\int _{\mathbb {R} }\left(F_{(X,Y)}(x,y)-F_{X}(x)F_{Y}(y)\right)\,dx\,dy$ όπου $F_{(X,Y)}(x,y)$ είναι η κοινή αθροιστική συνάρτηση κατανομής του τυχαίου διανύσματος $(X,Y)$ και $F_{X}(x),F_{Y}(y)$ είναι τα περιθωριακά.

Αντισυσχέτιση και ανεξαρτησία

Κύριο άρθρο: Συσχέτιση και εξάρτηση

Οι τυχαίες μεταβλητές των οποίων η συνδιακύμανση είναι μηδέν ονομάζονται ασυσχέτιστες Ομοίως, οι συνιστώσες τυχαίων διανυσμάτων των οποίων ο πίνακας συνδιακύμανσης είναι μηδέν σε κάθε εγγραφή εκτός της κύριας διαγωνίου ονομάζονται επίσης ασυσχέτιστες.

Αν $X$ και $Y$ είναι ανεξάρτητες τυχαίες μεταβλητές, τότε η συνδιακύμανσή τους είναι μηδέν. Αυτό προκύπτει επειδή υπό την ανεξαρτησία,

$\operatorname {E} [XY]=\operatorname {E} [X]\cdot \operatorname {E} [Y].$

Το αντίστροφο, ωστόσο, δεν ισχύει γενικά. Για παράδειγμα, έστω $X$ ομοιόμορφα κατανεμημένο στο $[-1,1]$ και έστω $Y=X^{2}$. Προφανώς, τα $X$ και $Y$ δεν είναι ανεξάρτητα, αλλά

${\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {cov} \left(X,X^{2}\right)\\&=\operatorname {E} \left[X\cdot X^{2}\right]-\operatorname {E} [X]\cdot \operatorname {E} \left[X^{2}\right]\\&=\operatorname {E} \left[X^{3}\right]-\operatorname {E} [X]\operatorname {E} \left[X^{2}\right]\\&=0-0\cdot \operatorname {E} [X^{2}]\\&=0.\end{aligned}}$

Στην περίπτωση αυτή, η σχέση μεταξύ $Y$ και $X$ είναι μη γραμμική, ενώ η συσχέτιση και η συνδιακύμανση είναι μέτρα γραμμικής εξάρτησης μεταξύ δύο τυχαίων μεταβλητών. Αυτό το παράδειγμα δείχνει ότι αν δύο τυχαίες μεταβλητές είναι ασυσχέτιστες, αυτό δεν σημαίνει γενικά ότι είναι ανεξάρτητες. Ωστόσο, εάν δύο μεταβλητές είναι από κοινού κανονικά κατανεμημένες (αλλά όχι εάν είναι απλώς μεμονωμένα κανονικά κατανεμημένες), η ασυσχέτιστη σχέση συνεπάγεται ανεξαρτησία.

Οι $X$ και $Y$ των οποίων η συνδιακύμανση είναι θετική ονομάζονται θετικά συσχετισμένες, πράγμα που σημαίνει ότι αν $X>E[X]$ τότε πιθανότατα $Y>E[Y]$. Αντίθετα, τα $X$ και $Y$ με αρνητική συνδιακύμανση είναι αρνητικά συσχετισμένα, και αν $X>E[X]$ τότε πιθανότατα $Y<E[Y]$.

Σχέση με τα εσωτερικά γινόμενα

Πολλές από τις ιδιότητες της συνδιακύμανσης μπορούν να εξαχθούν κομψά παρατηρώντας ότι ικανοποιεί παρόμοιες ιδιότητες με εκείνες ενός εσωτερικού γινομένου:

1. διγραμμική: για σταθερές $a$ και $b$ και τυχαίες μεταβλητές $X,Y,Z,$ $\operatorname {cov} (aX+bY,Z)=a\operatorname {cov} (X,Z)+b\operatorname {cov} (Y,Z)$
2. συμμετρική:$\operatorname {cov} (X,Y)=\operatorname {cov} (Y,X)$
3. θετική ημι-οριστική:$\sigma ^{2}(X)=\operatorname {cov} (X,X)\geq 0$ για όλες τις τυχαίες μεταβλητές $X$, και $\operatorname {cov} (X,X)=0$ συνεπάγεται ότι $X$ είναι σταθερή σχεδόν σίγουρα.

Στην πραγματικότητα, αυτές οι ιδιότητες συνεπάγονται ότι η συνδιακύμανση ορίζει ένα εσωτερικό γινόμενο πάνω στο πηλίκο του διανυσματικού χώρου που προκύπτει από τη λήψη του υποχώρου των τυχαίων μεταβλητών με πεπερασμένη δεύτερη στιγμή και την ταυτοποίηση οποιωνδήποτε δύο που διαφέρουν κατά μια σταθερά. (Αυτή η ταύτιση μετατρέπει την παραπάνω θετική ημι-οριστικότητα σε θετική οριστικότητα). Αυτό το πηλίκο του διανυσματικού χώρου είναι ισομορφικό με τον υποχώρο των τυχαίων μεταβλητών με πεπερασμένη δεύτερη στιγμή και μέσο μηδέν- σε αυτόν τον υποχώρο, η συνδιακύμανση είναι ακριβώς το εσωτερικό γινόμενο L² των συναρτήσεων πραγματικών τιμών στον δειγματικό χώρο.

Ως αποτέλεσμα, για τυχαίες μεταβλητές με πεπερασμένη διακύμανση, η ανισότητα

$\left|\operatorname {cov} (X,Y)\right|\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}$

ισχύει μέσω της ανισότητας Κωσύ-Σβάρτς.

Απόδειξη: Αν $\sigma ^{2}(Y)=0$, τότε ισχύει τετριμμένα. Διαφορετικά, έστω η τυχαία μεταβλητή

$Z=X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y.$

Τότε έχουμε

${\begin{aligned}0\leq \sigma ^{2}(Z)&=\operatorname {cov} \left(X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y,\;X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y\right)\\[12pt]&=\sigma ^{2}(X)-{\frac {(\operatorname {cov} (X,Y))^{2}}{\sigma ^{2}(Y)}}\\\implies (\operatorname {cov} (X,Y))^{2}&\leq \sigma ^{2}(X)\sigma ^{2}(Y)\\\left|\operatorname {cov} (X,Y)\right|&\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}\end{aligned}}$

Υπολογισμός της συνδιακύμανσης του δείγματος

Οι δειγματικές συνδιακυμάνσεις μεταξύ $K$ μεταβλητών με βάση $N$ παρατηρήσεις της καθεμιάς, που προέρχονται από έναν κατά τα άλλα μη παρατηρούμενο πληθυσμό, δίνονται από τον $K\times K$ πίνακα $\textstyle {\overline {\mathbf {q} }}=\left[q_{jk}\right]$ με τις εγγραφές

$q_{jk}={\frac {1}{N-1}}\sum _{i=1}^{N}\left(X_{ij}-{\bar {X}}_{j}\right)\left(X_{ik}-{\bar {X}}_{k}\right),$

η οποία είναι μια εκτίμηση της συνδιακύμανσης μεταξύ της μεταβλητής $j$ και της μεταβλητής $k$.

Ο δειγματικός μέσος όρος και ο δειγματικός πίνακας συνδιακύμανσης είναι αμερόληπτες εκτιμήσεις του μέσου όρου και του πίνακα συνδιακύμανσης του τυχαίου διανύσματος $\textstyle \mathbf {X}$, ενός διανύσματος του οποίου το j στοιχείο $(j=1,\,\ldots ,\,K)$ είναι μία από τις τυχαίες μεταβλητές. Ο λόγος που ο πίνακας συνδιακύμανσης του δείγματος έχει στον παρονομαστή $\textstyle N-1$ και όχι $\textstyle N$ είναι ουσιαστικά ότι ο μέσος όρος του πληθυσμού $\operatorname {E} (\mathbf {X} )$ δεν είναι γνωστός και αντικαθίσταται από τον δειγματικό μέσο όρο $\mathbf {\bar {X}}$. Εάν ο μέσος όρος του πληθυσμού $\operatorname {E} (\mathbf {X} )$ είναι γνωστός, η ανάλογη αμερόληπτη εκτίμηση δίνεται από τη σχέση

$q_{jk}={\frac {1}{N}}\sum _{i=1}^{N}\left(X_{ij}-\operatorname {E} \left(X_{j}\right)\right)\left(X_{ik}-\operatorname {E} \left(X_{k}\right)\right)$.

Γενικεύσεις

Πίνακας αυτοσυνδιακύμανσης πραγματικών τυχαίων διανυσμάτων

Για ένα διάνυσμα $\mathbf {X} ={\begin{bmatrix}X_{1}&X_{2}&\dots &X_{m}\end{bmatrix}}^{\mathrm {T} }$ από $m$ από κοινού κατανεμημένες τυχαίες μεταβλητές με πεπερασμένες δεύτερες ροπές, ο πίνακας αυτοσυνδιακύμανσής του (επίσης γνωστός ως πίνακας διακύμανσης-συνδιακύμανσης ή απλά πίνακας συνδιακύμανσης) $\operatorname {K} _{\mathbf {X} \mathbf {X} }$ (συμβολίζεται επίσης με $\Sigma (\mathbf {X} )$ ή $\operatorname {cov} (\mathbf {X} ,\mathbf {X} )$) ορίζεται ως εξής

${\begin{aligned}\operatorname {K} _{\mathbf {XX} }=\operatorname {cov} (\mathbf {X} ,\mathbf {X} )&=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\mathrm {T} }.\end{aligned}}$

Έστω $\mathbf {X}$ ένα τυχαίο διάνυσμα με πίνακα συνδιακύμανσης Σ}, και έστω A ένας πίνακας που μπορεί να δράσει στο $\mathbf {X}$ στα αριστερά. Ο πίνακας συνδιακύμανσης του γινομένου πίνακα-διανύσματος A X είναι:

${\begin{aligned}\operatorname {cov} (\mathbf {AX} ,\mathbf {AX} )&=\operatorname {E} \left[\mathbf {AX(A} \mathbf {X)} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[(\mathbf {A} \mathbf {X} )^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {AXX} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]\\&=\mathbf {A} \operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }-\mathbf {A} \operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \left(\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\right)\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \Sigma \mathbf {A} ^{\mathrm {T} }.\end{aligned}}$

Αυτό είναι άμεσο αποτέλεσμα της γραμμικότητας της προσδοκίας και είναι χρήσιμο όταν εφαρμόζεται ένας γραμμικός μετασχηματισμός, όπως ένας μετασχηματισμός λεύκανσης, σε ένα διάνυσμα.

Πίνακας διασταυρούμενης συνδιακύμανσης πραγματικών τυχαίων διανυσμάτων

Για πραγματικά τυχαία διανύσματα $\mathbf {X} \in \mathbb {R} ^{m}$ και $\mathbf {Y} \in \mathbb {R} ^{n}$, ο $m\times n$ πίνακας διασταυρούμενης συνδιακύμανσης είναι ίσος με

${\begin{aligned}\operatorname {K} _{\mathbf {X} \mathbf {Y} }=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )&=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {Y} -\operatorname {E} [\mathbf {Y} ])^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {X} \mathbf {Y} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{\mathrm {T} }\end{aligned}}$

(Eq.2)

όπου $\mathbf {Y} ^{\mathrm {T} }$ είναι Ανάστροφος πίνακας του διανύσματος (ή του πίνακα) $\mathbf {Y}$.

Το $(i,j)$-th στοιχείο αυτού του πίνακα είναι ίσο με τη συνδιακύμανση $\operatorname {cov} (X_{i},Y_{j})$ μεταξύ της i-th κλιμακωτής συνιστώσας του $\mathbf {X}$ και της j-th κλιμακωτής συνιστώσας του $\mathbf {Y}$. Ειδικότερα, η $\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )$ είναι Ανάστροφος πίνακας της $\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )$.

Sesquilinear (ημιγραμμική) μορφή διασταυρούμενη συνδιακύμανσης τυχαίων διανυσμάτων σε πραγματικό ή μιγαδικό χώρο Χίλμπερτ

Γενικότερα έστω $H_{1}=(H_{1},\langle \,,\rangle _{1})$ και $H_{2}=(H_{2},\langle \,,\rangle _{2})$, είναι χώροι Χίλμπερτ πάνω από $\mathbb {R}$ ή $\mathbb {C}$ με $\langle \,,\rangle$ αντιγραμμικά στην πρώτη μεταβλητή, και έστω $\mathbf {X} ,\mathbf {Y}$ είναι $H_{1}$ αντίστοιχα. $H_{2}$ τυχαίες μεταβλητές με τιμή $H_{2}$.

Τότε η συνδιακύμανση των $\mathbf {X}$ και $\mathbf {Y}$ είναι η ημιγραμμική (sesquilinear) μορφή στο $H_{1}\times H_{2}$ (αντιγραμμική στην πρώτη μεταβλητή) που δίνεται από τη σχέση

${\begin{aligned}\operatorname {K} _{X,Y}(h_{1},h_{2})=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )(h_{1},h_{2})&=\operatorname {E} \left[\langle h_{1},(\mathbf {X} -\operatorname {E} [\mathbf {X} ])\rangle _{1}\langle (\mathbf {Y} -\operatorname {E} [\mathbf {Y} ]),h_{2}\rangle _{2}\right]\\&=\operatorname {E} [\langle h_{1},\mathbf {X} \rangle _{1}\langle \mathbf {Y} ,h_{2}\rangle _{2}]-\operatorname {E} [\langle h,\mathbf {X} \rangle _{1}]\operatorname {E} [\langle \mathbf {Y} ,h_{2}\rangle _{2}]\\&=\langle h_{1},\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {Y} -\operatorname {E} [\mathbf {Y} ])^{\dagger }\right]h_{2}\rangle _{1}\\&=\langle h_{1},\left(\operatorname {E} [\mathbf {X} \mathbf {Y} ^{\dagger }]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{\dagger }\right)h_{2}\rangle _{1}\\\end{aligned}}$

Αριθμητικός υπολογισμός

Όταν $\operatorname {E} [XY]\approx \operatorname {E} [X]\operatorname {E} [Y]$, η εξίσωση $\operatorname {cov} (X,Y)=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]$ είναι επιρρεπής σε ακύρωση εάν $\operatorname {E} \left[XY\right]$ και $\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]$ δεν υπολογίζονται με ακρίβεια και συνεπώς θα πρέπει να αποφεύγονται σε προγράμματα υπολογιστών όταν τα δεδομένα δεν έχουν κεντραριστεί προηγουμένως. Στην περίπτωση αυτή θα πρέπει να προτιμούνται αριθμητικά σταθεροί αλγόριθμοι.

Σχόλια

Η συνδιακύμανση ονομάζεται μερικές φορές μέτρο «γραμμικής εξάρτησης» μεταξύ των δύο τυχαίων μεταβλητών. Αυτό δεν σημαίνει το ίδιο πράγμα όπως στο πλαίσιο της γραμμικής άλγεβρας (βλέπε γραμμική εξάρτηση). Όταν η συνδιακύμανση κανονικοποιείται, προκύπτει ο συντελεστής συσχέτισης Πέρσον, ο οποίος δίνει την καλή προσαρμογή της καλύτερης δυνατής γραμμικής συνάρτησης που περιγράφει τη σχέση μεταξύ των μεταβλητών. Υπό αυτή την έννοια, η συνδιακύμανση είναι μια γραμμική βαθμίδα μέτρησης της εξάρτησης.

Εφαρμογές

Στη γενετική και τη μοριακή βιολογία

Η συνδιακύμανση είναι ένα σημαντικό μέτρο στη βιολογία. Ορισμένες αλληλουχίες του DNA διατηρούνται περισσότερο από άλλες μεταξύ των ειδών, και έτσι για τη μελέτη των δευτερογενών και τριτογενών δομών των πρωτεϊνών ή των δομών του RNA, οι αλληλουχίες συγκρίνονται σε στενά συγγενικά είδη. Αν βρεθούν αλλαγές στις αλληλουχίες ή αν δεν βρεθούν καθόλου αλλαγές σε μη κωδικοποιούμενα RNA (όπως τα microRNA), οι αλληλουχίες διαπιστώνονται ότι είναι απαραίτητες για κοινά δομικά μοτίβα, όπως ένας βρόχος RNA. Στη γενετική, η συνδιακύμανση χρησιμεύει ως βάση για τον υπολογισμό του πίνακα γενετικών σχέσεων (GRM) (ή αλλιώς πίνακα συγγένειας), επιτρέποντας την εξαγωγή συμπερασμάτων σχετικά με τη δομή του πληθυσμού από δείγμα χωρίς γνωστούς στενούς συγγενείς, καθώς και την εξαγωγή συμπερασμάτων σχετικά με την εκτίμηση της κληρονομικότητας σύνθετων χαρακτηριστικών.

Στη θεωρία της εξέλιξης και της φυσικής επιλογής, η εξίσωση της τιμής περιγράφει πώς μεταβάλλεται η συχνότητα ενός γενετικού χαρακτηριστικού με την πάροδο του χρόνου. Η εξίσωση χρησιμοποιεί μια συνδιακύμανση μεταξύ ενός χαρακτηριστικού και της καταλληλότητας, για να δώσει μια μαθηματική περιγραφή της εξέλιξης και της φυσικής επιλογής. Παρέχει έναν τρόπο κατανόησης των επιπτώσεων που έχει η γονιδιακή μετάδοση και η φυσική επιλογή στην αναλογία των γονιδίων σε κάθε νέα γενιά ενός πληθυσμού.

Στα χρηματοοικονομικά οικονομικά

Οι συνδιακυμάνσεις διαδραματίζουν βασικό ρόλο στα χρηματοοικονομικά οικονομικά, ιδίως στη σύγχρονη θεωρία χαρτοφυλακίου και στο μοντέλο αποτίμησης κεφαλαιακών στοιχείων ενεργητικού. Οι συνδιακυμάνσεις μεταξύ των αποδόσεων διαφόρων περιουσιακών στοιχείων χρησιμοποιούνται για τον προσδιορισμό, υπό ορισμένες υποθέσεις, των σχετικών ποσοτήτων διαφορετικών περιουσιακών στοιχείων που οι επενδυτές θα πρέπει (σε μια κανονιστική ανάλυση) ή προβλέπεται ότι θα πρέπει (σε μια θετική ανάλυση) να επιλέξουν να κατέχουν σε ένα πλαίσιο διαφοροποίησης.

Στην εξομοίωση μετεωρολογικών και ωκεανογραφικών δεδομένων

Ο πίνακας συνδιακύμανσης είναι σημαντικός για την εκτίμηση των αρχικών συνθηκών που απαιτούνται για την εκτέλεση των μοντέλων πρόγνωσης καιρού, μια διαδικασία γνωστή ως εξομοίωση δεδομένων. Ο «πίνακας συνδιακύμανσης σφάλματος πρόβλεψης» κατασκευάζεται συνήθως μεταξύ διαταραχών γύρω από μια μέση κατάσταση (είτε κλιματολογική είτε μέση κατάσταση συνόλου). Ο «πίνακας συνδιακύμανσης σφαλμάτων παρατήρησης» κατασκευάζεται για να αντιπροσωπεύει το μέγεθος των συνδυασμένων σφαλμάτων παρατήρησης (στη διαγώνιο) και τα συσχετισμένα σφάλματα μεταξύ των μετρήσεων (εκτός της διαγωνίου). Αυτό είναι ένα παράδειγμα της ευρέως διαδεδομένης εφαρμογής του στο φιλτράρισμα Κάλμαν και στη γενικότερη εκτίμηση κατάστασης για χρονικά μεταβαλλόμενα συστήματα.

Στη μικρομετεωρολογία

Η τεχνική της συνδιακύμανσης στροβίλων είναι μια βασική τεχνική μέτρησης της ατμόσφαιρας, όπου η συνδιακύμανση μεταξύ της στιγμιαίας απόκλισης της κατακόρυφης ταχύτητας του ανέμου από τη μέση τιμή και της στιγμιαίας απόκλισης της συγκέντρωσης των αερίων αποτελεί τη βάση για τον υπολογισμό των κατακόρυφων στροβιλωδών ροών.

Στην επεξεργασία σήματος

Ο πίνακας συνδιακύμανσης χρησιμοποιείται για την αποτύπωση της φασματικής μεταβλητότητας ενός σήματος.

Στη στατιστική και την επεξεργασία εικόνας

Ο πίνακας συνδιακύμανσης χρησιμοποιείται στην ανάλυση κύριων συνιστωσών για τη μείωση της διάστασης των χαρακτηριστικών στην προεπεξεργασία δεδομένων.

Εξωτερικοί σύνδεσμοι

• English - Greek Dictionary of Pure and Applied Mathematics Εθνικό Μετσόβιο Πολυτεχνείο
• Αγγλοελληνικό Λεξικό Μαθηματικής Ορολογίας - Πανεπιστήμιο Κύπρου
• Ευκλείδεια Γεωμετρία - Πανελλήνιο Σχολικό Δίκτυο
• Θεωρία ομάδων και Λι αλγεβρών -Εθνικό Αρχείο Διδακτορικών Διατριβών
• Θεωρία Αριθμών και Εφαρμογές
• Υπολογιστική Θεωρία Αριθμών
• Καμπυλότητες και γεωμετρία του Riemann σε διαφορίσιμες πολλαπλότητες Εθνικό Αρχείο Διδακτορικών Διατριβών
• Μέθοδοι μηχανικής μάθησης βασισμένες σε έλεγχο μονοτροπικότητας Εθνικό Αρχείο Διδακτορικών Διατριβών
• Παράμετροι και Στατιστικά. Διωνυμική και Κανονική Κατανομή

Δείτε επίσης

• Απαγορευτική αρχή του Πάουλι
• Κατανομή t-Student
• Κανονική κατανομή
• Αλγεβρική θεωρία αριθμών
• Διαφορική γεωμετρία
• Άρθουρ Στάνλεϋ Έντινγκτον
• Θεωρία αναπαραστάσεων
• Σουμπραμανιάν Τσαντρασεκάρ
• Ευκλείδειος χώρος
• Ένα προς ένα
• Σουμπραμανιάν Τσαντρασεκάρ
• Εφαρμοσμένα μαθηματικά
• Προβολικός χώρος
• Διακριτός μετασχηματισμός Φουριέ
• Θεμελιώδες θεώρημα αριθμητικής
• Αλγεβρική γεωμετρία
• Μιγαδικός αριθμός
• Άρθουρ Στάνλεϋ Έντινγκτον
• Τυπική απόκλιση

Βιβλιογραφία

• Minh, Hà Quang· Murino, Vittorio (7 Νοεμβρίου 2017). Covariances in Computer Vision and Machine Learning. Morgan & Claypool Publishers. ISBN 978-1-68173-014-1. 
• Minh, Hà Quang· Murino, Vittorio (31 Μαΐου 2022). Covariances in Computer Vision and Machine Learning. Springer Nature. ISBN 978-3-031-01820-6. 
• Wildt, Albert R.· Ahtola, Olli (1978). Analysis of Covariance. SAGE. ISBN 978-0-8039-1164-2. 
• Fitzmaurice, Garrett M.· Laird, Nan M. (30 Αυγούστου 2011). Applied Longitudinal Analysis. John Wiley & Sons. ISBN 978-0-470-38027-7. 
• Chatfield, Averil Burton (1997). Fundamentals of High Accuracy Inertial Navigation. AIAA. ISBN 978-1-60086-427-8. 
• Marmel, Elaine· Marmel, Elaine J. (10 Μαρτίου 2008). Master VISUALLY Excel 2007. John Wiley & Sons. ISBN 978-0-470-18170-6. 
• Shi, Jian Qing· Choi, Taeryon (1 Ιουλίου 2011). Gaussian Process Regression Analysis for Functional Data. CRC Press. ISBN 978-1-4398-3773-3. 
• Bose, Arup· Bhattacharjee, Monika (3 Ιουλίου 2018). Large Covariance and Autocovariance Matrices. CRC Press. ISBN 978-1-351-39816-9. 
• Pourahmadi, Mohsen (28 Μαΐου 2013). High-Dimensional Covariance Estimation: With High-Dimensional Data. John Wiley & Sons. ISBN 978-1-118-57366-2. 
• Naidu, Prabhakar S. (25 Οκτωβρίου 1995). Modern Spectrum Analysis of Time Series: Fast Algorithms and Error Control Techniques. CRC Press. ISBN 978-0-8493-2464-2. 
• Kennedy, Peter (2003). A Guide to Econometrics. MIT Press. ISBN 978-0-262-61183-1. 
• Ratkowsky, David· Alldredge, Richard (22 Δεκεμβρίου 1992). Cross-Over Experiments: Design, Analysis and Application. CRC Press. ISBN 978-0-8247-8892-6. 
• Wackernagel, Hans (12 Φεβρουαρίου 2003). Multivariate Geostatistics: An Introduction with Applications. Springer Science & Business Media. ISBN 978-3-540-44142-7. 

Παραπομπές

• Cohen, J.· Cohen P.· West, S.G.· Aiken, L.S. (2002). Applied multiple regression/correlation analysis for the behavioral sciences (3rd έκδοση). Psychology Press. ISBN 978-0-8058-2223-6. 
• Hazewinkel, Michiel, επιμ.. (2001), «Correlation (in statistics)», Encyclopedia of Mathematics, Springer, ISBN 978-1-55608-010-4, http://www.encyclopediaofmath.org/index.php?title=p/c026560 
• Oestreicher, J. & D. R. (26 Φεβρουαρίου 2015). Plague of Equals: A science thriller of international disease, politics and drug discovery. California: Omega Cat Press. σελ. 408. ISBN 978-0963175540. 
• Hastings, Jr., C. (2015) [1955]. Approximations for Digital Computers. Princeton University Press. ISBN 978-1-4008-7559-7. 
• Hart, J.F.· Cheney, E.W.]]· Lawson, C.L.· Maehly, H.J.· Mesztenyi, C.K.· Rice, Jr., J.R.· Thacher, H.C.· Witzgall, C. (1968). Computer Approximations. Wiley. OCLC 0471356301. 
• Fox, L.· Parker, I.B. (1968). Chebyshev Polynomials in Numerical Analysis. Oxford mathematical handbooks. Oxford University Press. ISBN 978-0-19-859614-1. OCLC 9036207. 
• Press, WH· Teukolsky, S.A.· Vetterling, W.T.· Flannery, B.P. (2007). «§5.8 Chebyshev Approximation». Numerical Recipes: The Art of Scientific Computing (3rd έκδοση). Cambridge University Press. ISBN 978-0-521-88068-8. 
• «Redressing grievances with the treatment of dimensionless quantities in SI». Measurement (London, UK: Elsevier Ltd.) 109: 105–110. October 2017. doi:10.1016/j.measurement.2017.05.043. NIHMS1633436. ISSN 0263-2241. PMID 33311828. Bibcode: 2017Meas..109..105F.  [1] (15 pages)
• Remes (Remez), E. (1934). «Sur le calcul effectif des polynomes d'approximation de Tschebyschef» (στα γαλλικά). C. R. Acad. Sci. 199: 337–340. https://gallica.bnf.fr/ark:/12148/bpt6k3151h/f337.item. 
• Steffens, K.-G. (2006). The History of Approximation Theory: From Euler to Bernstein,. Birkhauser. doi:10.1007/0-8176-4475-X. ISBN 0-8176-4353-2. 
• Erdélyi, T. (2008). «Extensions of the Bloch-Pólya theorem on the number of distinct real zeros of polynomials». Journal de théorie des nombres de Bordeaux 20: 281–7. http://www.numdam.org/item/10.5802/jtnb.627.pdf. 
• Erdélyi, T. (2009). «The Remez inequality for linear combinations of shifted Gaussians». Math. Proc. Camb. Phil. Soc. 146: 523–530. doi:10.1017/S0305004108001849. 
• Trefethen, L.N. (2020). Approximation theory and approximation practice. SIAM. ISBN 978-1-61197-594-9.  Ch. 1–6 of 2013 edition

Πηγές

• Apostol, Thomas M. (1976), Introduction to Analytic Number Theory, New York: Springer, ISBN 0-387-90163-9, https://archive.org/details/introductiontoan00apos_0 
• Conway, John Horton; Guy, Richard K. (1996), The Book of Numbers, New York: Copernicus, ISBN 978-0-387-97993-9 
• Crandall, Richard; Pomerance, Carl (2005), Prime Numbers: A Computational Perspective (2nd έκδοση), Berlin, New York: Springer-Verlag, ISBN 978-0-387-25282-7 
• Singer, I. M.· Thorpe, J. A. (28 Μαΐου 2015). Lecture Notes on Elementary Topology and Geometry. Springer. ISBN 978-1-4615-7347-0. 
• Apostol, Tom M. (29 Ιουνίου 2013). Introduction to Analytic Number Theory. Springer Science & Business Media. ISBN 978-1-4757-5579-4. 
• Miller, P. D. (2006), Applied Asymptotic Analysis, American Mathematical Society, ISBN 9780821840788, https://books.google.com/books?id=KQvqBwAAQBAJ 
• Apostol, Thomas M. (1976), Introduction to Analytic Number Theory, New York: Springer, ISBN 0-387-90163-9, https://archive.org/details/introductiontoan00apos_0