Ingegneria Energetica - Analisi e Geometria 1

Full exam

Teoria dei fenomeni aleatori e della stima { 24/07/2019 Ogni esercizio viene valutato da 0 a 6 punti. Verranno valutate solo le parti scritte in penna { non usare correttori. Non riportare solo il risultato, ma cerca di argomentare sinteticamente la risposta. Riportare il proprio nome, cognome, e numero di matricola su ogni foglio consegnato. Esercizio da escludere dal punteggio nale:1Si consideri la parola piccola. Pescando un anagramma della parola a caso, qual e la probabilita che la parola pescata non abbia le due lettere c in posizione adiacente?Un anagramma e una parola ottenuta permutando le lettere del la parola di partenza.2Due v.a. continue XeYhanno legge congiuntaf X;Y( x; y) =ke xy perx >0 ey >0, ef X;Y( x; y) = 0 altrove. Determinare: (a)il valore della costantek. (b)le marginali diXeY, e dire se le v.a. sono indipendenti. Giusti care la risposta. (c)il valore attesoE[X Y].3Sia X U[1;1] eU=pj Xj. Trovare la legge di probabilita diU.4Un trasmettitore e dotato di n= 50 antenne, ognuna delle quali trasmette un segnaleX icon E[X i] = 0, Var[X i] = 1, e Var[X2 i] = 0 :5. Tutti i segnali sono indipendenti e identicamente distribuiti. Calcolare un'approssimazione alla probabilita che la potenza istantanea trasmessa per antennaS=150 P 50 i=1X2 i superi il valore 1: (a)usando la diseguaglianza di Markov (b)usando il teorema centrale del limite Dire quale delle due approssimazioni e piu signi cativa e perche.5Si vuole ottenere una stima numerica della costante di Euler-Mascheroni =R 1 0 log(x)e x dx. Usando ncampioni indipendentiU i U [0;1] peri= 1; : : : ; nproporre un algoritmo di Importance Sampling per la stima di . Suggerimento: parte del la funzione integranda e la legge di probabilita di una v.a. nota.6Una sorgente di dati emette i simboli X2 fa; b; c; dgrispettivamente con probabilitaf1=2;1=4;1=8;1=8g in maniera indipendente da simbolo a simbolo. Si consideri un messaggio din= 1000 simboli emesso dalla sorgente. (a)Qual e la lunghezza del messaggio non compresso (in bit)? (b)Mediamente qual e la lunghezza minima della stringa (in bit) che possiamo usare per codi care questomessaggio senza perdita di informazione? (c)Proporre un codice ottimale per la compressione del messaggio emesso dalla sorgente. Soluzioni Problema 1 Siccome lo spazio di probabilita e uniforme (tutte gli anagrammi sono equiprobabili) calcoliamo i casi favorevoli e i casi totali. Gli anagrammi totali sono 7!, dove abbiamo considerato distinte anche le parole che scambiano di posto le 2 lettere c. Ora contiamo tutti gli anagrammi che contengono le lettere cc in posizioni adiacenti: per far cio e suciente considerare la coppia cc come un unico simbolo, e quindi il numero totale di anagrammi e 2
6!, dove il 2 conta anche lo scambio tra le lettere c. In de nitiva, la probabilita cercata e: p= 12
6!7! = 57 : Problema 21.Il valore diksi ottiene imponendo l'integrale della ddp a 1: Z1 0Z 1 0e xy dxdy= Z 1 0e x dx 2 = 1; dunque si hak= 1. 2.Per simmetria, le marginali diXeYavranno la stessa forma: fY( x) =f X( x) =Z 1 0e xy dy=e x : Siccome il prodotto delle marginali e uguale alla legge congiunta:fX;Y( x; y) =e xy =f X( x)f Y( y);8(x; y) possiamo concludere che le v.a.XeYsono indipendenti. 3.Il valore atteso da calcolare e E[X Y] =Z 1 0Z 1 0xye xy dxdy= Z 1 0xe x dx 2 = (E[X])2 = 1; dove nell'ultimo step abbiamo usato il fatto cheXExp(1). Problema 3 De niamo una v.a. di comodoY=jXj. Siccome tutti i valori negativi diXvengono mappati nei valori positivi con lo stesso valore assoluto, si ha semplicementeY U[0;1]. Ora si calcola la legge diU=pY tramite il metodo della cumulata: FU( u) = Pr(Uu) = Pr(pY u) = Pr(Yu2 ) =u2 ;0u1; dove nell'ultimo passaggio abbiamo usato Pr(Yy) =yper 0y1. Dierenziando rispetto ausi ottiene fU( u) = 2uper 0u1 e zero altrove. Problema 41.SiccomeSe una v.a. positiva si puo applicare la diseguaglianza di Markov: Pr (S >1)E [S]1 = E[X2 1] = Var[X 1] = 1 dove abbiamo usatoE[X 1] = 0. 2.Siccome tutte leX isono i.i.d. si puo applicare il teorema centrale del limite: Pr (S >1) = Pr 50 X i=1X 2 i> 50! = Pr 50 X i=1X 2 i 50>0! = Pr0 @P 50 i=1X2 i 50q Var [P 50 iX2 i]> 01 APr(Z >0) = 1=2: 2 L'approssimazione suggerita dalla diseguaglianza di Markov non e utile, dato che si limita a dire che la probabilita non puo superare 1. L'approssimazione suggerita dal CLT e piu realistica, perche mediare 50 contributi indipendenti potrebbe gia portare vicino ad una distribuzione Gaussiana. Problema 5 L'integrale si puo reinterpretare come segue: =Z 1 0 log(x)e x dx=E[log(X)] doveXExp(1). Un possibile algoritmo per generare i campioni esponenziali e per stimare l'integrale e il seguente: 1.Generoncampioni indipendentiU i U [0;1] peri= 1; : : : ; n. 2.Genero i campioni esponenziali comeX i= log(U i) per i= 1; : : : ; n. 3.Stimo numericamente l'integrale comeb =1n P n i=1 log(X i) =1n P n i=1log(log( U i)). Problema 61.Se si rinuncia a comprimere il messaggio, per ogni simbolo bisogna usare 2 bit, quindi la lunghezza totaledel messaggio e 2n= 2000 bit. 2.Mediamente la lunghezza minima della stringa e n
H(X) =n 12 log 22 +14 log 24 +28 log 28 =n 12 + 12 + 34  =n74 = 1750 bit 3.Le informazioni dei singoli simboli della sorgente sonoi(a) = 1 bit; i(b) = 2 bit; i(c) =i(d) = 3 bit: Un codiceCche assegna lo stesso numero di bit alle autoinformazioni e ottimale, dunque un possibile codice e il seguente: C(a) = 0; C(b) = 10; C(c) = 110; C(d) = 111: 3