𝒮ia A, insieme degli n caratteri ascii stampabili e p[ß_k] la probabilità dei simboli di A. Il modello è in tal caso:

M=(A,p)     (1)

Se la password P è composta da N caratteri allora lo spazio dei simboli sarà A•A•...•A = A^N, quello delle probabilità sarà p[ß_k1,ß_k2,...,ß_kN] e darà luogo al modello della password P.

M_P=(A^N,p)     (2)

Nella teoria dell'inforazione si definisce l'informazione del simbolo ß_k come:

i[ß_k] = -log₂(p(ß_k))     con unità di misura in bit     (3)

L'intera password porta invece una informazione pari a:

i[P] = -log₂(p(P))     con unità di misura in bit     (4)

con il logaritmo in base 2 che verrà d'ora in poi sottointeso.
Il modello M visto come sorgente di informazione ha una informazione media ovvero una entropia pari a:

H[M] = ∑ⁿ_k=1 p(µ_k) i[µ_k]     con unità di misura in bit     (5)

analogamente il modello della password M_P ha un'informazione media ovvero una entropia pari a:

H[M_P] = ∑_k1,k2,..kN p[µ_k1,µ_k2,...,µ_kN] i[µ_k1,µ_k2,...,µ_kN]     con unità di misura in bit     (6)

Valgono le regole di scomposizione per la probabilità di P:

p(P) = p(ß₁)+p(ß₂|ß₁)+...+p(ß_N|ß₁,...,ß_N)     (7)

se gli N simboli sono indipendenti anche l'informazione di P è scomponibile:

i[P] = ∑^N_k=1 i[ß_k]     (8)

Sia I_N lo spazio delle password P a simboli indipendenti:

I_N = { P=(ß₁,ß₂,...,ß_N) tale che P abbia simboli indipendenti }

poiché intendiamo muoverci all'interno dello spazio delle password che un umano può pensare, possiamo affermare che difficilmente si memorizzano simboli indipendenti che quindi avranno probabilità bassa e perciò informazione alta. In pratica la nostra mente è un processo di markoff quando genera una passwd.

Possiamo quindi fare la supposizione che:

p(I_N) ≤ p(A^N-I_N)     per ogni elemento dei due insiemi
i[A^N-I_N] ≤ i[I_N]     per ogni elemento dei due insiemi

Il massimo e il minimo di informazione delle password indipendenti sono:

i_*N = min { i[I_N] }
i^*N = max { i[I_N] }

è interessante considerare l'informazione della password meno severa tra quelle indipendenti cioè la migliore tra quelle non indipendenti che porta l'informazione i_*N, da cui si ha il rendimento per una generica password pari a:

µ = i[P] / i_*N

E utile notare che non appena si scelgano password al limite dell'indipendenza, il rendimento si avvicina a 1, superando l'unità solo se si trovano password a simboli indipendenti.

Un altro punto di vista è il considerare la generazione di una parola segreta infinita e quindi un processo markoviano, in tal caso meno memoria ha il processo e più il rendimento si avvicina all'unità.

Kensan.it

Sarebbe interessante anche una nuova definizione di rendimento dove anche se il processo ha memoria il rendimento è unitario per N->∞. A tal fine si potrebbe fare ricorso all'entropia di una sorgente che emetta un simbolo dell'alfabeto A e applicare le proprietà dei processi ergodici per ricavare tale entropia da una password infinita, il rendimento sarebbe allora il classico rapporto tra H(A)/log(N), se la password è breve tale sviluppo ha poco senso.

Segue un ragionamento che non porta a nessuna conclusione ma che ho tentato di sviluppare.

---

Rispetto alle singole sorgenti M₁,...,M_N di cui è composta M_P, si può riscrive la sua entropia come:

H[M_P] = H[M₁]+H[M₂|M₁]+...+H[M_N|M₁,...,M_N]     (6)

Dove la formula per determinare l'entropia di una sorgente condizionata da un'altra sorgente è una immediata estensione della formula (4) e (5) qual ora si considerino le probabilità condizionate al posto di quelle incondizionate.

A questo punto le mie informazioni sicure si fermano e quindi inizia la mia fantasia. Cerco di trasporre tutti i ragionamenti visti per le sorgenti in ragionamenti sui simboli, sui caratteri.

Comincio col definire l'entropia del simbolo ß_k della password P:

Ĥ[ß_k] = p(ß_k) i[ß_k]

da cui l'entropia della password:

Ĥ[P] = p[P] i[P]

visto che per l'informazione vale:

i[ß₁,ß₂] = i[ß₁]+i[ß₂|ß₁]

dopo pochi passaggi si arriva a  Ĥ[ß₁,ß₂] ≤ Ĥ[ß₁]+Ĥ[ß₂|ß₁] che generalizzata (suppongo la generalizzazione) per la password diventa:

Ĥ[P] ≤  Ĥ[ß₁]+ Ĥ[ß₂|ß₁]+...+ Ĥ[ß_N|ß₁,...,ß_N]

si può anche definire l'entropia per carattere come:

Ĥ_s[P] = Ĥ[P]/N

Ovviamente in tutte le formule si ha  Ĥ[]≤H[] in quanto Ĥ viene calcolato sul simbolo mentre H sull'intero alfabeto.

Nel caso particolare di simboli ß₁ e ß₂ indipendenti si ha:

i[ß₁,ß₂] = i[ß₁]+i[ß₂]

Ĥ[ß₁,ß₂] = Ĥ[ß₁]p(ß₂) + Ĥ[ß₂]p(ß₁)

da cui discende Ĥ[ß₁,ß₂]≤Ĥ[ß₁]+Ĥ[ß₂] e quindi in generale:

Ĥ[P] ≤ ∑ Ĥ[ß_k]     P a simboli ß_k indipendenti

Ora consideriamo la formula esatta nel caso di simboli indipendenti nella password, consideriamo il caso di tre soli caratteri:

Ĥ[P] = p(ß₁)p(ß₂)p(ß₃) i[ß₁,ß₂,ß₃]

Ĥ[P] =  Ĥ[ß₁]p(ß₂)p(ß₃) + Ĥ[ß₂]p(ß₁)p(ß₃) + Ĥ[ß₃]p(ß₁)p(ß₂)

Ĥ[P] = ( Ĥ[ß₁]+Ĥ[ß₂]+Ĥ[ß₃] ) • [ µ₁p(ß₂)p(ß₃)+µ₂p(ß₁)p(ß₃)+µ₃p(ß₁)p(ß₂) ]

dove µ_k = Ĥ[ß_k] / ( Ĥ[ß₁]+Ĥ[ß₂]+Ĥ[ß₃] ) è quindi una media pesata di tutte le coppie di probabilità della password.

Si potrebbe considerare p(ß_k)=cost=p e quindi:

Ĥ[P] =p^3(-3logp), porre p=1/n e rispetto a questo Ĥ massimo (è massimo?) calcolare il rendimento

In tutto il ragionamento manca il concetto di massimo teorico dell'entropia di P.

Lascio quindi questo ragionamento incompleto, forse qualcuno ha già teorizzato su questo.