Lstm xam pes tsawg tus parameter li cas?
Lstm xam pes tsawg tus parameter li cas?

Video: Lstm xam pes tsawg tus parameter li cas?

Video: Lstm xam pes tsawg tus parameter li cas?
Video: Finance with Python! Portfolio Diversification and Risk 2024, Kaum ib hlis
Anonim

Yog li, raws li koj qhov tseem ceeb. Pub nws rau hauv cov mis muab:->(n=256, m=4096), tag nrho tus naj npawb ntawm parameter yog 4 * (256 * 256) + (256 * 4096) + (256)) = 4 * (1114368) = 4457472. tus lej ntawm qhov hnyav yog 28 = 16 (num_units * num_units) rau cov kev sib txuas recurrent + 12 (input_dim * num_units) rau input.

Kuj nug, ua li cas koj nrhiav tau tus naj npawb ntawm parameters?

Rau xam qhov kawm tau tsis muaj ntawm no, txhua yam peb yuav tsum tau ua tsuas yog muab faib los ntawm cov duab ntawm qhov dav m, qhov siab n thiab tus account rau tag nrho cov lim k. Tsis txhob hnov qab lub sij hawm tsis ncaj ncees rau txhua qhov lim. Tus naj npawb ntawm cov ntsuas nyob rau hauv CONV txheej yuav yog: ((m * n) + 1) * k), ntxiv 1 vim yog lub sij hawm tsis zoo rau txhua lim.

Ib yam li ntawd, Lstm muaj pes tsawg units? Ib LSTM network. Lub network muaj tsib lub tswv yim units , a zais txheej tsim los ntawm ob LSTM nco blocks thiab peb tso zis units . Txhua lub cim xeeb thaiv muaj plaub inputs tab sis tsuas yog ib qho tso zis.

Tom qab ntawd, ib tus tuaj yeem nug, koj yuav nrhiav tau tus lej ntawm RNN li cas?

1 Teb. Cov koom haum W, U thiab V yog sib koom los ntawm txhua kauj ruam ntawm tus RNN thiab cov no yog tib leeg xwb tsis muaj nyob rau hauv tus qauv piav nyob rau hauv daim duab. Li no tus naj npawb ntawm parameter to be learning while training = dim(W)+dim(V)+dim(U). Raws li cov ntaub ntawv hauv nqe lus nug no = n2+kn+nm.

Lstm muaj pes tsawg txheej?

Feem ntau, 2 txheej tau pom tias txaus los txheeb xyuas ntau yam nta. Ntau txheej tuaj yeem ua tau zoo dua tab sis kuj nyuaj rau kev cob qhia. Raws li txoj cai dav dav ntawm tus ntiv tes xoo - 1 zais txheej ua hauj lwm nrog cov teeb meem yooj yim, zoo li qhov no, thiab ob yog txaus los nrhiav cov yam ntxwv tsim nyog.

Pom zoo: