Kev mloog tus kheej ua haujlwm li cas?
Kev mloog tus kheej ua haujlwm li cas?

Video: Kev mloog tus kheej ua haujlwm li cas?

Video: Kev mloog tus kheej ua haujlwm li cas?
Video: UA HAUJLWM MUAJ QABHAU KX TXAWJ TEEV VAJ 2024, Kaum ib hlis
Anonim

Nyob rau hauv cov nqe lus ntawm layman, lub tus kheej - saib xyuas mechanism tso cai rau cov tswv yim sib cuam tshuam nrog ib leeg ( tus kheej ”) thiab nrhiav seb leej twg lawv yuav tsum them ntau dua saib xyuas rau (“ saib xyuas ”). Cov zis yog aggregates ntawm cov kev sib tshuam thiab saib xyuas cov qhab nias.

Tsis tas li ntawd, Self mloog yog dab tsi?

Tus kheej - saib xyuas , qee zaum hu ua intra- saib xyuas yog ib saib xyuas mechanism hais txog cov haujlwm sib txawv ntawm ib theem zuj zus txhawm rau suav cov sawv cev ntawm cov kab ke.

Tsis tas li ntawd, kev mloog tus kheej hauv kev kawm tob yog dab tsi? Ua ntej, cia peb txhais dab tsi " tus kheej - Nco ntsoov ”yog. Cheng et al, hauv lawv daim ntawv hu ua "Long Short-Term Memory-Networks for Tshuab Nyeem ntawv”, txhais tus kheej - Nco ntsoov raws li cov txheej txheem ntawm kev sib txawv txoj haujlwm ntawm ib kab lus lossis kab lus kom tau txais kev sawv cev zoo dua.

Hais txog qhov no, dab tsi yog Attention mechanism?

Nco ntsoov Mechanism tso cai rau tus decoder tuaj koom rau ntau qhov chaw ntawm kab lus ntawm txhua kauj ruam ntawm cov khoom tsim tawm. Es tsis txhob encoding cov input sequence mus rau ib tug tas tas cov ntsiab lus vector, peb cia tus qauv kawm yuav ua li cas los tsim ib lub ntsiab lus vector rau txhua lub sij hawm tso zis kauj ruam.

Dab tsi yog Attention based model?

Nco ntsoov - raws li cov qauv belongs rau ib chav kawm ntawm qauv feem ntau hu ua sequence-to-sequence qauv . Lub hom phiaj ntawm cov no qauv , raws li lub npe qhia, nws los tsim ib qho kev tso zis ib ntus muab ib qho kev tawm tswv yim uas yog, feem ntau, ntawm qhov ntev sib txawv.

Pom zoo: