Dab tsi yog qhov txhais ntawm entropy hauv kev txiav txim siab ntoo?
Dab tsi yog qhov txhais ntawm entropy hauv kev txiav txim siab ntoo?

Video: Dab tsi yog qhov txhais ntawm entropy hauv kev txiav txim siab ntoo?

Video: Dab tsi yog qhov txhais ntawm entropy hauv kev txiav txim siab ntoo?
Video: Рау сиаб хвв ной пой ниам деев хлуас 13.03.2018 2024, Hlis ntuj nqeg
Anonim

Entropy : A tsob ntoo txiav txim yog tsim los saum toj-down los ntawm lub hauv paus node thiab koom nrog muab faib cov ntaub ntawv mus rau hauv subsets uas muaj xws li cov nqi zoo sib xws (homogeneous). ID3 algorithm siv entropy los xam cov homogeneity ntawm tus qauv.

Tib neeg kuj nug, qhov twg yog lub ntsiab lus ntawm entropy hauv kev kawm tshuab?

Entropy , raws li nws hais txog tshuab kev kawm , yog ib qho kev ntsuas ntawm randomness nyob rau hauv cov ntaub ntawv raug ua. Qhov siab dua entropy , qhov nyuaj nws yog kos cov lus xaus los ntawm cov ntaub ntawv ntawd. Flipping ib npib yog ib qho piv txwv ntawm qhov kev txiav txim uas muab cov ntaub ntawv uas yog random. Qhov no yog lub ntsiab lus ntawm entropy.

Ib sab saum toj no, cov ntaub ntawv nce thiab entropy hauv kev txiav txim siab yog dab tsi? Cov cov ntaub ntawv nce yog nyob ntawm qhov txo qis hauv entropy tom qab ib tug dataset muab faib rau tus cwj pwm. Kev tsim kho a tsob ntoo txiav txim yog txhua yam txog kev nrhiav tus cwj pwm uas rov qab siab tshaj plaws cov ntaub ntawv nce (piv txwv li, feem ntau homogeneous ceg). Qhov tshwm sim yog qhov Cov ntaub ntawv tau txais , los yog txo nyob rau hauv entropy.

Kuj Paub, dab tsi yog qhov tsawg kawg nkaus tus nqi ntawm entropy hauv tsob ntoo txiav txim?

Entropy yog qis tshaj ntawm qhov kawg, thaum lub npuas tsis muaj qhov xwm txheej zoo lossis tsuas yog qhov zoo. Ntawd yog, thaum lub npuas ntshiab qhov teeb meem yog 0. Entropy yog qhov siab tshaj plaws nyob rau hauv nruab nrab thaum lub npuas sib npaug sib npaug ntawm qhov zoo thiab qhov tsis zoo.

Dab tsi yog entropy hauv random hav zoov?

Entropy yog dab tsi thiab vim li cas Cov Ntaub Ntawv tau txais qhov tseem ceeb hauv Kev txiav txim siab Ntoo? Nasir Islam Sujan. Plaub Hlis 29, 2018 · 5 min nyeem. Raws li Wikipedia, Entropy hais txog kev tsis sib haum xeeb lossis tsis paub tseeb. Txhais: Entropy yog kev ntsuas ntawm impurity, tsis meej pem los yog tsis paub tseeb nyob rau hauv ib pawg ntawm cov piv txwv.

Pom zoo: