๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋ก๋จธ์‹ ๋Ÿฌ๋‹ (7)

yeon's ๐Ÿ‘ฉ๐Ÿป‍๐Ÿ’ป

๋ถ€ํŠธ์ŠคํŠธ๋žฉ(Bootstrap)

https://bkshin.tistory.com/entry/DATA-12?category=1042793 DATA - 12. ๋ถ€ํŠธ์ŠคํŠธ๋žฉ(Bootstrap) ๋ถ€ํŠธ์ŠคํŠธ๋žฉ(Bootstrap) ๋ชจ์ˆ˜์˜ ๋ถ„ํฌ๋ฅผ ์ถ”์ •ํ•˜๋Š” ํŒŒ์›Œํ’€ํ•œ ๋ฐฉ๋ฒ•์€ ํ˜„์žฌ ์žˆ๋Š” ํ‘œ๋ณธ์—์„œ ์ถ”๊ฐ€์ ์œผ๋กœ ํ‘œ๋ณธ์„ ๋ณต์› ์ถ”์ถœํ•˜๊ณ  ๊ฐ ํ‘œ๋ณธ์— ๋Œ€ํ•œ ํ†ต๊ณ„๋Ÿ‰์„ ๋‹ค์‹œ ๊ณ„์‚ฐํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ์ ˆ์ฐจ๋ฅผ ๋ถ€ํŠธ์ŠคํŠธ bkshin.tistory.com ์œ„ ๋ธ”๋กœ๊ทธ๋ฅผ ํ•„์‚ฌํ•˜๋ฉฐ ๊ณต๋ถ€ * ๋ชจ๋“  ํ…์ŠคํŠธ์™€ ์ด๋ฏธ์ง€์˜ ์ถœ์ฒ˜๋Š” ์œ„ ๋ธ”๋กœ๊ทธ์ž…๋‹ˆ๋‹ค. ๋ถ€ํŠธ์ŠคํŠธ๋žฉ(Bootstrap) - ๋ชจ์ˆ˜์˜ ๋ถ„ํฌ๋ฅผ ์ถ”์ •ํ•˜๋Š” ๊ฐ•๋ ฅํ•œ ๋ฐฉ๋ฒ•์€ ํ˜„์žฌ์˜ ํ‘œ๋ณธ์—์„œ ์ถ”๊ฐ€์ ์œผ๋กœ ํ‘œ๋ณธ์„ ๋ณต์› ์ถ”์ถœํ•˜๊ณ  ๊ฐ ํ‘œ๋ณธ์— ๋Œ€ํ•œ ํ†ต๊ณ„๋Ÿ‰์„ ๋‹ค์‹œ ๊ณ„์‚ฐํ•˜๋Š” ๊ฒƒ : ์ด๋Ÿฐ ์ ˆ์ฐจ๋ฅผ ๋ถ€ํŠธ์ŠคํŠธ๋žฉ ์ด๋ผ๊ณ  ํ•จ - ๋ถ€ํŠธ์ŠคํŠธ๋žฉ์€ ๋ฐ์ดํ„ฐ๊ฐ€ ์ •๊ทœ๋ถ„ํฌ๋ฅผ ๋”ฐ๋ผ์•ผ ํ•œ๋‹ค๋Š” ..

๋žœ๋ค ํฌ๋ ˆ์ŠคํŠธ (Random Forest)

https://eunsukimme.github.io/ml/2019/11/26/Random-Forest/ Random Forest(๋žœ๋ค ํฌ๋ ˆ์ŠคํŠธ) ๊ฐœ๋… ์ •๋ฆฌ Decision Tree๋Š” overfitting๋  ๊ฐ€๋Šฅ์„ฑ์ด ๋†’๋‹ค๋Š” ์•ฝ์ ์„ ๊ฐ€์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐ€์ง€์น˜๊ธฐ๋ฅผ ํ†ตํ•ด ํŠธ๋ฆฌ์˜ ์ตœ๋Œ€ ๋†’์ด๋ฅผ ์„ค์ •ํ•ด ์ค„ ์ˆ˜ ์žˆ์ง€๋งŒ ์ด๋กœ์จ๋Š” overfitting์„ ์ถฉ๋ถ„ํžˆ ํ•ด๊ฒฐํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋ฏ€๋กœ ์ข€๋” ์ผ eunsukimme.github.io ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ํ•„์‚ฌํ•˜๋ฉฐ ๊ณต๋ถ€ - Decision Tree๋Š” overfitting(๊ณผ์ ํ•ฉ) ๋  ๊ฐ€๋Šฅ์„ฑ์ด ๋†’๋‹ค๋Š” ์•ฝ์  ๊ฐ€์ง - ๊ฐ€์ง€์น˜๊ธฐ๋ฅผ ํ†ตํ•ด ํŠธ๋ฆฌ์˜ ์ตœ๋Œ€ ๋†’์ด๋ฅผ ์„ค์ •ํ•ด ์ค„ ์ˆ˜ ์žˆ์ง€๋งŒ, ์ด๋กœ์จ๋Š” ์ถฉ๋ถ„ํžˆ overfitting์„ ํ•ด๊ฒฐํ•  ์ˆ˜ ์—†๋‹ค. - ์ข€ ๋” ์ผ๋ฐ˜ํ™”๋œ ํŠธ๋ฆฌ๋ฅผ ๋งŒ๋“œ๋Š” ๋ฐฉ๋ฒ•์„ ์ƒ๊ฐํ•ด์•ผ ํ•œ๋‹ค..