๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
์ธ๊ณต์ง€๋Šฅ

์—ญ์ „ํŒŒ ๊ณ„์‚ฐ ๋ฐฉ๋ฒ• ๋ฐ ์ฃผ์š” ๊ณ„์ธต๋ณ„ ์ˆœ์ „ํŒŒ & ์—ญ์ „ํŒŒ

by sh119 2025. 7. 25.

1. ๊ธฐ๋ณธ ์—ฐ์‚ฐ ๋…ธ๋“œ

2. ์ฃผ์š” ๊ณ„์ธต

ํ•ต์‹ฌ ์š”์•ฝ

  • ์—ฐ์‡„๋ฒ•์น™: ์ƒ๋ฅ˜ ๊ธฐ์šธ๊ธฐ × ๊ตญ์†Œ ๋ฏธ๋ถ„ → ํ•˜๋ฅ˜ ์ „๋‹ฌ
  • Affine: ์ž…๋ ฅ/๊ฐ€์ค‘์น˜/ํŽธํ–ฅ ๊ธฐ์šธ๊ธฐ ํ–‰๋ ฌ ์—ฐ์‚ฐ์œผ๋กœ ๊ณ„์‚ฐ
  • ReLU/Sigmoid: ํ™œ์„ฑํ™” ํ•จ์ˆ˜๋ณ„ ๊ตญ์†Œ ๋ฏธ๋ถ„ ์ ์šฉ
  • Softmax+Loss: ์—ญ์ „ํŒŒ๊ฐ€ y−ty - t๋กœ ๋‹จ์ˆœํ™”