Skip to content

Commit

Permalink
modify _posts/DeepLearning/Optimization/2021-12-10-Batch-Normalizatio…
Browse files Browse the repository at this point in the history
…n-intro.

되는데 -> 초기화를 하는데

좀더 표현을 정확하게 표현
  • Loading branch information
woongjoonchoi committed Oct 24, 2023
1 parent 85db7c0 commit 52c7f0d
Showing 1 changed file with 1 addition and 1 deletion.
Original file line number Diff line number Diff line change
Expand Up @@ -50,5 +50,5 @@ $$ z_{norm}$$ 를 그대로 사용하게 된다면 분포가 N(0,1)을 따르게

$$ \widehat{z} = \alpha z_{norm} + \beta $$

로 작성할 수 있습니다. 이렇게 작성을 하게 된다면 $$ \alpha = {\sqrt {\sigma^2 + \epsilon} }, \beta = \mu $$ 가되는데 이를 통해 평균,분산을 원하는 분포를 따르도록 $$ \alpha , \beta $$를 learnable parameters로 사용하게 됩니다 .
로 작성할 수 있습니다. 이렇게 작성을 하게 된다면 $$ \alpha = {\sqrt {\sigma^2 + \epsilon} }, \beta = \mu $$ 로 초기화를 하는데 이를 통해 평균,분산을 원하는 분포를 따르도록 $$ \alpha , \beta $$를 learnable parameters로 사용하게 됩니다 .

0 comments on commit 52c7f0d

Please sign in to comment.