어제 좀 달렸더니 아침에 못 일어났다...ㅎ 휴우... 겨우 시간 안에 작성했다;; 1. Univeral Approximation Theorem 지금까지 여러가지 액티베이션을 보면서 AI가 어떻게 학습하는지에 대해서 공부를 해보았다 근데 이렇게 만든 모델이 우리가 원하는 답을 잘 알려줄 수 있을까? 뭘 믿고? 무슨 근거로? 실컷 학습시켰더니 완전 이상하게 되어버릴 수도 있지 않은가 Univeral Approximation Theorem 이라는 증명이 이런 의심을 잠재워 줄 것이다 Univeral Approximation Theorem은 히든 레이어가 딱 한층만 있더라도 어떤 데이터든 Loss가 0인 연속 함수로 나타낼 수 있다라는 것을 보여준다 이렇게 히든 레이어 한 층만으로도 순차적으로 Loss 0인 ..