앞부분 강의는 들으면서 나중에 이해될거야! 하면서 일단 받아들이는 느낌으로 갔었는데 혁펜하임 성님 강의는 기초부터 찬찬히 설명해주셔서 이해가 쏙쏙되니까 들을 맛이 난다!!! (물론 이해 안되는 부분도 있긴 함ㅎ) 언젠가 인공지능 박사까지 취득하는 그 날을 상상하며 오늘도 달려보자~! 0. Optimizer Optimizer는 딥러닝에서 Network가 빠르고 정확하게 학습하는 것을 목표로 한다 밑에 그림들은 포스팅 전체를 읽고 다시 훑어보면 좋을 것 같다 1. Momentum vs RMSProp (Root Mean Square Propagation) 1-1. Momentum 모멘텀이랑 관성, 탄성, 가속도를 의미하는 단어이다 즉, SGD처럼 휙휙 꺾이지 말고 이전의 그라디언트를 계속 고려해주며 마치 관성..