연휴 끝! 1. 텐서플로우의 자동 미분과 기울기(Gradient) TensorFlow에서는 Gradient Tape 기능을 제공한다 중간의 관련 연산들을 테이프에 기록하고, 역전파(backward)를 수행했을 때 기울기가 계산된다 import tensorflow as tf x = tf.Variable([3.0, 4.0]) y = tf.Variable([1.0, 2.0]) # 진행되는 모든 연산들을 기록 with tf.GradientTape() as tape: z = x + y loss = tf.math.reduce_mean(z) dx = tape.gradient(loss, x) # loss가 scalar이므로 계산 가능 print(dx) TensorFlow에서는 변수가 아닌 상수라면 기본적으로 기울기를 ..

요즘 딥러닝 강의만 듣고 정리하고 올린다는 것 자체에 너무 의미를 부여하고 있는게 아닌가 싶다 사실 잘 이해가 안되서 강의를 듣고 나온 내용들을 올리는 수준에 불과한데 말이다 딥러닝에 익숙해지는 것은 좋지만 지금 우선순위는 이것보다 클라우드 쪽에 좀 더 중점을 둬야하지 않을까 싶다 이번 설연휴에는 핑계지만 딥러닝만 올리고 다른건 거의 안한 것 같다 우선순위를 생각하면서 행동하자 1. 텐서플로우(Tensorflow) 개요 보시면 아시겠지만 파이토치와 텐서플로우는 상당히 유사한 부분이 많습니다 원래는 텐서플로우를 많이 사용하다가 파이토치가 등장하면서 파이토치로 많이 넘어갔었는데, 텐서플로우 2.0부터 파이토치와 유사한 부분들이 많아졌습니다 텐서플로우로 작성된 내용들도 많이 볼 수 있기 때문에 파이토치 뿐만 ..