본문 바로가기

pytorch2

nn.Paramter() 딥러닝 모델을 설계할 때, 우리는 학습이 필요한 가중치와 편향 같은 파라미터를 정의함.이때 학습시키고 싶은 부분과 아닌 부분을 구분하기 위해 nn.Parameter()을 사용한다고 생각하면 편함 import torchfrom torch import nnclass MyModel(nn.Module): def __init__(self): super().__init__() self.weight = nn.Parameter(torch.randn(3, 3)) # 학습 가능한 파라미터 self.bias = torch.randn(3) # 학습 불가능한 텐서 2024. 11. 18.
계산 그래프 (동적 PyTorch, 정적 TensorFlow) 계산 그래프.. 딥러닝 책을 피면 항상 나올 수밖에 없는 녀석그런데 막상 동적 정적이 바로 이해되지 않아 정리해보려한다. (이미 잘 아시는 분들께서는 다른 글을 읽으시거나 피드백 부탁드립니다.) 계산 그래프  딥러닝책을 보면 반드시 나오는 이녀석이 있다.그냥 쉽게 계산 그래프는 연산 과정을 시각적으로 표현할 수 있고, 컴퓨터가 효율적으로 계산할 수 있도록 그래프 방식으로 표현하는 것또한 그래프 방식을 사용함으로써 전의 값들을 저장할 수 있어 backpropagation이 가능한 것이 중요한 것 같다. 자 그래서 동적, 정적은 뭔 차인데?말 그대로다.동적은 그래프가 바뀔 수도 있는 것이고, 정적은 원모양 그대로 가는 것이다.  정적은 미리 다 정해두고 그거를 반복해서 쓰는 것이고, 동적은 정해두긴 하는데 .. 2024. 8. 11.