https://www.notion.so/MLOps-15de50d9333a80be8df4d993a1658a43?pvs=4

배치 사이즈란딥러닝에서 학습 시에 얼마만큼의 양을 학습후 가중치를 업데이트할지 지정하는 수이다.예를 들어 문제를 풀때100개의 문제를10개의 문제씩 풀고 채점을 한다고 하면10이 배치사이즈가 되는 것이다.그러면 100개의 문제를 푸는데 10번의 풀기, 채점이 반복되는데이 10번의 진행으로 100개의 문제를 모두 푸는 것이 한번의 에폭(Epoch)이 된다.model.fit(train_set, epochs=10, batch_size=20)위의 fit 함수에서 데이터셋의 크기가 200이라면batch_size=20이므로 데이터셋을 20개씩 쪼갠다는 의미이고이는 200/20=10번의 가중치 업데이트를 한다는 의미이다.10번의 업데이트를 하면 1에폭이 실행되는 것이고위의 코드에서는 이를 10번 반복한다는 의미이다...

벡터란 크기란 방향을 가지고 있는 값을 말한다예를 들어 [3, 4]라는 벡터 값이 있을때이를 좌표평면에 표시하면이렇게 표현할 수 있다이 벡터의 크기는 위의 그림에서의 초록색 빗변의 길이를 말하고벡터의 방향은 빗변의 각도를 말한다이를 수식으로 나타내면크기:  $$\sqrt{4^{2}+3^{2}} =  \sqrt{16+9} = \sqrt{25} = 5 $$방향:$$\partial = tan^{-1}\frac{3}{4}$$이다위 그림에서[4,3]과 [8,3]이 두 벡터는 크기와 방향이 같기 때문에 같은 벡터이다[4,3]벡터에서 [-1,2]벡터를 더한다면[4-1,3+2] = [3,5] 벡터가 된다좌표평면에 나타내면위와 같이 연두색 값이 결과가 된다벡터의 덧셈과 뺄셈은 처음 벡터의 값을 더하고 빼처음 시작 좌표부..

ReLU(Rectified Linear Unit)ReLU는 수학적으로 아래와 같이 표현된다f(x) = max(0,x)입력이 0보다 클 경우 입력을 그대로 출력하고입력이 0 이하일 경우 0을 출력한다Relu를 사용하면 기존의 Sigmoid나 tanh에서 발생하던 기울기 소실 문제를 해결할 수 있다