RNN 1. BackGround 1) Sequential Data 앞서 보았던 딥러닝 모델들은 크기가 정해져있는 데이터들을 다루는 모델이었다. 하지만, 실생활에서 접할 수 있는 데이터의 대부분은 시계열 데이터로, 그 크기가 정해져 있지 않고 시간순서 또한 고려해야 하는 데이터들이다. 예를 들어, 주식 가격을 생각해 보자. 과거의 ...

Eigenvalues 1. 고윳값 분해(EigenValue Decomposition) 1) 고윳값, 고유벡터 $A\mathbb{x} = \lambda \mathbb{x}$ ※ $A$: 행렬, $\mathbb{x}$: 0이 아닌 벡터, $\lambda$: 스칼라 $\mathbb{x}$ = 고유 벡터 $\lambda$ = 고유값 ...

Convex Function 이번에는 주어진 문제가 Convex Function인지 알아보는 방법에 대해 공부해 보자. 1. Definition 1) 정의 Convex $f$의 Domain $\mathcal{D}(f)$가 Convex Set이고 $0 \leq \theta \leq 1$일 때, 모든 $\mathbf{x}_1 \mat...

Convex Optimization 1. Optimization 1) 정의 Object Function을 주어진 Constraints하에, Minimize하는 것. (이를 “Programming, 계획법”이라고도 함. (Coding을 의미하는 것이 아님)) 주로 이때, Minimize하는 정의역의 값(변수 값)을 찾는 것이...

1. BackGround 1) Data 위의 두 말은 다른 말일까?? 자세히 보면 오른쪽 말 사진은 왼쪽 사진에서 잘라낸 사진이므로 같은 말임을 알 수 있다. 하지만 CNN이 아닌 Fully Connected Layer로만 구성된 딥러닝 모델들은 이미지를 Flatten하고 Network에 넣기 때문에 다음과 같은 문제가 발생한다. ...

1. Review of linear algebra 1) Notation 기본 Notation Scalar Vector Matrix $x$ (소문자) $\textbf{x}$ (두꺼운 소문자) ...

Feedfoward Neural Network 1. 구조 2. Train 1) Loss Function 종류 대표적인 Loss Function들에는 다음이 있다. Squared Error Negative Log Likelihood Cross Entropy ...

NOSQL RDBMS는 과거에 Transaction과 Concurrency Control 등을 통해 안전적으로 데이터를 관리할 수 있다는 장점 덕분에 많이 사용되어 왔다. 하지만 RDBMS는 한 대의 컴퓨터에서 실행되도록 설계되었기 때문에, 데이터와 트래픽의 양이 증가할수록 처리 비용이 매우 커진다는 단점이 발생하였다. 이 점을 개선하기 위해 나...

용어 정리 [하드웨어] (ex. 키보드) ↓ [드라이버 → 커널] ↓ [터미널] (입출력 장치 역할) ↓ [쉘] (명령어 해석기) ↓ [시스템 콜 → 커널] (실제 작업 수행) ↓ [커널 작업 → 결과 리턴] (커널 작업 결과가 거꾸로 올라와 화면에 표시) 터미널 입출력 인터페이스,...

DataBase에서 가장 중요한 점은 “동시성”이다. 이 “동시성”에는 두가지 의미가 있는데, Transaction: 동시에 동작되어야 하는 작업 (ex. 송금시 각 계좌에 변경사항 적용) Concurrency Control: 동시에 DB에 접근해야 하는 작업 (ex. 공연 좌석 예약시 같은 DB에 여러 사람이 접근해야 함) 즉, 이 두...