ELBO(Evidence Lower BOund)Variatuinal inference(변분 추론)에서 중심적인 역할을 하는 개념확률 모델에서 잠재 변수(latent variable)이 있을 때, 복잡한 사후 분포를 근사하고자 할 떄 사용VAE 같은 딥러닝 기반의 생성 모델에서 핵심적인 역할을 한다 배경잠재 변수(latent variable) $z$를 포함하는 관측 데이터 $x$에 대한 확률 모델에서 사후 분포 $p(z|x)$를 알고 싶을 때,$$p(z|x)=\frac{p(x, z)}{p(x)}=\frac{p(x, z)}{p(x)}=\frac{p(x|z)p(z)}{\int p(x|z)p(z)dz}$$위 식과 같이 사후 분포의 계산은 매우 어렵다.이를 위해 복잡한 $p(z|x)$를 직접 계산하는 대신, 이를..

어떤 반의 100명의 시험 성적 데이터가 아래와 같다 90점 이상 (A)90점 미만 (-A)합계 (B/-B)공부 함 (B)30명20명50명공부 안 함 (-B)10명40명50명합계40명60명100명 결합 확률(Joint probability)$P(A,B)$ or $P(A\cap B)$두 개 이상의 사건(A, B)이 동시에 일어날 확률공부도 하고, 90점 이상인 학생 = 30/100명 = 0.3 조건부 확률(Conditioanl probability)$P(A|B)$B가 주어졌을 때 A가 일어날 확률공부한 학생 중, 90점 이상인 학생 = 30/50 = 0.6 결합 확률과 조건부 확률 관계$P(A,B)=P(A|B)\cdot P(B)$결합 확률 $P(A, B)$는 다음과 같이 조건부 확률과 주변 확률로 나타낼 ..

베이즈 정리두 확률 변수의 사전 확률과 사후 확률 사이의 관계를 나타내는 정리.더보기사전 확률(Prior probability) : 특정 사상이 일어나기 전의 확률. 관측자가 관측하기 전에 가지고 있는 확률 분포.사후 확률(Posterior probability) : 어떤 사건이나 조건이 관측된 이후에, 어떤 가설이나 사건이 참일 확률. 정의$$Pr(A|B)=\frac{Pr(B|A)Pr(A)}{Pr(B)}$$ 각 항은 다음과 같은 의미를 갖는다.$Pr(A)$ : A의 사전 확률, 아직 사건 B에 관한 어떠한 정보도 알지 못함.$Pr(A|B)$ : B의 값이 주어진 경우에 대한 A의 사후 확률.$Pr(B|A)$ : A가 주어졌을 때 B의 조건부 확률. (likelihood)$Pr(B)$ : B의 사전확률...

Variational Auto-Encoder(VAE)에 대한 논문. 0. Auto-Encoder란? 오토앤코더는 입력 데이터를 압축(Encoding)하고, 압축된 표현에서 원본 입력을 재구성(Decoding)하는 신경망 구조.입력 데이터를 압축하고 복원하는 과정에서 입력의 특징을 학습하게 된다.데이터 압축, 차원 감소, 이상 감지, 노이즈 제거 등에 활용. 1. 생성형 모델 관점에서 Auto-Encoder Auto-Encoder는 Encoder가 단순히 입력 데이터를 어떤 벡터(z)로 압축해서 표현.이렇게 압축된 latent vector는 분포에 대한 제약이 없음. (z가 어떠한 분포를 따르지 않음)latent space에서 임의의 z를 샘플링해서 생성(Decoding)할 경우 원하는 데이터가 생성될지 ..

Abstract본 논문은 Online 및 실시간 애플리케이션을 위한 Multiple Object Tracking(MOT)에 대한 실용적인 접근 방식을 제안Tracking 구성 요소에 칼만 필터 및 헝가리안 알고리즘과 같은 기술의 기초적인 조합을 사용당시의 최첨단 Online 추적에 최첨단 성능을 달성 Introduction본 논문은 MOT 문제에 대한 Tracking-by-Detection 프레임워크의 간소한 구현을 제시SORT는 이전 프레임과 현재 프레임의 탐지만 사용하여 Online Tracking을 목표로 한다또한 고전적이지만 효율적인 칼만 필터와 헝가리안 알고리즘을 Tracking의 motion prediction 및 data association을 처리하는 데 사용이러한 최소한의 Tracking..

plt의 기본적인 그래프 그리기 정리기본 그래프 그리기import numpy as npimport matplotlib.pyplot as pltdata = np.random.randn(100)plt.plot(data)plt.show()   plot() 함수는 리스트의 값들이 y값이라 가정하고 x값은 리스트의 길이로 자동으로 만들어짐show() 함수는 그래프를 화면에 나타나게 함 import numpy as npimport matplotlib.pyplot as pltdata_x = np.arange(-50, 50)data_y = np.random.randn(100).cumsum()plt.plot(data_x, data_y)plt.show() plot() 함수에 위와 같이 x값을 설정할 수도 있다 스타일 지정..