본문 바로가기

Archive171

[Stat] 공분산과 상관계수 (프로그래머스 인공지능 과정 Week2-Day 내용 중) 공분산(Covariance) 공분산은 두 확률변수 X, Y에 대해 정의한다. (X-μX)(Y-μY)의 평균으로 정의되며, 이를 Cov(X, Y)로 표기한다. 식을 조금, 간단하게 표현하면 다음과 같이 정리된다. (기댓값의 상수배는 기댓값이기에, 식을 쉽게 정리할 수 있다) 공분산은 상관관계의 방향성을 나타낼 수 있다. (증감의 방향이 동일할 경우 Cov의 값은 0보다 크고, 반대일 경우 음수일 것이며, 두 변수가 상관이 없을수록 공분산 값은 0에 가까울 것이다) 공분산의 성질 위의 변형된 간략한 식을 통해 자명하게 얻어낼 수 있는 성질들이다. (공식 출처 : 위키피디아) 피어슨 상관 계수 (Pearson Correlation coefficient).. 2021. 4. 28.
[Prob] 베이즈 정리 조건부확률과 연관되어 있는 베이즈 정리에 대해 알아본다. (관련내용 : 프로그래머스 인공지능 데브코스 Week2-Day4 강의중) 확률의 분할 법칙 두 사건 A, B가 주어질 때, 사건 B의 확률을 다음과 같은 방법으로 표현할 수 있다. 베이즈 정리는 이의 일반화로 시작된다. 이의 의미는 사건 B가 일어날 확률을, 사건 A가 일어날 확률과 연관된 것들로만 구할 수 있게 된다. 베이즈 정리 그렇다면 P(A|B)를 구할 수는 없는가? 이것이 베이즈 정리이다. 처음의 확률을 사전 확률, 수정된 확률을 사후 확률이라고 한다. 조금 더, 일반적으로 사건 B를 분할하여, 비슷한 방식으로 분해가 될 것이다. 연습문제 10,000명중에 1명만이 걸리는 질병이 있다. 질병이 있는 경우 양성, 질병이 없는 경우 음성 이라.. 2021. 4. 28.
[Devcourse] 0427 TIL 1. 괄호 하나 빼먹고 90분갔다. 괄호 놓지지 말자. 특히 연산자 우선순위...기본적인거 놓치지 말자 ㅠㅠㅠ 2. deque나 set는 deque나 set상태로 반환하는데 왜 리스트로 안바꿨니... 기본적인기 놓치지 말라고! 2021. 4. 27.
[DS] 주성분 분석, PCA github.com/SeongwonTak/TIL_swtak/blob/master/DataScience/210321_PCA_Revisited.ipynb SeongwonTak/TIL_swtak Today, I learned. Contribute to SeongwonTak/TIL_swtak development by creating an account on GitHub. github.com 3/21일에 공부했던 내용을 재복습 하면서, 해당 내용을 어느정도 인용 및 추가 설명을 붙여보려 한다. 수행 코드는 github에 있으며 오늘은 PCA의 배경과 원리, 간단한 알고리즘만 알아보도록 하자. 차원의 저주 및 OverFitting 데이터 분석을 하다보면, feature가 1-2개인 경우는 거의 없을 것이고 수십,.. 2021. 4. 27.
[Linalg] 최소제곱법과 응용 프로그래머스 인공지능과정 Week 2 Day3 강의내용 관련. (사진 및 수식 출처) (증명 및 추가 comment들은 Freidberg LinearAlgebra를 참조하였습니다) 최소제곱법(Least Squares method) 최소제곱법이란, 해가 없는 선형 시스템에서 가장 가까운 해를 찾는 것이 목표이다. 행렬 A의 열공간(column space)에 b가 없을 경우, b와 가장 가까운 지점을 찾으려고 한다. 즉, 최소제곱법에서는 Ax=b의 해를 풀 수 없을 때, Ax'=b'에서, |b-b'|의의 값이 최소화가 되는 x'를 찾고 싶다. 구체적으로는 벡터 (b-b') 길이의 제곱길이를 최소화 하려고 하기에, 이를 Least squares method라 한다. 풀이) 주어진 행렬에 전치행렬을 곱한다. R.. 2021. 4. 27.
[Linalg] Orthogonal matrix Orthogonal Matrix and QR decomposition (프로그래머스 인공지능과정 week2 day3 내용 (수식 사진은 강의내용을 활용하였습니다.)) 벡터의 내적(inner product) (당연하지만, 실공간에서만 고려한다. 복소공간에서는 내적의 정의가 바뀐다) 대수적으로, 내적은 와 같이 정의된다. 실공간에서, u와 v의 내적은 로 정의됨을 상기시켜 보자. (여기서 theta는 두 벡터가 이루는 각의 크기) 다시 말해, 내적이 0이면 두 벡터는 직교하게 된다. (cos 90º = 0) 거꾸로, 실수공간에서 두 벡터가 주어지면 두 벡터가 이루는 각도도 자연스럽게 구할 수 있다. 투영 (projection) 한 벡터를 다른 벡터에 투영, (즉 수선의 발을 내리는 상황)을 고려해보자. 즉,.. 2021. 4. 27.