[개발자를 위한 실전 선형대수학] 12.1 고윳값과 고유벡터의 해석, 12.2 고윳값 구하기

[chapter12] 고윳값 분해 : 선형대수학의 진주1. 고윳값기하학적 해석행렬과 벡터를 특수하게 결합하면 행렬이 벡터를 늘리기는 하지만 회전시키지는 않는다.이 벡터가 행렬의 고유벡터이며, 늘어나는 양이 고윳값이다.그림은 2x2 행렬로 곱하기 전과 후의 벡터를 보여준다.왼쪽 그림의 v1, v2를 보면, 실선은 원래 벡터를 말하고 점선은 행렬 M을 곱한 결과를 말한다.이 때 실선과 점선이 같은 직선 위에 있기 때문에 v1, v2는 고유벡터이다.반대로 오른쪽 그림에서 w1, w2와 Mw1, Mw2는 행렬을 곱한 후 벡터가 다른 방향으로 꺾였기 때문에 고유벡터가 아니다.즉, 고유벡터는 행렬 벡터 곱셈이 스칼라-벡터 곱셈처럼 작동한다는 것을 의미한다. 이를 방정식으로 나타내면 아래와 같다.$$ Av = \la..

• format_list_bulleted 수학/선형대수
• · 2026. 2. 10.

[개발자를 위한 실전 선형대수학] 11.2 다항식 회귀

[chapter11] 최소제곱법 응용 : 실제 데이터를 활용한 최소제곱법1. 다항식 회귀다항식 회귀(polynomial regression)는 일반 회귀와 비슷하지만 독립변수인 x축 값을 더 높은 차수로 끌어올린 것이다.즉 설계 행렬의 각 열 i는 $x^i$로 정의되며, 여기서 x는 일반적으로 시간 또는 공간이지만 인구와 같은 다른 변수일 수도 있다.수학적 모델은 아래와 같다.$$ y = \beta_0x^0 + \beta_1x^1 + \cdots + \beta_nx^n $$ 여기서 $x^0 = 1$은 모델의 절편이 되는데, 이러한 경우를 제외하고는 예측 데이터와 관측 데이터 간의 제곱 차이를 최소화 하는 $\beta$ 값을 찾는 것이 목표인 일반 회귀 분석이다.n차 다항식에는 절편을 포함해 n+1개의 회..

• format_list_bulleted 수학/선형대수
• · 2026. 2. 4.

[개발자를 위한 실전 선형대수학] 11.1 날씨에 따른 자전거 대여량 예측

[chapter11] 최소제곱법 응용 : 실제 데이터를 활용한 최소제곱법1. 실제 데이터를 이용한 최소제곱 모델 응용데이터 집합에는 자전거 대여량과 온도, 습도, 강우량, 풍속 등 날씨 관련 변수를 가진 약 9천 건의 관측 데이터가 있다.이 데이터를 기반으로 자전거 대여량을 예측하는 비교적 간단한 회귀 모델을 구축해본다. 선정한 네 가지 변수의 상관관계 행렬은 위 이미지와 같다.이미지에서는 자전거 대여량이 시간 및 기온과 양의 상관관계가 있고, 강우량과 음의 상관관계가 있음을 알 수 있다.먼저 강우량과 계절에 따라 자전거 대여량을 예측하는데, 계절은 순환형이고 회귀는 선형인 차이점이 있다.이 때 딥러닝 모델에 사용되는 원핫 인코딩(one-hot-encoding)을 사용하거나 계절을 이진화할 수 있다.여기..

• format_list_bulleted 수학/선형대수
• · 2026. 2. 4.

[개발자를 위한 실전 선형대수학] Chapter 10 연습문제

[chapter10] 일반 선형 모델 및 최소제곱법 : 우주를 이해하기 위한 방법10-1잔차는 예측 데이터와 직교한다.앞에서 예로 든 데이터 집합으로 오차에 따른 예측 데이터의 산점도를 만든다. 그 다음 잔차와 모델 예측 데이터 사이의 내적과 상관계수를 계산한다.정답 코드numcourses = [13,4,12,3,14,13,12,9,11,7,13,11,9,2,5,7,10,0,9,7]happiness = [70,25,54,21,80,68,84,62,57,40,60,64,45,38,51,52,58,21,75,70]# X는 Nx1 열벡터X = np.array(numcourses,ndmin=2).TX_leftinv = np.linalg.inv(X.T@X) @ X.T# 최소제곱 해beta = X_leftinv ..

• format_list_bulleted 수학/선형대수
• · 2026. 2. 3.

[개발자를 위한 실전 선형대수학] 10.1 일반 선형 모델, 10.2 GLM 풀이, 10.3 GLM의 간단한 예, 10.4 QR 분해를 통한 최소제곱법

[chapter10] 일반 선형 모델 및 최소제곱법 : 우주를 이해하기 위한 방법1. 일반 선형 모델통계 모델은 예측변수(독립변수, independent variable)를 관측값(종속변수, dependent variable)과 연관시키는 방정식의 집합이다.일반 선형 모델은 General Linear Model로, GLM이라 부른다.용어는 아래처럼 정리할 수 있다.선형대수학통계설명$Ax = b$$X\beta =y$일반 선형 모델(GLM)AX설계 행렬(열 = 독립변수, 예측변수, 희귀변수)x$\beta $희귀 계수 또는 베타 매개변수by종속변수, 결과 측정값, 데이터구축GLM을 구축하는 과정은 아래와 같다.독립변수와 종속변수를 연관시킨 방정식을 정의한다관찰된 데이터를 방정식에 대입한다일련의 방정식을 행렬 ..

• format_list_bulleted 수학/선형대수
• · 2026. 1. 30.

[개발자를 위한 실전 선형대수학] Chapter 9 연습문제

[chapter9] 행 축소와 LU 분해: 선형대수학의 핵심 분해법 29-1LU 분해 실행하는 데 걸리는 시간 측정해보기정답 코드import timetic = time.time()for i in range(1000): A = np.random.randn(100,100) P,L,U = scipy.linalg.lu(A)toc = time.time() - tictoc # 0.6329073905944824LU 분해와 QR 분해는 각각 어떨때 쓸까? with ChatGPTLU 분해가 QR 분해보다 더 빠르다면, QR 분해는 안쓰는걸까? 가 궁금해져서 ChatGPT에게 물어봤다.LU분해는 L: 아래 삼각 / U: 위 삼각으로 분해하는 방법으로, 계산량이 적어 빠르다. 하지만 수치적으로 불안정할 수 있고, A가 ..

• format_list_bulleted 수학/선형대수
• · 2026. 1. 28.