코딩하는 해커

[Linear Algebra] 역행렬(Inverse matrix)

역행렬(Inverse matrix) 역행렬을 배우는 이유 2x = 6라는 일차방정식에서 x의 해를 구하면 얼마인가? 답은 x=3이다. 이를 구할 때 x는 그대로 좌변에 두고 상수항 2를 우변으로 이항하여 정리하였다. 그러면 x=6/2라는 식이 만들어 진다. 다르게 표현하면 x=6*2^-1로 표현할 수도 있다. 즉, 일차방정식 ax=b 에서 a≠0이면 x=a^-1b를 구할 수 있다. 그렇다면 행렬의 곱을 활용하여 이 역원(A^-1)을 구함으로써 선형방정식 AX=B의 해를 X=A^-1B로 구할 때 바로 A^-1가 역행렬이기 때문에 역행렬을 학습한다면 선형방정식을 해결할 수 있다. 역행렬이 선형방정식을 해결할 수 있는 것에는 도움이 되는 것은 이제 알게 되었다. 그렇다면 역행렬이 인공지능(AI)에서는 어떻게 ..

[Linear Algebra] SVD(특이값 분해)

특이값 분해(Singular Value Decomposition) 특이값 분해는 행렬(matrix ~ data)을 특이값(singular value)을 가지는 행렬로 분해하는 것이다. 특이값 분해는 데이터를 차원 축소하거나 노이즈를 제거하는 데에 유용하게 사용되며, 다양한 응용 분야에서 활용된다. 자, 먼저 특이값 분해를 학습하기 전에 특이값이 무엇인지 알아보자. 특이값(Singluar Value) 특이값을 이해하기 위해서는 먼저 고유값에 대해 알아보는 과정이 필요하다. - 고유값(eigenvalue) >> 정방행렬에서 대각성분 빼고 모두 0인 행렬, 즉 대각행렬에서 대각성분들을 고유값(eigenvalue: 아이겐밸류)이라고 한다. 만약 아래와 같은 3x3 행렬이 있다고 가정해 보자. [[1, 0, 0]..

[Linear Algebra] 다차원 배열의 계산

다차원 배열의 계산 신경망을 효율적으로 구현하기 위해서는 넘파이의 다차원 배열을 사용한 계산법을 숙달해야 한다. 따라서 본 포스팅에서는 다차원 배열의 계산을 학습하고자 한다. 1. 다차원 배열 다차원 배열도 기본은 '숫자의 집합'이다. 즉, 숫자가 한 줄로 나열된 것(1차원)이나 직사각형의 형태로 나열된 것(2차원), 3차원, ..., N차원으로 나열하는 것을 통틀어 다차원 배열이라고 한다. 주피터 노트북에서 파이썬으로 numpy를 사용해서 다차원 배열을 작성해서 확인해보면 아래와 같다. 배열의 차원 수는 np.ndim() 함수로 확인할 수 있고, 배열의 크기는 인스턴스 변수인 shape로 알 수 있다. 다만, 인스턴스 변수인 shape는 튜플을 반환한다는 사실을 기억해야 한다. 위의 예제로 보면 A는 ..

[Linear Algebra] 벡터의 내적과 노름

내적(dot product)고등학교 시절 기하와 벡터 과목을 이수했다면 한번쯤 벡터의 내적이라는 말을 들어본 적이 있을 것이다. 내적을 구해서 어디에 쓰는 것일까? 내적을 구하면 두 벡터 간의 닮은 정도를 알 수 있다. 가령 벡터 u와 벡터 v가 있을 때, 내적은 벡터끼리의 곱의 한 종류로 아래와 같이 각 요소끼리 곱한 값을 총합해서 정의한다. 즉, u·v = ||u||·||v||·cosθ = ||u||·cosθ·||v|| = ||v||·cosθ·|u|| 이다. 위의 식을 자세히 살펴 보면, 정사영(projection)의 식과 동일한 것을 알 수 있다. 따라서 내적은 정사영이라는 것을 알 수 있다. 그러므로 내적을 통해 두 벡터 간의 닮은 정도를 알 수 있다. 그러면 내적의 크기가 가장 클까? 정답은 바..

[Linear Algebra] 스칼라, 벡터, 행렬, 텐서

인공지능에서는 빅데이터를 다루기 때문에 스칼라, 벡터, 행렬, 텐서는 중요한 개념이다. 따라서 본 포스팅에서는 이들을 학습하고자 한다. 1. 스칼라 스칼라(scalar)는 1, 2, 3, -3, -5, 0 등 흔히 우리가 일반적으로 쓰는 보통의 수치를 뜻한다. 수식에서의 알파벳, 또는 그리스 문자의 소문자는 스칼라를 나타낸다. · 스칼라 표시 예: a, p, α, θ 파이썬 실습 Python에서 다루는 대부분의 수치는 스칼라에 대응 2. 벡터 벡터(vector)는 스칼라를 직선 상에 나열한 것으로 알파벳의 소문자에 화살표를 올린 것으로 벡터를 나타낸다. 벡터에는 세로로 수치를 나열하는 '세로 벡터'와 가로로 수치를 기록하는 '가로 벡터'가 있다. AI와 Data Science를 학습하는 입장에서는 이렇게..

[Linear Algebra] 행렬의 기초 with Python

행렬 - Matrix 기본 용어 행렬(matrix): 수나 문자를 직사각형 형태로 나타낸 것, 행렬의 크기는 행수 x 열수 행(row): 행렬의 가로줄 → m 열(column): 행렬의 세로줄 → n → 즉 (m, n의 성분을 주로 aₘₙ과 같이 나타냄) 주대각선(main diagona): 행렬의 왼쪽 위에서 오른쪽 아래를 가르는 선 → 모든 행렬은 그 행렬의 성분 값에 상관없이 주 대각선을 갖는다. n차 행렬, n차 정방행렬:만약 행과 열의 수가 똑같은 N x N 형태의 행렬 → (1, 2)의 성분=3, (2,3)의 성분=7 → (2, 1)의 성분=-1, (2, 2)의 성분=1 전치행렬(transposed matrix) 전치행렬: 각 행을 열로 바꾼 행렬 A → Aᵀ 대칭행렬(symmetric matr..