🌱 현대 인공지능 학습 1단계: 기초 수학 및 선형대수

🌱 현대 인공지능 학습 1단계: 기초 수학 및 선형대수

📅 학습 기간: 1~3개월

🎯 학습 목표: AI 알고리즘을 위한 수학적 기초 확보

---

📝 1. 기초 수학의 필요성

인공지능과 머신러닝을 다루기 위해서는 수학적 개념이 필수입니다.
특히 미분, 선형대수, 확률과 통계는 딥러닝 모델과 최적화 알고리즘을 이해하는 데 중요한 역할을 합니다.
이번 글에서는 인공지능의 기초 수학 개념과 실습을 중심으로 학습합니다.

---

📌 1-1. 미분과 적분

🔑 1) 미분의 개념과 활용

미분은 함수의 변화율을 구하는 연산입니다.
딥러닝 모델의 손실 함수 최적화에서 경사하강법(Gradient Descent)을 통해 가중치를 업데이트할 때 사용됩니다.

예시:
손실 함수 L(w)L(w)를 미분하여 기울기를 구함으로써 최소값을 찾습니다.

dLdw=lim⁡h→0L(w+h)−L(w)h\frac{dL}{dw} = \lim_{h \to 0} \frac{L(w + h) - L(w)}{h}

Python 예제:

import sympy as sp

# 변수 정의
w = sp.symbols('w')
L = w**2 + 3*w + 2

# 미분 계산
dL_dw = sp.diff(L, w)
print(f"미분 결과: {dL_dw}")

결과:

미분 결과: 2*w + 3

💡 미분 활용:

1. 경사하강법(Gradient Descent): 기울기가 음수면 오른쪽으로 이동, 양수면 왼쪽으로 이동하여 최적점 탐색
2. 활성화 함수 미분: 신경망에서 역전파를 통해 오차를 최소화

---

🔑 2) 적분의 개념과 활용

적분은 함수의 넓이나 누적 값을 구하는 연산입니다.
모델 학습에서 **확률 밀도 함수(PDF)**를 계산하거나, 누적 분포 함수를 구할 때 사용됩니다.

Python 예제:

# 적분 계산
integral = sp.integrate(L, w)
print(f"적분 결과: {integral}")

결과:

반응형

적분 결과: w**3/3 + 3*w**2/2 + 2*w

💡 적분 활용:

1. 확률 분포 계산: 확률 밀도 함수(PDF)의 누적 확률 계산
2. 신경망 활성화 함수의 누적값 계산: 소프트맥스 함수의 확률 분포 구하기

---

📌 1-2. 선형대수와 벡터 연산

🔑 1) 벡터와 행렬의 개념

벡터와 행렬은 데이터를 표현하는 기본 단위입니다.

• 벡터(Vector): 크기와 방향을 가진 수학적 객체
• 행렬(Matrix): 2차원 배열 형태로 데이터를 구조화

Python 예제:

import numpy as np

# 벡터와 행렬 정의
v = np.array([2, 4, 6])
A = np.array([[1, 2], [3, 4]])

# 벡터 연산
print(f"벡터의 길이: {np.linalg.norm(v)}")
print(f"행렬의 전치: \n{A.T}")

💡 벡터와 행렬 활용:

1. 신경망 가중치 표현: 가중치를 행렬로 표현하여 연산 간결화
2. 행렬 곱셈: 모델 예측 값 계산 및 가중치 업데이트

---

🔑 2) 행렬 연산과 역행렬

역행렬은 행렬 연산에서 나눗셈에 해당하며, 선형 방정식을 해결할 때 유용합니다.
역행렬이 존재하려면 행렬의 **행렬식(determinant)**이 0이 아니어야 합니다.

Python 예제:

# 역행렬 구하기
det_A = np.linalg.det(A)
inv_A = np.linalg.inv(A)

print(f"행렬식: {det_A}")
print(f"역행렬: \n{inv_A}")

결과:

행렬식: -2.0000000000000004
역행렬:
[[-2.   1. ]
 [ 1.5 -0.5]]

---

📌 1-3. 확률과 통계

🔑 1) 확률 이론의 기본 개념

• 확률변수: 사건의 결과를 수치로 표현한 변수
• 기댓값: 확률분포의 중심값
• 분산: 데이터의 흩어짐 정도

Python 예제:

import random

# 주사위 던지기
trials = [random.randint(1, 6) for _ in range(1000)]
mean = np.mean(trials)
variance = np.var(trials)

print(f"기댓값: {mean}")
print(f"분산: {variance}")

💡 확률 개념 활용:

1. 신경망의 불확실성 평가: 예측 확률 계산
2. 베이지안 학습: 사전 확률과 사후 확률 계산

---

🔑 2) 통계 분석

• 평균과 중앙값: 데이터의 중심 경향을 파악
• 분산과 표준편차: 데이터의 변동성 파악
• 상관계수: 변수 간의 관계성

Python 예제:

data = np.random.randn(100)
mean = np.mean(data)
std_dev = np.std(data)

print(f"평균: {mean}, 표준편차: {std_dev}")

---

💻 실습 프로젝트: 경사하강법 구현

목표: 최적의 직선 구하기 (선형 회귀)
코드:

# 데이터 생성
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 4, 6, 8, 10])

# 초기값
w = 0.0
b = 0.0
learning_rate = 0.01

# 경사하강법
for epoch in range(100):
    y_pred = w * x + b
    loss = np.mean((y_pred - y) ** 2)

    # 미분
    dw = np.mean(2 * (y_pred - y) * x)
    db = np.mean(2 * (y_pred - y))

    # 업데이트
    w -= learning_rate * dw
    b -= learning_rate * db

print(f"최적 w: {w}, 최적 b: {b}")

---

📝 학습 체크리스트:

• 미분과 적분의 기본 개념을 이해하고 활용할 수 있다.
• 벡터와 행렬 연산을 자유롭게 수행할 수 있다.
• 확률과 통계의 기본 개념을 이해하고 계산할 수 있다.
• 경사하강법을 직접 구현할 수 있다.

---

미분, 적분, 선형대수, 확률과 통계, 경사하강법, 벡터 연산, 행렬 연산, AI 기초 수학, Python 수학 구현, 딥러닝 기초