🌟 현대 인공지능 학습 2단계: 순환 신경망(RNN)과 시계열 데이터 처리

🌟 현대 인공지능 학습 2단계: 순환 신경망(RNN)과 시계열 데이터 처리

📅 학습 기간: 7~9개월

🎯 학습 목표: 시계열 데이터 처리 및 순환 신경망 이해

---

📝 1. 순환 신경망(RNN) 기초

순환 신경망(RNN, Recurrent Neural Network)은 순차 데이터를 처리하는 데 특화된 신경망입니다.

• 입력이 연속적인 경우에 적합 (예: 주가 예측, 자연어 처리)
• 이전의 계산 결과를 다음 계산에 피드백하여 활용

---

📌 1-1. RNN 구조 이해

RNN은 입력과 출력 사이의 관계뿐 아니라 시간의 흐름도 학습합니다.

• 입력: 시계열 데이터 또는 순차적 데이터
• 순환 노드: 이전 상태를 다음 상태로 전달
• 출력: 연속적 데이터 예측 또는 분류

🔑 1) RNN의 수학적 표현

RNN에서는 은닉 상태(hth_t)가 시간에 따라 변화합니다.

ht=f(Wx⋅xt+Wh⋅ht−1+b)h_t = f(W_x \cdot x_t + W_h \cdot h_{t-1} + b)

여기서,

• xtx_t: 현재 입력
• ht−1h_{t-1}: 이전 은닉 상태
• WxW_x, WhW_h: 가중치 행렬
• bb: 바이어스
• ff: 활성화 함수 (주로 tanhtanh 사용)

---

💻 코드 실습: 간단한 RNN 구현

import torch
import torch.nn as nn

# RNN 모델 정의
class SimpleRNN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleRNN, self).__init__()
        self.rnn = nn.RNN(input_size, hidden_size, batch_first=True)
        self.fc = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        out, _ = self.rnn(x)
        out = self.fc(out[:, -1, :])  # 마지막 타임스텝 출력
        return out

# 모델 생성
model = SimpleRNN(input_size=1, hidden_size=10, output_size=1)
print(model)

---

📌 1-2. RNN의 한계와 개선

반응형

🔑 1) RNN의 한계

• 장기 종속성 문제: 긴 문맥을 학습하기 어려움
• 기울기 소실 문제: 역전파 시 기울기가 0에 가까워짐

💡 개선 방안:

1. LSTM(Long Short-Term Memory)
   • 셀 상태를 추가하여 장기 의존성 문제 해결
2. GRU(Gated Recurrent Unit)
   • LSTM보다 간결하지만 유사한 성능

---

🔍 2. LSTM과 GRU: 개선된 순환 신경망

📌 2-1. LSTM (Long Short-Term Memory)

LSTM은 RNN의 한계를 극복하기 위해 **셀 상태(Cell State)**를 추가한 구조입니다.

• 게이트 구조: 입력 게이트, 망각 게이트, 출력 게이트
• 셀 상태: 중요한 정보를 장기적으로 기억

💻 코드 실습: LSTM 구현

class SimpleLSTM(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleLSTM, self).__init__()
        self.lstm = nn.LSTM(input_size, hidden_size, batch_first=True)
        self.fc = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        out, _ = self.lstm(x)
        out = self.fc(out[:, -1, :])
        return out

model = SimpleLSTM(input_size=1, hidden_size=10, output_size=1)
print(model)

---

📌 2-2. GRU (Gated Recurrent Unit)

GRU는 LSTM을 간소화한 형태로 기억 셀과 게이트 구조를 통합하였습니다.

• 장점: 계산량 감소
• 단점: 복잡한 패턴 처리 능력 감소

💻 코드 실습: GRU 구현

class SimpleGRU(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleGRU, self).__init__()
        self.gru = nn.GRU(input_size, hidden_size, batch_first=True)
        self.fc = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        out, _ = self.gru(x)
        out = self.fc(out[:, -1, :])
        return out

model = SimpleGRU(input_size=1, hidden_size=10, output_size=1)
print(model)

---

📈 3. 시계열 데이터 분석과 RNN 활용 사례

📌 3-1. 주가 예측 모델 (LSTM 활용)

목표: 주가 변동 예측
데이터: Yahoo Finance에서 가져온 주가 데이터

💻 코드 실습: 주가 예측 모델

import yfinance as yf
from sklearn.preprocessing import MinMaxScaler
import numpy as np

# 데이터 로드
stock = yf.download("AAPL", start="2022-01-01", end="2023-01-01")
close_prices = stock['Close'].values

# 데이터 전처리
scaler = MinMaxScaler(feature_range=(0, 1))
scaled_data = scaler.fit_transform(close_prices.reshape(-1, 1))

# 데이터셋 생성
def create_sequences(data, seq_length):
    sequences = []
    for i in range(len(data) - seq_length):
        seq = data[i:i + seq_length]
        label = data[i + seq_length]
        sequences.append((seq, label))
    return sequences

sequences = create_sequences(scaled_data, 5)

# RNN 모델 정의 및 학습
model = SimpleLSTM(input_size=1, hidden_size=50, output_size=1)
criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

# 학습 루프
for epoch in range(50):
    for seq, label in sequences:
        seq = torch.tensor(seq, dtype=torch.float32).unsqueeze(0)
        label = torch.tensor(label, dtype=torch.float32)

        optimizer.zero_grad()
        output = model(seq)
        loss = criterion(output, label)
        loss.backward()
        optimizer.step()

    if (epoch+1) % 10 == 0:
        print(f"Epoch {epoch+1}, Loss: {loss.item():.4f}")

---

📝 학습 체크리스트:

• RNN의 기본 구조를 이해하고 구현할 수 있다.
• LSTM과 GRU의 차이점을 이해하고 직접 구현할 수 있다.
• 시계열 데이터 처리의 기본 개념을 파악하고 예측 모델을 구축할 수 있다.
• 주가 예측 모델을 통해 시계열 데이터 학습을 실습할 수 있다.

---

RNN, LSTM, GRU, 시계열 데이터, 주가 예측, 딥러닝, PyTorch, 순환 신경망, 시계열 분석, 장기 의존성 문제, 기울기 소실 문제