TwentyTwentyOne

📌 JAX로 VAE(변이형 오토인코더) 구현 - 잠재 공간에서 의미 있는 이미지 생성🚀 VAE(Variational Autoencoder)란?VAE는 **오토인코더(Autoencoder)**의 확장으로, 입력 데이터를 **확률 분포(latent space)**로 인코딩하여,다양한 샘플을 생성할 수 있는 생성형 모델입니다.인코더(Encoder): 입력 데이터를 잠재 분포(μ, σ²)로 매핑디코더(Decoder): 샘플링된 z 벡터로 데이터를 재구성잠재 공간(latent space): 의미 있는 데이터 구조를 학습💡 1. VAE 구조 요약🧠 VAE 구성인코더: 입력 → μ, log(σ²) 추출리파라메트라이제이션 트릭: z = μ + σ * ε (ε ~ N(0,1))디코더: z → 복원된 입력🎯 VA..

Link/Cut Tree를 활용한 동적 MST(Minimum Spanning Tree) 관리: 삽입, 삭제, 쿼리까지 O(log N)**Link/Cut Tree (LCT)**는 트리의 동적 변화에 따라간선 삽입/삭제, 경로 쿼리, 최소값 유지 등을 효율적으로 처리할 수 있는 자료구조입니다.이번 글에서는 **LCT를 이용해 동적 MST(Minimum Spanning Tree)**를온라인(online) 환경에서 O(log N) 시간 복잡도로 유지하는 방법을 정리합니다.✅ 문제 정의: 동적 MST 유지예시 시나리오그래프에 간선을 하나씩 추가하면서,MST를 유지하려면?더 좋은 간선이 들어오면 교체,불필요한 간선은 제거각 순간의 MST의 최대 가중치 또는 총 가중치를 관리🔑 핵심 아이디어: LCT 기반 MST ..

Link/Cut Tree와 Dijkstra 알고리즘 결합: 다중 소스 동적 최단 경로 문제 해결**Link/Cut Tree (LCT)**는 트리 구조가 동적으로 변화하는 상황에서경로 쿼리와 연결/분리를 효율적으로 처리할 수 있는 자료구조입니다.하지만 다중 소스 최단 경로 문제에서는 단독으로 사용하기 어렵습니다.이번 글에서는 Link/Cut Tree와 Dijkstra 알고리즘을 결합하여다중 소스 최단 경로 문제를 효율적으로 해결하는 방법을 정리합니다.✅ 문제 상황: 다중 소스 동적 최단 경로🌟 문제 정의다중 출발지가 존재하는 상황에서각 출발지로부터 모든 노드까지의 최단 경로를 실시간으로 관리동적으로 트리 구조가 변할 때에도 최단 경로를 유지해야 함🔑 해결 방안: Link/Cut Tree + Dijkst..

📌 JAX로 GAN(생성적 적대 신경망) 구현 - 이미지 생성 프로젝트🚀 GAN(생성적 적대 신경망)이란?GAN(Generative Adversarial Network)은 **생성자(Generator)**와 **판별자(Discriminator)**라는 두 개의 신경망을 사용하여 데이터를 학습하고 생성하는 모델입니다.생성자(G): 랜덤한 잡음 벡터로부터 실제 같은 데이터를 생성판별자(D): 데이터가 실제(real)인지 생성된(fake) 것인지 판별목표: 생성자는 판별자를 속일 정도로 실제 같은 데이터를 생성💡 1. GAN의 학습 과정📐 GAN 알고리즘 구조생성자 학습: 판별자를 속이도록 가짜 데이터를 생성판별자 학습: 실제 데이터와 생성 데이터를 구분적대적 훈련: 두 모델이 서로 경쟁하며 발전🔄 ..

📌 JAX로 BERT 모델 구현 - 문장 임베딩과 유사도 측정🚀 BERT 모델이란?BERT(Bidirectional Encoder Representations from Transformers)는 Transformer Encoder를 기반으로 한 NLP 모델입니다.자연어 처리에서 문장의 맥락을 양방향으로 이해할 수 있는 특징이 있어 다양한 언어 모델링 작업에서 성능이 뛰어납니다.이번 글에서는 JAX를 활용하여 BERT 모델을 구현하고,문장 임베딩과 문장 유사도 측정을 실습해보겠습니다.💡 1. BERT의 핵심 개념📐 BERT 모델 구조Input Representation:[CLS]: 문장 시작 토큰[SEP]: 문장 구분 토큰Token Embedding + Segment Embedding + Posit..

동적 트리 문제에서 Link/Cut Tree 활용: 최단 경로 문제 해결**Link/Cut Tree(LCT)**는 트리 구조가 동적으로 변화하는 문제를 효율적으로 해결하기 위한 자료구조입니다.특히 최단 경로 문제에서 LCT를 활용하면 트리 간 연결/분리와 경로 쿼리를 동시에 처리할 수 있습니다.이번 글에서는 LCT를 활용하여 최단 경로 문제를 해결하는 방법을구현 코드와 실전 문제를 통해 단계별로 설명합니다.✅ Link/Cut Tree를 활용한 최단 경로 문제트리 구조가 동적으로 변할 때 최단 경로를 구하려면기존의 다익스트라 알고리즘이나 벨만-포드 알고리즘으로는 해결하기 어렵습니다.Link/Cut Tree를 활용하여 트리 경로가 변하더라도 최단 경로를 동적으로 관리할 수 있습니다.🔍 Link/Cut Tr..

🌟 현대 인공지능 학습 2단계: 순환 신경망(RNN)과 시계열 데이터 처리📅 학습 기간: 7~9개월🎯 학습 목표: 시계열 데이터 처리 및 순환 신경망 이해📝 1. 순환 신경망(RNN) 기초순환 신경망(RNN, Recurrent Neural Network)은 순차 데이터를 처리하는 데 특화된 신경망입니다.입력이 연속적인 경우에 적합 (예: 주가 예측, 자연어 처리)이전의 계산 결과를 다음 계산에 피드백하여 활용📌 1-1. RNN 구조 이해RNN은 입력과 출력 사이의 관계뿐 아니라 시간의 흐름도 학습합니다.입력: 시계열 데이터 또는 순차적 데이터순환 노드: 이전 상태를 다음 상태로 전달출력: 연속적 데이터 예측 또는 분류🔑 1) RNN의 수학적 표현RNN에서는 은닉 상태(hth_t)가 시간에 따라..

🌟 현대 인공지능 학습 2단계: 합성곱 신경망(CNN) 심화와 전이 학습📅 학습 기간: 7~9개월🎯 학습 목표: CNN 구조 심화 학습과 전이 학습 활용📝 1. CNN의 필요성과 활용합성곱 신경망(Convolutional Neural Network, CNN)은 이미지 데이터 분석에 특화된 신경망입니다.이미지 분류, 객체 탐지, 얼굴 인식 등 다양한 분야에서 활용됩니다.이번 글에서는 CNN의 심화 구조와 전이 학습을 중심으로 학습합니다.📌 1-1. CNN 구조 심화 이해CNN의 기본 구조는 합성곱 층(Convolution Layer), 활성화 함수, 풀링 층(Pooling Layer), **완전 연결 층(Fully Connected Layer)**로 이루어집니다.여기에 **정규화 층(Batch N..

동적 트리 문제 해결을 위한 Link/Cut Tree 확장: 경로 최대/최솟값과 구간 합 문제Link/Cut Tree(LCT)는 트리 구조가 동적으로 변화하는 상황에서경로 쿼리, 트리 연결/분리(Link/Cut) 등을 O(log N) 시간에 처리할 수 있는 강력한 자료구조입니다.하지만 기본 Link/Cut Tree만으로는 경로의 최대/최솟값, 구간 합을 효율적으로 처리하기 어렵습니다.이번 글에서는 Link/Cut Tree를 확장하여 경로 쿼리와 구간 업데이트까지 효율적으로 처리하는 방법을Python 구현 코드와 함께 정리합니다.✅ Link/Cut Tree 확장의 필요성기본 Link/Cut Tree로는 경로의 합, 최대값, 최소값 같은 쿼리를 처리하기 어렵습니다.이를 해결하기 위해 Splay Tree의 노..

📌 JAX로 Transformer 모델 구현 - 자연어 처리(NLP) 문제 해결🚀 Transformer 모델이란?Transformer 모델은 **자연어 처리(NLP)**와 시계열 데이터 처리에 뛰어난 성능을 보이는 모델입니다.특히 Self-Attention 메커니즘을 통해 입력 시퀀스의 관계를 효율적으로 학습할 수 있습니다.이번 글에서는 JAX를 사용하여 Transformer를 구현하고,문장 분류 문제를 통해 성능을 평가해보겠습니다.💡 1. Transformer의 핵심 개념📐 Transformer 구조Encoder-Decoder 아키텍처: 인코더와 디코더 블록으로 구성Self-Attention 메커니즘: 입력 간의 상호 관계를 계산Multi-Head Attention: 여러 개의 어텐션을 병렬로 ..