deangray 님의 블로그

태그클라우드 이동

생성형 ai 아키텍처 프로그래머스 볼록함수 AI SQL 마크다운 앙상블 알고리즘 정보처리기사 정리 AI개발자 크롤링 인공지능 정보처리기사 그리드서치 경사하강법 티스토리챌린지 pandas 랜덤서치 파이썬 생성형AI 릿지회귀 정보처리기사 요약 생성형 AI 엑스트라 트리 ai개발자과정 회귀 알고리즘 오블완 라쏘회귀 정보처리기사 5과목 소프트웨어 설계 정보처리기사 4과목

2023년 1월 1일

08:00 AM

Buffering ...

최근 글 👑

전체 글

더욱 유용한 정보로 찾아뵙겠습니다

728x90

일반화 (Generalization)

댓글수 · 2025.06.03

What is Generalization?일반화란?단순히 훈련 데이터에 잘 맞는 모델을 만드는 것에서 그치지 않고,보지 못한 새로운 데이터(unseen data)에 대해서도 정확한 예측을 할 수 있도록 모델을 구성하는 것 오버피팅과 일반화 사이의 관계그래프 해석:X축: 모델의 복잡도(Model complexity)Y축: 오류(Error) 곡선 설명:Training error: 모델 복잡도가 높아질수록 줄어듦Test error: 처음엔 감소하다가 복잡도가 너무 높아지면 오히려 증가 (오버피팅)✔️ Optimal Point: 테스트 에러가 최소가 되는 지점 → 일반화가 가장 잘된 모델 복잡도와 일반화의 트레이드오프"모델이 너무 복잡하면 훈련 데이터는 잘 맞추지만, 일반화 성능은 떨어짐"복잡도가 높을수록 더 ..

선형 회귀 모델 (Linear Regression Model)

댓글수 · 2025.06.03

회귀 모델 (Regression Models) 정의목적: 하나 이상의 설명 변수(독립 변수) $x$와 종속 변수 $y$ 간의 관계를 모델링형태:선형 회귀 (왼쪽 그래프): 직선 형태로 데이터 예측비선형 회귀 (오른쪽 그래프): 곡선 형태로 더 복잡한 관계 모델링 가능 수식 표현 예시 선형 회귀 모델 :$$y = w_1 x + w_0$$ 비선형 회귀 모델 예시 (다항 회귀) :$$y = w_2 x^2 + w_1 x + w_0$$ 모델 종류설명수식 예시단순 선형 회귀1개 변수, 직선$y = w_1 x + w_0$단순 비선형 회귀1개 변수, 곡선$y = w_2 x^2 + w_1 x + w_0$다중 선형 회귀다수 변수, 선형 조합$y = w_1 x_1 + w_2 x_2 + w_0$다중 비선형 회귀다수 변수 +..

볼록함수 (Convex Function)

댓글수 · 2025.06.03

What is a Convex Function? 정의함수 $f$가 convex 하다는 것은 다음 조건을 만족하는 것을 의미합니다 :$$f(tx + (1 - t)x') \leq t f(x) + (1 - t) f(x') \quad \text{for any } x, x' \in X, ; t \in [0,1]$$좌변: 두 점 $x$, $x^′$ 사이의 보간된 입력값에서의 실제 함수값우변: 그 두 점에서의 함수값을 선형 조합한 선분 위의 점 특수한 경우 $t = \frac{1}{2}$$$f\left( \frac{1}{2}x + \frac{1}{2}x' \right) \leq \frac{1}{2}f(x) + \frac{1}{2}f(x')$$ 시각적 해설파란 곡선: 실제 함수 $f(x)$빨간 직선: $tf(x1)+..

경사하강법 (Gradient Descent Method)

댓글수 1 · 2025.06.03

오차 최소화 목표함수 $f(x)$와 실제 값 $y$ 사이의 오차를 최소화하려면 다음과 같은 오차 함수 $E(w)$ 를 최소화해야 합니다:$$E(w_1, w_2, ..., w_m) = \sum_{(x, y) \in \text{Data}} (y - f(x; w_1, w_2, ..., w_m))^2$$ 오차가 최소가 되는 조건$E(w)$가 최소값을 가지려면, 해당 지점에서의 기울기(gradient) 가 모든 방향에서 0이어야 합니다:$$\frac{\partial E}{\partial w_1} = 0, \quad \frac{\partial E}{\partial w_2} = 0, \quad \ldots, \quad \frac{\partial E}{\partial w_m} = 0$$→ 즉, 모든 변수에 대해 편미분..

선형 회귀, 라쏘 회귀, 릿지 회귀

댓글수 1 · 2025.05.29

대표적인 회귀 알고리즘알고리즘 이름개념 요약장점단점선형 회귀 (Linear Regression)입력 변수와 출력 사이의 선형 관계를 가정해석 쉬움, 빠름비선형 문제에 부적합릿지 회귀 (Ridge Regression)선형 회귀 + L2 정규화과적합 방지해석 어려워질 수 있음라쏘 회귀 (Lasso Regression)선형 회귀 + L1 정규화특성 선택 가능과도한 특성 제거 가능성의사결정나무 회귀 (Decision Tree Regression)트리 구조로 데이터 분할비선형 잘 표현과적합 위험 높음랜덤 포레스트 회귀 (Random Forest Regression)여러 결정트리의 평균성능 안정적느릴 수 있음, 해석 어려움KNN 회귀 (K-Nearest Neighbors)주변 K개의 평균으로 예측구현 단순계산 느림..

멀티스레드

댓글수 1 · 2025.05.28

프로세스실행 중인 하나의 프로그램을 말함하나의 프로그램이 다중 프로세스 만들기도 함자바는 하나의 애플리케이션에 하나의 프로세스가 존재하며 그 안에 멀티스레드를 제공함 멀티 태스킹두 가지 이상의 작업을 동시에 처리하는 것멀티 프로세스 : 독립적으로 프로그램들을 실행하고 여러 가지 작업 처리멀티 스레드 : 한 개의 프로그램을 실행하고 내부적으로 여러 가지 작업 처리 메인 스레드모든 자바 프로그램은 메인 스레드가 main() 메소드를 실행하면서 시작된다.main() 메소드의 첫 코드부터 아래로 순차적으로 실행실행 종료 조건은 마지막 코드를 실행하거나, return 문을 만나면 실행이 종료된다.main 스레드는 작업 스레드들을 만들어서 병렬로 코드들을 실행할 수 있다. 즉 멀티 스레드를 생성해서 멀티 태스킹을 ..

댓글수 1 · 2025.05.28

K-Nearest Neighbors (K-최근접 이웃 알고리즘) KNN입력된 샘플에 대해 학습 데이터 중 가장 가까운 K개의 이웃을 찾아, 그들의 다수결(분류) 또는 평균(회귀) 을 기반으로 예측하는 방법입니다. k = 1 일 때,데이터에 가장 민감한 결정 경계를 그림매우 복잡한 경계 → Overfitting 발생노이즈나 이상치에도 민감 k = 5, k의 기본값일 때,대체로 균형 잡힌 결정 경계일반적으로 가장 많이 쓰이는 값 중 하나 k = 9 ~ 일 때,대부분의 포인트가 많은 데이터(설정된 k값 만큼)를 반영, k값이 커질수록 전체 데이터를 대상으로 반영하는 쪽으로 형성 → 경계가 단순해짐주 클래스(majority class) 만 예측 → 과속적합 경향 구분Overfitting (과적합)Underfit..

댓글수 5 · 2025.05.26

인공지능 개요 인공지능사람처럼 학습하고 추론할 수 있는 지능을 가진 컴퓨터 시스템을 만드는 기술 머신러닝인공지능의 하위 분야규칙을 일일이 프로그래밍하지 않아도 자동으로 데이터에서 규칙을 학습하는 알고리즘을 연구하는 분야경험을 바탕으로 발전 - 머신러닝 라이브러리 사이킷런 딥러닝머신러닝의 하위 분야인공 신경망을 기반으로 한 방법을 총칭강화학습에서 사용될 수 있는 기법 중 하나머신러닝의 한 방법으로, 학습과정 동안 ANN을 사용하며, 샘플 데이터를 통한 훈련작업을 하며 이후에는 훈련된 인공신경망을 해당 작업에 사용할 수 있음 -> 훈련된 ANN을 사용하는 것을 '추론'이라 함강화학습의 수학적 함수들을 딥러닝(특히 Neural Networdk)을 이용해서 근사한다는 의미Google 딥러닝 라이브러리 - 텐서플..

728x90

1 2 3 4 5 ··· 8

티스토리툴바