목록Master's degree/머신러닝Ⅰ (5)
#wannabeeeeeee the best DataScientist

딥러닝의 등장과 발전1980년대, 딥러닝의 씨앗이 뿌려지다딥러닝의 근간인 깊은 신경망(Deep Neural Network) 아이디어는 이미 1980년대에 등장했습니다. 그러나 당시는 이를 실현하기엔 여러 기술적 한계가 있었습니다.주요 한계점그레이디언트 소멸 문제: 역전파 과정에서 기울기가 소멸해 학습이 잘 되지 않음과잉적합(Overfitting): 모델 복잡도에 비해 학습 데이터가 부족해 일반화 성능이 떨어짐과도한 계산 시간: 연산 자원이 부족해 깊은 신경망 학습이 매우 느림그럼에도 불구하고 연구는 지속되었고, 다양한 요소들이 딥러닝의 가능성을 넓혀갔습니다.지속된 연구 주제학습률 변화에 따른 성능 변화은닉층/은닉 노드 수에 따른 영향데이터 전처리의 중요성활성 함수 선택의 차이다양한 규제 기법(Regula..

신경망은 기계 학습 역사상 가장 오래된 모델 중 하나이며, 오랜 시간 동안 다양한 형태로 발전해왔습니다. 특히 딥러닝의 부상 이후, 신경망은 다시금 기계 학습의 핵심 기술로 자리 잡았습니다.신경망의 역사1958년, 프랑크 로젠블렛(Frank Rosenblatt)은 최초의 신경망 모델인 퍼셉트론(Perceptron) 을 제안합니다.그러나 1969년, 마빈 민스키와 세이무어 페퍼트가 공저한 『Perceptrons』에서는 퍼셉트론의 수학적 한계를 지적했습니다. 대표적으로, 퍼셉트론은 XOR 문제를 해결할 수 없다는 것이 드러났고, 이는 1차 암흑기로 이어졌습니다.1986년, 루멜하트와 맥클랜드는 『Parallel Distributed Processing』을 통해 다층 퍼셉트론(Multilayer Percept..

📊 기계학습에서 수학이 하는 일기계학습(Machine Learning)은 단순히 데이터를 처리하는 기술이 아니라, 수학을 기반으로 문제를 정의하고 해결하는 과정입니다. 특히 목적함수를 설정하고, 최적의 해를 찾아가는 최적화 과정에서 수학은 핵심적인 역할을 합니다. 수학이 기계학습에서 중요한 이유모델의 목적함수 정의예: 평균제곱오차(MSE), 교차엔트로피(Cross-Entropy)→ 모델이 잘 작동하도록 평가하는 기준최적화 이론 제공→ 미분, 편미분, 선형대수, 확률론 등의 수학적 도구를 사용하여모델이 목표값을 최대한 정확히 예측하도록 학습함정보 이론 (Information Theory)▶ 핵심 개념: "확률이 작을수록 더 많은 정보를 가진다"즉, 예측하기 어려운 사건일수록 정보량이 크다는 의미입니다.?..

기계 학습의 정의기계 학습(Machine Learning)은 **인공지능(AI)**의 하위 분야로, 컴퓨터가 명시적인 프로그래밍 없이도 데이터를 통해 학습하도록 하는 알고리즘과 기술을 연구합니다. 즉, 데이터를 기반으로 반복적인 개선을 통해 스스로 패턴을 발견하고, 미래를 예측하거나 분류하는 능력을 갖추게 하는 것입니다.기계 학습에서 다루는 데이터 유형기계 학습에서 데이터는 크게 다음과 같이 나뉩니다:범주형 자료(질적 데이터)예: 성별, 지역, 등급 등명목형(Nominal): 순서 없음 (예: 성별)순위형(Ordinal): 순서 있음 (예: 만족도 수준)연속형 자료(양적 데이터)예: 키, 몸무게, 가격 등구간형(Interval): 절대적인 0이 없음 (예: 온도)비율형(Ratio): 절대적인 0이 존재 ..

Ⅰ. 벡터(Vector)💡 기초 개념스칼라 (Scalar): 숫자 하나 (예: 5, -3.2)벡터 (Vector): 숫자들의 모임으로, 크기와 방향을 가진다.행렬 (Matrix): 여러 개의 벡터가 모인 것.텐서 (Tensor): 행렬보다 더 고차원의 숫자 배열.정리하면:스칼라 = 0차 텐서벡터 = 1차 텐서행렬 = 2차 텐서3차원 이상 = 고차원 텐서📍 벡터의 개념특징 벡터(feature vector): 데이터를 수치 벡터로 표현한 것. (예: 이미지, 텍스트 등)벡터의 크기(norm): 벡터의 길이, 보통 유클리디언 놈(2-놈) 사용단위 벡터: 크기가 1인 벡터. → x / ||x||📍 벡터 연산내적 (dot product): aᵀb = bᵀa→ 두 벡터의 방향과 크기 정보를 함께 고려벡터의 선..