코딩몬

MLP 이미지 분석 픽셀 값을 판단하여 학습을 하기 때문에 픽셀 값에 엄청 종속적임 그래서 같은 크기의 사진에 위치나, 크기가 다른 같은 그림이여도 같은 사진이라고 인식을 잘 못한다. 위와같이 한 픽셀씩만 왼쪽으로 이동해도 인식을 잘 못하는 경우 발생한다. 이와같은 문제를 해결하기 위해서 특징을 추출하여 학습을 시키는 방법이 나오게 되었다. CNN 이렇게 특징을 추출하면 사진을 회전을 시켜도 그 특징은 그대로 있다는 것을 알 수 있다. 합성곱 신경망(Convolutional neural network, CNN)은 시각적 영상을 분석하는 데 사용되는 다층의 피드-포워드적인 인공신경망의 한 종류이다. 딥러닝에서 심층 신경망으로 분류되며, 시각적 영상 분석에 주로 적용된다. 영상 및 동영상 인식, 추천 시스템..

순전파 입력 데이터를 입력층에서부터 출력층까지 정뱡향으로 이동시키며 출력 값을 추론해나가는 과정(예측, 추론) 순전파는 입력층에서 전달 되는 모든 값이 은닉층을 통해 출력층까지 전달되는 방식이다. 입력층 -> 은닉층 -> 출력층 순으로 순서대로 다음 층으로 이동. 순전파는 순서대로 진행되며 마지막에 결과 값이 나오기 때문에 결과를 이용해 가중치 조절을 할 수 없다. 역전파 출력층에서 발생한 에러(오차값)를 입력층 쪽으로 전파시키면서 최적의 결과를 학습해나가는 과정(학습) 역전파는 사슬 규칙을 이용하는 기울기 기반 최적화 알고리즘에 따라인공신경망을 효율적으로 훈련하는데 사용되는 방법이다. 이 역전파의 주요 특징은 학습 중인 작업을 수행할 수 있을 때까지 네트워크를 개선하기 위해 가중치 업데이트를 계산하는 ..

Keras 활용 Iris 분류모델 실습 입력 : 4개(꽃잎의 길이, 너비, 꽃받침의 길이, 너비) 출력 : 3개(품종) from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense, InputLayer from tensorflow.keras.optimizers import SGD - 딥러닝 모델의 기본 뼈대 (Sequential : 순차적인) 뉴런들을 순차적으로 붙임 - 뉴런의 모음(1개의 층을 의미) 많이 붙힐수록 뉴런들의 층이 깊어진다. - 최적화 도구(SGD : 경사하강법) model = Sequential() model.add(InputLayer(input_shape = 4)) # 입력층 model...

퍼셉트론의 한계 단층 퍼셉트론의 경우 직선으로 나뉘는 두 영역을 만들기 때문에 선형 분리만 가능하다는 단점이 있다. 그래서 아레 그림과 같이 선형분리로 AND, OR는 해결이 가능하지만, 간단한 XOR 문제를 해결할 수 없다. 위의 그림에서 보이는 바와 같이 퍼셉트론의 한계를 극복하기 위해서 하나의 직선이 아닌 여러 개의 직선을 그어보자, 즉 퍼셉트론을 여러 개 쌓아보자는 생각을 하게 되었고 이 것이 바로 다층 퍼셉트론의 등장이다. MLP(Multilayer Perceptron) 다층 퍼셉트론 - 퍼셉트론을 여러 개의 층으로 구성하여 만든 신경망 - 입력계층, 은닉 계층 및 출력 계층의 세 개 이상의 노드 계층으로 구성된다. - 중간층을 잘 설계를 하면 학습의 능력을 끌어올릴 수 있다. (중간층은 여러 ..

딥러닝 과정 1. 요구사항 분석 / 데이터 수집 / 전처리 - 학습이 가능한 데이터로 만들어주는 과정(결측치, 이상치 제거, 특성공학, 시각화 등) 2. 신경망 설계 - 신경망을 설계 및 컴파일 하는 과정 Sequential(), Dense(), Activation(), compile() Sequential() : 신경망을 한층 한층 쌓는 기능 add() : 신경망 층을 추가 Dense() : 실제 신경망 층을 설정하는 기능 Activation() : 활성화 함수를 설정하는 기능 * 활성화 함수 : 출력으로 나오게 하는 기준값(sigmoid, tanh, relu, softmax 등) 3. 딥러닝 학습 - 딥러닝으로 학습하는 과정 fit() 4. 예측 - 평가와 예측을 하는 과정 evaluate(), pr..

딥러닝(Deep Learning) 딥 러닝(deep structured learning, deep learning 또는 hierarchical learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화(abstractions, 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 요약하는 작업)를 시도하는 기계학습 알고리즘의 집합 으로 정의되며, 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 기계학습의 한 분야라고 이야기할 수 있다. - 사람의 신경망을 모방하여 기계가 병렬적 다층 구조를 통해 학습하도록 만든 기술 - 다층 인공신경망(DNN)을 이용하여 정보를처리하는 머신러닝의 한 방법 - ex> GAN(적대적 신경망), 전이학습(Transfer Learning), 심층강화학..

BERT Model 이번 프로젝트 주제를 감성분석 기반 추천 시스템으로 잡았고, 아직 딥러닝 까지는 배운적이 없어 최대한 머신러닝으로 자연어 처리를 하여 감성분석을 해 보려고 했으나... 감성분석이라는 분야 자체가 워낙 고도의 학습이 필요한 NLP 분야라서 어쩔 수 없이 딥러닝 분야에 이렇게 살짝 일찍 맛을 보게 되었다... 조사를 해 본 결과 한국어 자연어 처리로는 KoBERT라는 모델이 우리 프로젝트에 가져다 쓰기에 가장 적합한 Open Source라고 판단하여 프로젝트를 진행하였고, KoBERT라는 모델에 대해 이해하기 위해서 KoBERT의 전신인 BERT모델에 대해 공부를 하게 되었다. BERT(Bidirectional Encoder Representations from Transformers)는..

NLP(Natural Language Processing) 자연어 처리 인간의 언어 현상을 컴퓨터와 같은 기계를 이용해서 묘사할 수 있도록 연구하고 이를 구현하는 인공지능의 주요 분야 중 하나다. 자연 언어 처리는 연구 대상이 언어 이기 때문에 당연하게도 언어 자체를 연구하는 언어학과 언어 현상의 내적 기재를 탐구하는 언어 인지 과학과 연관이 깊다. 구현을 위해 수학적 통계적 도구를 많이 활용하며 특히 기계학습 도구를 많이 사용하는 대표적인 분야이다. 정보검색, QA 시스템, 문서 자동 분류, 신문기사 클러스터링, 대화형 Agent 등 다양한 응용이 이루어지고 있다. 출처 : 위키백과 Natural Language Processing은 컴퓨터과학(Computer Science), 인공지능(Artifici..