한글 텍스트 분류를 위해 KoNLPy를 사용한다. 문제 소개 한글 문제는 데이터도 많지 않고 관련 자료도 많지 않다. 몇 가지 데이터가 있는데 그중 하나가 Naver sentiment movie corpus v1.0로 네이버 영화 리뷰 데이터이다. 네이버 영화 리뷰 감정 분석 이 데이터는 네이버 영화의 리뷰를 영화당 100개씩 모아서 만든 데이터다. 영어와 같은 리뷰 데이터 구조며 감정의 경우 긍정 혹은 부정 값을 가진다. 따라서 이전 문제와 같지만 언어 특성과 데이터 구조적 특성으로 데이터 전처리 과정이 다르다. 데이터 전처리 및 분석 github.com/e9t/nsmc e9t/nsmc Naver sentiment movie corpus. Contribute to e9t/nsmc development ..

컨볼루션 신경망 분류 모델 모델 소개 합성곱 신경망(CNN)이란, 딥러닝 부흥을 이끈 모델 중 하나로 전통적인 신경망 앞에 여러 계층의 합성곱(convolution) 계층을 쌓은 모델로, 입력받은 이미지에 대한 가장 좋은 특징을 만들어 내도록 학습하고, 추출된 특징을 활용해 이미지를 분류하는 방식. 일반적으로 이미지는 이미지 파일 각각 강아지, 고양이, 말 등의 라벨을 붙여 데이터셋을 만들고, 모델이 학습하면서 각 특징값을 추출해서 특징을 배우고, 가장 가까운 라벨을 예측한다. 그렇다면 텍스트에서는 합성곱 신경망을 어떻게 활용할까? RNN이 단어 입력 순서를 중요시 했다면 CNN은 문장의 지역 정보를 보존하면서 각 문장 성분의 등장 정보를..

순환 신경망 분류 모델 앞서 진행한 모델들은 머신러닝 활용이고, 이번부터는 딥러닝을 활용해 분류하는 모델을 진행한다. 순환 신경망은 언어 모델에서 많이 쓰이는 딥러닝 모델이다. 주로 순서가 있는 데이터, 즉 문장 데이터를 입력해서 문장 흐름에서 패턴을 찾아 분류하게 한다. 앞선 모델들과 달리 이미 주어진 단어 특징 벡터를 활용해 모델을 학습하지 않고 텍스트 정보를 입력해서 문장에 대한 특징 정보를 추출한다. 모델 소개 순환 신경망(RNN)은 "현재 정보는 이전 정보가 점층적으로 쌓이면서 정보를 표현할 수 있는 모델" 따라서 시간에 의존적인 또는 순차적인 데이터에 대한 문제에 활용된다. 위 그림은 한 언어 모델을 순환 신경망의 구조로 나타낸 것으로 이 모델은 한 단어에 대한 정보를 입력하면 다음 단어를 맞..

랜덤 포레스트 분류 모델 모델 소개 랜덤 포레스트에서는 여러 개의 의사결정 트리의 결괏값을 평균낸 것을 결과로 사용한다. 랜덤 포레스트를 통해 분류 또는 회귀를 할 수 있다. 그 전에 의사결정 트리에 대해 알아보면, 의사결정 트리란 자료구조인 트리와 같은 형태로 이루어진 알고리즘이다. 각 노드는 하나의 질문이 되고 질문에 따라 다음 노드가 달라진다. 실제 의사결정 트리의 경우 훨씬 많은 가지가 있고 많은 질문으로 결과가 나온다. 이제 랜덤 포레스트란 위와 같은 트리 구조가 모여있는 형태인데, 각 트리에서 구한 결과를 종합해서 결과를 도출한다. 즉, 많은 트리를 같이 사용하면 정확도가 높아짐. 위의 4문장을 랜덤 포레스트를 통해 야구 관련 문장을 찾는다고 하자 그러면 2개의 트리를 만들 수 있을 것이다. ..

word2vec을 활용한 모델 구현 우선 각 단어를 word2vec으로 벡터화 해야하는데 word2vec은 단어로 표현된 리스트를 입력값으로 넣어야 하기 때문에 전처리한 넘파이 배열을 사용하지 않는다. 따라서 전처리된 텍스트 데이터를 불러온 후 각 단어들의 리스트로 나눠야 한다. import re import pandas as pd import numpy as np import json import os DATA_IN_PATH='./data_in/' TRAIN_CLEAN_DATA='train_clean.csv' train_data=pd.read_csv(DATA_IN_PATH + TRAIN_CLEAN_DATA) reviews=list(train_data['review']) sentiments=list(tr..

모델링 소개 전까지는 전처리를 진행했고, 이제 앞의 결과로 나온 전처리 데이터를 집적 모델에 적용하고 주어진 텍스트에 대해 감정이 긍정인지 부정인지 예측하는 모델을 만든다. 여러 모델 사용 예정 실습할 모델 머신러닝 모델 중 선형 회귀 모델, 랜덤 포레스트 모델로 감정 분석 (사이킷런 사용) 딥러닝 모델 중 합성곱 신경망(CNN) 모델, 순환 신경망(RNN) 모델 (텐서플로우 사용) 회귀 모델 딥러닝 모델을 시작하기 앞서 간단한 모델을 만든다. 만들 모델은 로지스틱 회귀 모델이다. 로지스틱 회귀 모델은 주로 이항 분류를 하기 위해 사용되는 분류 문제에서 사용할 수 있는 가장 간단한 모델이다. 로지스틱 회귀는 선형결합을 통해 나온 결과를 토대로 예측하게 된다. 모델 소개에 앞서 선형 회귀 모델을 알아본다...