자연어

인공지능 퀴즈 풀기|KorQuAD_BERT

2018년 10월, SQuAD(Stanford Question Answering Dataset) 리더보드에 Human performance를 능가하는 점수로 1위 자리를 갱신한 모델이 나타나 엄청난 주목을 끌었다. 이른바, [사람보다 퀴즈를 잘 푸는 인공지능]이 나타났다는 소식은 딥러닝 자연어 처리 분야에 충격적인 뉴스였다. 구글에서 발표한 논문에 소개된 이 모델의 이름은 바로 BERT(Bidirectional Encoder Representations from Transformers) 이 모델은 340MB나 되는 엄청난 사이즈의 파라미터를 가진 모델을 수십 GB나 되는 코퍼스를 학습시켜 만든 pretrained model로서, SQuAD뿐 아니라 당시 거의 모든 자연어 처리 태스크의 SOTA(State..

감성 분석[Emotional analysis]

In [1]: from IPython.core.display import display, HTML display(HTML("")) 🎥영화리뷰 텍스트 감성분석하기❣¶ 목차¶1. 데이터 준비 및 확인 2. 데이터로더 구성 3. 모델 구성을 위한 데이터 분석 및 가공 4. 모델구성 및 validation set 구성 5. 모델 훈련 개시 6. Loss, Accuracy 그래프 시각화 7. 학습된 Embedding 레이어 분석 8. 한국어 Word2Vec 임베딩 활용하여 성능 개선 9. Dropout, Bidirectional layer 회고 번외. 리뷰 예측해보기 1. 데이터 준비 및 확인¶ In [15]: import pandas as pd import urllib.request %matplotlib inl..