yeon's 👩🏻‍💻

19-1. 회귀(Regression) 🔆 회귀분석이란? 부모의 키와 자식의 키 사이의 관계 1인당 국민 총소득과 배기가스 배출량 사이의 관계 예측 위 예시 모두 독립변수(independent variable)와 종속변수(dependent variable) 사이의 상호 관련성이 있다. 영국의 우생학자 F. Galton은 아버지와 자식의 키의 관계에 대해 분석을 하면서 아버지 키 x와 자식의 키 y 사이의 기울기가 1보다 작다 라는 것에 주목하여 결국 세대가 거듭될수록 아버지의 키와 무관하게 자식의 키는 전체 평균에 수렴한다는 것을 밝혀냈다. ** 통계적으로 평균으로 회귀(regression) 한다는 뜻에서 회귀의 개념을 처음 제시함 ** 오늘날 회귀는 단순히 평균으로 회기하는 것이 아닌, 두 개 이상의 변..

Reference https://ratsgo.github.io/natural%20language%20processing/2019/09/12/embedding/ 🧤 임베딩 (Embedding) : 자연어를 숫자의 나열인 벡터(vector)로 바꾼 결과, 혹은 그 일련의 과정 전체 - 컴퓨터가 자연어를 처리할 수 있으려면 자연어를 계산 가능한 형식인 임베딩으로 바꿔주어야 한다! 임베딩에는 말뭉치(corpus)의 의미, 문법 정보가 응축되어 있다. 벡터이기 때문에 사칙연산, 단어/문서 관련도(relevance) 또한 계산 가능하다. 🧤 전이 학습 (Transfer Learning) : 특정 문제를 풀기 위해 학습한 모델을 다른 문제를 푸는 데 재사용하는 기법 pretrain - 대규모 말뭉치를 학습시켜 임베딩..

최근 SNS와 같은 소셜미디어의 활성화로 인해 많은 대중들은 인터넷 상에 자신의 감성과 태도를 표출하고, 이에 따른 '감성 분석'에 높은 관심이 지속되고 있다. 대표적인 예로 'Hungerithm' 이라는 배고픔(Hunger) + 알고리즘(Algorithm) 을 합성한 단어가 있는데, 이는 스니커즈 식품회사가 SNS에서 식사시간 이전이 식사시간 이후보다 사람들의 피드에 부정적인 글이 많이 올라온다는 점에서 착안해 만든 유머러스한 단어이다. 이는 대표적인 텍스트 감성 분석의 예로, 사람들의 코멘트를 실시간으로 분석해 마케팅을 펼쳤다. 🧤 감성분석이란? : 텍스트에 나타나는 주관적 요소인 긍정적 감정과 부정적 감정을 판별해 이를 수치나 도식, 등급 등으로 정량화하는 작업. 단순히 긍정/부정을 판별하는 것 뿐..

시퀀스 Sequential 인공지능이 어떠한 '예측'을 하려면 어느 정도는 연관성이 있어줘야 한다. -> 통계에 기반해 예측을 해보자 순환신경망(RNN) ex) '나는 밥을 [ ]' -> [ ]에는 '먹었다' 가 들어가겠구나! ✔️ 여기서 '나는' 은 어떻게 만들까 ? -> 라는 특수한 토큰을 맨 앞에 추가해 주기 ✔️ '밥을 먹었다' 까지 생성하고 난 뒤는 -> 라는 특수한 토큰을 생성한다. 이런 순환적인 특성을 살려 순환신경망이라고 한다. 🌱 즉, 문장의 시작에 가 있는 입력 데이터와 문장의 끝에 라는 출력 데이터가 필요하다! 언어 모델 (Language Model) ex) GPT-2 ✔️ 여기서 '나는' 뒤에 '밥을' 은 어떻게 오는 걸까? -> 순전히 운 이라고 할 수 있다. -> '나는' 뒤에 ..