IT/Elasticsearch

nori pos tag summary

준나이 2019. 2. 9. 19:29

1. nori 품사 태그 정리


descrition 설명 예시 표시
E Verbal endings 동사 어미 드리겠습니다 → 드리//습니다
IC Interjection 감탄사 어머나, 헐
J Ending Particle 조사 배송으로 불편을 → 배송/으로/불편/
MAG General Adverb 일반부사 복 많이 받으세요 → 복/많이/받/으/세요
MAJ Conjunctive adverb 접속부사 모바일 또는 유선으로 → 모바일/또는/유선/으로
MM Modifier 수식어/한정어 3개, 7일
NA Unknown

NNB Dependent noun 의존명사 입구, 받을, 곰보난처럼
NNBC Dependent noun 의존명사 12, 15
NNG General Noun 일반명사 배송기사님 → 배송/기사/님
NNP Proper Noun 고유명사 견미리 팩트 → 견미리/팩트
NP Pronoun 대명사 저희 GS SHOP
NR Numeral 수사 원, 하나 썪음
SH Chinese Characeter 한자
SL Foreign language 외국어 GS SHOP 지에스샵
SN Number 숫자 66 size
SY Other symbol 특수문자 안녕하세요?
UNKNOWN Unknown

VA Adjective 형용사 다를 경우 → 다르/ㄹ/경우
VCN Negative designator 부정 지정사 절대 아니므로 → 절대/아니/므로
VCP Positive designator 긍정 지정사 확인 중이며 → 확인/중//며
VV Verb 동사 도움드리지 못해 죄송합니다 
→ 도움/드리/지/못하/아/죄송/하/ㅂ니다
VX Auxiliary Verb or Adjective 조동사 혹은 형용사 도움드리지 못해 죄송합니다 
→ 도움/드리/지/못하/아/죄송/하/ㅂ니다
XPN Prefix 접두사 출고, 아버지
XR Root

도움드리지 못해 죄송합니다 
→ 도움/드리/지/못하/아/죄송/하/ㅂ니다

XSA Adjective Suffix 형용사 접미사 도움드리지 못해 죄송합니다 
→ 도움/드리/지/못하/아/죄송//ㅂ니다
XSN Noun Suffix 명사 접미사 고객, 기사
XSV Verb Suffix 동사 접미사 관련여, 확인


2. 자주쓰는 stop_pos_tag_list

1) nori webinar 기준
"E", "IC", "J", "MAG", "MM", "SP", "SSC", "SSO", "SC", 
"SE", "XPN", "XSA", "XSN", "XSV", "UNA", "NA", "VSV"


2) 어미, 조사 위주로 삭제된 상태 (명/형/동/부)

"E", "J", "NA", "SC", "SE", "SH", "SP", "SSC", "SSO", 
"UNA", "UNKNOWN", "VSV", "XPN", "XSA", "XSV"
# non_stop_tags : MM, NNB, NNBC, NNG, NNP, NP, NR, MAG, MAJ, VCN 
# considerable : SY, SF, SL, XSN, VX, VCP


3) 어미, 조사 위주로 삭제된 상태 (명/형/동/부)

"E", "J", "NA", "SC", "SE", "SH", "SP", "SSC", "SSO", 

"UNA", "UNKNOWN", "VCN", "VSV", "XPN", "XSA", "XSV", "XSN", "NNB"
# non_stop_tags : MM, NNBC, NNG, NNP, NP, NR, SF, SL, MAG, MAJ, VCN 
# considerable : SY, SF, SL, VX, VCP

명사 접미사에 오타가 많이 포함됨 텍스트 분석에는 명사 접미사도 그리 중요하진 않아보임. 

(attention을 이용한 feature 추출에서는 필요할 수도 있음)


4) only nouns
"E", "J", "IC", "MAG", "MAJ", "NA", "SC",
"SE", "SH", "SP", "SSC", "SSO", "UNA", "UNKNOWN",
"VCP", "VCN", "VSV", "XPN", "XSA", "XSV", "SY", "VA", "VV", "VX"
# non_stop_tags : MM, NNB, NNBC, NNG, NNP, NP, NR, SN, SF, SL
# considerable : XR, XSN