ckip詞向量

Jieba 是一款使用Python (或者說在Python 上最知名的？) 的一款開源中文斷詞工具，當然它也有支援許多不同的NLP 任務，比方說POS、關鍵字抽取.

中文斷詞. 任何語言處理的系統都必須先能分辨文本中的詞才能進行進一步的處理，例如機器翻譯、語言分析、語言了解、 ... CKIP Transformers — 語言模型與NLP 任務工具.

今天要介紹的這個算是很知名的中文斷詞工具，這個是大陸人發明的工具，並且將其開源在GitHub 上，而且有積極維護中，非常不錯。

處理中文文本的研究者，常常需要先把中文的連續文字切割成一個個分開的詞彙，這樣才能進一步以軟體工具來處理。這一工作稱為斷詞、分詞或者切詞。 中文斷詞不容易做得 ...