欢迎访问 生活随笔!

生活随笔

当前位置: 首页 > 编程资源 > 编程问答 >内容正文

编程问答

第07课:动手实战基于 ML 的中文短文本聚类

发布时间:2024/1/23 编程问答 55 豆豆
生活随笔 收集整理的这篇文章主要介绍了 第07课:动手实战基于 ML 的中文短文本聚类 小编觉得挺不错的,现在分享给大家,帮大家做个参考.

关于文本聚类,我曾在 Chat《NLP 中文文本聚类之无监督学习》中介绍过,文本聚类是将一个个文档由原有的自然语言文字信息转化成数学信息,以高维空间点的形式展现出来,通过计算哪些点距离比较近,从而将那些点聚成一个簇,簇的中心叫做簇心。一个好的聚类要保证簇内点的距离尽量的近,但簇与簇之间的点要尽量的远。

如下图,以 K、M、N 三个点分别为聚类的簇心,将结果聚为三类,使得簇内点的距离尽量的近,但簇与簇之间的点尽量的远。

开发环境,我们选择:

  • Windows 系统
  • Python 3.6
  • Jupyter Notebook
  • 本文继续沿用上篇文本分类中的语料来进行文本无监督聚类操作。

    整个过程分为以下几个步骤

    • 语料加载
    • 分词
    • 去停用词
    • 抽取词向量特征
    • 实战 TF-IDF 的中文文本 K-means 聚类
    • 实战 word2Vec 的中文文本 K-means 聚类

    下面开始项目实战。

    1. 首先进行语料加载,在这之前,引入所需要的 Python 依赖包,并将全部语料和停用词字典读入内存中。

    第一步,引入依赖库,有随机数库、ji

    总结

    以上是生活随笔为你收集整理的第07课:动手实战基于 ML 的中文短文本聚类的全部内容,希望文章能够帮你解决所遇到的问题。

    如果觉得生活随笔网站内容还不错,欢迎将生活随笔推荐给好友。