← Back to list

⚠ English version coming soon — showing the Chinese original.

Quant System

OpenClaw 舆情助手工作报告

基于 OpenClaw 的社交媒体舆情监控与热度分析系统:对话式操作完成新闻采集、智谱 Embedding 语义聚类(Leader 算法,阈值 0.85)、热度排名与飞书推送,零外部依赖易部署。

#舆情监控#NLP#OpenClaw

报告日期 2026-03-17。项目名称:基于 OpenClaw 的社交媒体舆情监控与热度分析系统。

一、系统概述

1.1 系统定位

OpenClaw 舆情助手是一个 AI 驱动的自动化舆情监控与分析系统,通过自然语言对话即可完成新闻采集、语义聚类、热度排名的全流程操作。

核心价值:

  • 无需编程,对话式操作
  • 自动去重,避免重复信息干扰
  • 热度排名,快速识别热点话题

1.2 系统架构

数据流程: 数据采集(CoinDesk)→ 语义分析(智谱 Embedding)→ 热度排名(聚类统计,SQLite 数据库 → 向量去重聚类)→ 飞书群推送。

二、核心技术选型

2.1 为什么使用 Web-Pilot 搜索 Skill?

对比项Web-Pilot传统爬虫
反爬虫应对自动处理需手动维护
动态内容支持 JS 渲染静态页面限制
维护成本低(服务级)高(页面变化需改代码)
部署复杂度即插即用需配置环境

结论:Web-Pilot 作为 OpenClaw 生态的搜索 Skill,开箱即用,稳定可靠。

2.2 为什么选择智谱 Embedding 而非本地 BERT?

对比项智谱 embedding-2本地 BERT
部署复杂度API 调用,零部署需配置 PyTorch、GPU 环境
硬件要求无 GPU 需求需要 GPU 加速
模型大小无本地存储数 GB 模型文件
响应速度秒级响应受本地硬件限制
中文支持针对中文优化需选用中文模型
模型更新自动更新需手动重新部署

决策过程:

  • 原计划:使用本地 BERT 模型(sentence-transformers)
  • 遇到问题:容器内依赖冲突(PyTorch、safetensors 版本不兼容)
  • 重新评估:智谱 embedding-2 提供相同能力的 API 服务
  • 最终选择:API 方案,降低运维成本,提高稳定性

技术参数:

  • 模型:embedding-2(BERT 系列)
  • 向量维度:1024
  • 相似度计算:余弦相似度

2.3 为什么选择 Leader 聚类算法?

当前采用 Leader 算法(顺序聚类)。算法原理:按顺序遍历数据,每个未访问点作为「领导者」,与领导者相似的点归为同一类。

算法优点缺点适用场景
K-Means速度快需预设 K 值,迭代收敛已知类别数量
DBSCAN发现任意形状,识别噪声参数敏感(eps、minPts)空间聚类、有噪声数据
层次聚类树状结构,可视化计算量大 O(n³)小数据集分析
Leader(我们用的)简单快速,单次遍历结果依赖数据顺序实时聚类、新闻去重

Leader 算法的优势:

  • 单次遍历:O(n²) 但无需迭代,比 K-Means 更快收敛
  • 无需预设 K:聚类数量自动确定,由数据决定
  • 单参数控制:只需设置相似度阈值(0.85),业务可解释
  • 增量友好:新数据可以直接归类到现有聚类
  • 代码简洁:核心逻辑精简,易维护
  • 结果稳定:相同输入产生相同输出,便于调试

选择理由:

  • 业务场景匹配:新闻舆情监控,关键是快速去重和热点发现
  • 数据规模合适:每日新闻 <1000 条,O(n²) 完全可接受
  • 实时性要求:用户对话触发,需要秒级响应
  • 运维简单:无需调参,阈值 0.85 直观易懂

聚类流程:

  1. 取第一条新闻作为「领导者」
  2. 计算与其他新闻的余弦相似度
  3. 相似度 ≥ 0.85 的归为同一话题
  4. 重复处理剩余未分类新闻
  5. 按话题内新闻数量排序(热度)

三、系统功能

3.1 对话式操作

用户在飞书群发送自然语言即可触发分析:

用户:@openclaw舆情助手 分析舆情 系统:自动执行采集→聚类→排名→输出报告

3.2 输出示例

[今日舆情热度榜 2026-03-17][按话题热度(相关新闻数量)排名]

  • No.1 Crypto trading firm BlockFills files for bankruptcy —— 相关新闻 2 条,热度值 100
  • No.2 Institutions had ‘diamond hands’ during bitcoin’s 50% pullback —— 相关新闻 2 条,热度值 100

[统计摘要] 原始新闻 27 条,合并话题 24 个,最热话题 2 条新闻;模型:智谱 embedding-2,阈值:0.85。

四、技术实现

4.1 核心组件

组件技术说明
AI 平台OpenClaw对话式 AI 控制中心
向量模型智谱 embedding-2语义向量化
数据存储SQLite轻量级关系数据库
编程语言Python 3 标准库零依赖,易部署

4.2 代码特点

  • 零外部依赖:仅使用 Python 标准库(urllib、json、sqlite3)
  • 自研向量运算:纯 Python 实现点积、范数、余弦相似度
  • 容器友好:无需 pip install,直接运行

五、应用场景

  • 每日舆情早报:定时采集、分析、推送
  • 热点事件追踪:按新闻数量识别最热话题
  • 竞品监控:关注特定关键词的新闻聚合

六、下一步计划

阶段内容状态
MVP 完成采集 + 聚类 + 排名已完成
飞书测试对话式操作验证进行中
定时任务Cron 自动化待配置
数据源扩展微博、Twitter、Reddit待开发

七、总结

OpenClaw 舆情助手通过对话式 AI、语义聚类、热度排名三大核心能力,实现了零门槛的舆情监控。系统采用智谱 embedding-2 替代本地 BERT,大幅降低了部署和运维成本,为后续扩展奠定了坚实基础。


免责声明:本报告仅为策略研究记录与教学交流,不构成任何投资建议。市场有风险,投资需谨慎。