题目
用户评论情感分类系统的设计与优化
信息
- 类型：问答
- 难度：⭐⭐
考点
文本预处理, 模型选择与评估, 类别不平衡处理, 模型部署
快速回答
构建用户评论情感分类系统的关键步骤：
- 文本预处理：清洗数据、分词、去除停用词、向量化
- 模型选择：使用BERT或LSTM处理序列数据
- 不平衡处理：采用Focal Loss或过采样技术
- 评估指标：优先选用F1-score而非准确率
- 部署优化：模型蒸馏或ONNX转换加速推理
问题场景
需构建情感分类系统处理电商评论（正面/负面/中性），数据集分布：正面60%、负面10%、中性30%。要求设计可部署的解决方案。
核心解决方案
1. 文本预处理
原理说明：将原始文本转化为模型可处理的数值特征
- 清洗：移除HTML标签、特殊字符
- 分词：使用Jieba(中文)或NLTK(英文)
- 向量化：TF-IDF或Word2Vec
代码示例：
from sklearn.feature_extraction.text import TfidfVectorizer
# 中文分词示例
import jieba
def chinese_tokenizer(text):
return list(jieba.cut(text))
vectorizer = TfidfVectorizer(tokenizer=chinese_tokenizer, max_features=5000)
X_train = vectorizer.fit_transform(train_texts)2. 模型选择与训练
最佳实践：
- 基础模型：LSTM/BiLSTM处理序列依赖
- 进阶选择：BERT微调（适合资源充足场景）
- 轻量方案：TextCNN（部署友好）
代码框架：
# PyTorch LSTM示例
import torch.nn as nn
class SentimentLSTM(nn.Module):
def __init__(self, vocab_size, embed_dim, hidden_dim, n_layers):
super().__init__()
self.embedding = nn.Embedding(vocab_size, embed_dim)
self.lstm = nn.LSTM(embed_dim, hidden_dim, n_layers, batch_first=True)
self.fc = nn.Linear(hidden_dim, 3) # 3个输出类别
def forward(self, x):
embeds = self.embedding(x)
lstm_out, _ = self.lstm(embeds)
return self.fc(lstm_out[:, -1, :])3. 类别不平衡处理
解决方案对比：
| 方法 | 适用场景 | 实现复杂度 |
|---|---|---|
| Focal Loss | 高度不平衡数据 | 中 |
| SMOTE过采样 | 中小型数据集 | 低 |
| 类别权重 | 快速实现 | 低 |
Focal Loss实现：
# Focal Loss公式：FL(p_t) = -α(1-p_t)^γ log(p_t)
class FocalLoss(nn.Module):
def __init__(self, alpha=0.25, gamma=2):
super().__init__()
self.alpha = alpha
self.gamma = gamma
def forward(self, inputs, targets):
ce_loss = F.cross_entropy(inputs, targets, reduction='none')
pt = torch.exp(-ce_loss)
return (self.alpha * (1-pt)**self.gamma * ce_loss).mean()4. 评估指标
为什么不用准确率：当负面样本仅占10%时，全预测正面可获得90%准确率
- 核心指标：加权F1-score（考虑类别分布）
- 辅助指标：混淆矩阵、AUC-ROC（二分类场景）
5. 部署优化
最佳实践：
- 使用ONNX将PyTorch/TF模型转换为轻量格式
- 对BERT模型进行知识蒸馏
- 添加缓存层处理高频重复查询
常见错误
- 数据泄露：预处理时使用整个数据集统计信息
- 过拟合：对小样本类别使用过度复杂模型
- 评估陷阱：仅依赖准确率评估不平衡数据
扩展知识
- 领域适应：使用ULMFiT处理垂直领域评论
- 少样本学习：Prompt Tuning技术提升小类别识别
- 可解释性：集成SHAP解释模型预测依据
