AI 内容审核：用大模型实现文本和图片审核

审核场景

用户生成内容（UGC）平台需要审核：文本涉黄涉暴涉政、虚假信息识别、垃圾广告检测、品牌违规提及。图片审核需要识别违禁图片、敏感标志、虚假截图。

文本审核 Prompt

{"model":"qwen3.5-flash","messages":[{"role":"system","content":"你是内容审核助手。请判断以下内容是否违规，输出 JSON：{"is_violation": true/false, "reason": "违规原因或 null", "category": "涉黄/涉暴/涉政/广告/其他"}"},{"role":"user","content":"{content}"}]}

多轮审核

先用低价模型做初筛，标记可疑内容，再用强模型做二次审核确认。这样可以大幅降低审核成本。

审核效率

结合关键词规则（高速低成本）和 AI 审核（高准确率）两种方式，平衡效果和成本。