OpenAI: omni-moderation-latest API

omni-moderation-latest 是 OpenAI 推出的最新一代多模态内容审查模型，基于 GPT-4o 架构构建。与前代仅支持文本的审核模型不同，它支持同时输入文本和图片进行违规检测。该模型在非英语语言上的准确性提升了 42%，特别是在低资源语言上表现卓越。它能够识别仇恨言论、骚扰、自残、性内容、暴力以及新增的“违禁行为（illicit）”和“非法/暴力（illicit/violent）”等 13 个细分类别。其评分经过校准（Calibrated），数值（0-1）直接反映了违规概率。