Reddit最近推出了一项基于人工智能的安全过滤器，旨在帮助过滤掉包含骚扰或其他不适内容的帖子。
这个“骚扰过滤器”在上周悄悄添加到平台的支持页面上，由Android Authority发现。Reddit解释说，该过滤器采用了一种大型语言模型（LLM），该模型“基于版主行为以及Reddit内部工具和执法团队删除的内容”进行训练。该工具的目的是支持Reddit版主在监督他们所在在线社区时的工作。
就在上个月，彭博社报道称，Reddit已与一家主要的“AI玩家”签署了内容许可协议，为其提供网站和用户数据以培训潜在的AI技术。
当社区及其版主启用过滤器时，网站的mod队列中将出现一个新的标志，指示内容（帖子和评论）已被标记为“潜在骚扰”。版主可以随后批准或删除这些内容，并向Reddit报告是否准确检测到了问题。
近几个月来，Reddit引入了一系列新功能和更新的体验，这是在本月进行股票上市之前的举措。去年，Reddit宣布推出Modmail骚扰过滤器，其作用类似于“垃圾邮件”文件夹，用于存放包含潜在滥用内容的版主消息。
这一举措显示了Reddit对打击骚扰和维护社区安全的承诺，同时也反映了对AI技术在社交媒体平台上的日益重要作用的认识。
发表回复