UpScrolled的社交网络在快速增长后难以监管仇恨言论

Source: TechCrunch

UpScrolled，一个在美国 TikTok 所有权变更后迅速走红的社交网络，正面临严重的内容审核问题。在一月用户数增长至超过 250 万后，用户报告称该应用未对包含种族辱骂的用户名和标签采取行动，并且在适当审核有害内容方面举步维艰。

增长与用户基础

• 成立于 2025 年，UpScrolled 声称赋予每个声音 “平等的力量”。
• 根据市场情报提供商 Appfigures，该平台自 2025 年 6 月以来在 iOS 和 Android 上累计下载量已 超过 400 万次下载，超出该初创公司自行报告的数字。

内容审核问题

用户名和标签

TechCrunch 在收到 UpScrolled 用户的提示后，确认在用户名中出现了大量种族辱骂词和仇恨言论。示例包括：

• 完全由辱骂词组成的用户名。
• 将辱骂词与其他词汇组合的用户名。
• 包含多个辱骂词的用户名。
• 明确的仇恨言论，例如 “Glory to Hitler”。

与照片或视频帖子一起的标签和文字也出现了类似的辱骂词和极端主义语言。

其他有害内容

除了用户名，TechCrunch 还发现：

• 包含种族辱骂词和仇恨言论的文字帖子。
• 美化希特勒的照片和视频内容。

这些发现表明，问题遍及整个平台，而不仅限于用户昵称。

Company Response

Initial Email Reply

在向 UpScrolled 的公共邮箱报告违规用户名后，公司回复称正在“积极审查并删除不当内容”，并正在努力扩大其审核能力。邮件还建议在问题解决期间避免与恶意行为者互动。然而，已报告账户的截图显示，违规用户名在数天后仍然在线。

Founder’s Video Statement

该媒体账号随后将 TechCrunch 引导至创始人 Issam Hijazi 在 X 上发布的视频（link）。在视频中，Hijazi 承认用户一直在上传违反 UpScrolled 服务条款的“有害内容”。他表示：

“我们为每个人提供在健康且尊重的数字环境中表达和分享观点的自由。”

Hijazi 补充说，公司正在“快速扩充内容审核团队，并升级技术基础设施，以便我们能够更有效地捕捉并删除有害内容”。

外部观察

• 反诽谤联盟本月发布的博客文章指出，UpScrolled 正日益成为反犹主义和极端主义内容的聚集地，其中包括来自被指定为外国恐怖组织的哈马斯等组织的材料。（ADL 博客）
• UpScrolled 的常见问题解答声明该应用不会“审查观点”，但其政策限制涉及非法活动、仇恨言论、欺凌、骚扰、露骨裸体、未授权的受版权保护材料或任何旨在造成伤害的内容。

与其他平台的比较

UpScrolled 面临的内容审核挑战在快速增长的社交网络中很常见。例如，Bluesky 在 2023 年 7 月处理了账户用户名中出现的辱骂性词汇激增，这导致用户的强烈反弹并威胁要离开平台。(TechCrunch article)