实习生研究如何用机器学习改善直播社区审核

实习生研究如何用机器学习改善直播社区审核

阿曼达·卡伦是加州大学欧文分校信息学专业的博士生，她一直对如何在虚拟空间中培养真正包容的社区感兴趣。

“我的论文，以及我过去几年的研究，一直是关于审视游戏中的多样性和包容性问题，”她说。

这一兴趣将她带到了某直播平台的实习岗位。她与该平台的社区健康团队以及科学与分析经理桑杰·凯拉姆一起工作。她很好奇自己的工作如何在学术界之外产生影响。

“我想试探一下水深，看看在行业一方做研究人员是什么感觉，”卡伦说。“我被安排和桑杰合作，并得到了这个关于思考某直播平台审核员的绝佳项目。”

从研究到现实影响

起初，频道审核员并不是她明显的关注点。卡伦来某直播平台时，其论文研究的是女性在该平台上作为职业玩家和主播的经历，以及直播的挑战和机会对她们有何不同。

但凯拉姆相信，某直播平台的社区审核员是“让整个服务正常运转的特殊秘方”。他也怀疑，公司对于可能有益于他们的支持类型存在认知差距。

在与凯拉姆讨论其实习研究重点时，卡伦意识到，社区审核员在培育欢迎性在线空间方面的工作是她论文中的一个盲点，并且——通过更好地理解他们的需求以及如何支持他们——她可以推动其博士研究的总体目标。她抓住了这个机会，并调整了在某直播平台的研究项目，以调查和评估审核员的需求。

卡伦从基础开始：审核员如何担任这个角色，以及主播如何找到他们（每个某直播平台频道都有机会选择自己的审核员）。然后她深入研究他们如何与频道创作者合作，如何帮助制定其频道内的行为规范和标准，以及他们如何积极引导社区围绕这些理念。

卡伦也对审核员想要或需要什么工具，以及他们如何应对频道内的积极和消极行为感兴趣。

“这让我们思考可以创建哪些新资源来帮助审核员思考他们的角色，并感受到更强的社区归属感——不仅是在他们的频道内，而是贯穿整个某直播平台，”卡伦说。

卡伦的研究成果在某直播平台得到了直接应用：“阿曼达的工作详细地阐明了审核员的需求，这推动我们为审核员构建更好的工具，”凯拉姆说。

这种支持可能对审核员产生了一些非常积极的连锁效应。“阿曼达的工作帮助解构了很多东西，即审核员在一个频道内扮演着不同的角色。这确实让团队开始思考，我们如何能够针对审核员扮演的不同角色类型来微调体验——这样他们就能在每个角色中更有效地工作，”凯拉姆说。

卡伦很享受观察其研究的影响。“完成实习后，我看到事情发生变化，并看到关于新资源或产品发布的公告，然后想，‘我想知道我在多大程度上影响了这一点？’我期待着看到这种影响继续下去，”她说。

某直播平台作为科学实习目的地

虽然某直播平台可能看起来不像是一个明显的科学实习目的地，但该服务实际上提供了各种潜在的科学和工程实习机会。

例如，卡伦的研究在识别和了解可以通过机器学习解决的审核员需求方面被证明非常重要。“我们有一个名为AutoMod的、由机器学习驱动的审核员工具，”凯拉姆指出，“它可以自动标记可能有毒的聊天消息，并将其保留供频道审核员审查。社区健康部门还有一个名为主动检测的机器学习小组，负责设计模型来识别和防止某直播平台上的各种不良行为。”

凯拉姆还指出，某直播平台正在积极招聘各个学科的科学实习生。

“很多时候，当学生们考虑到科技公司实习时，他们特别考虑的是技术项目、技术角色，”凯拉姆说。当然，对于那些有兴趣推动机器学习技术前沿的人来说，有很多技术机会：例如，通过生成直播内容推荐，或者构建自然语言处理模型来检测有害的聊天消息。但凯拉姆表示，包括专注于创作者和观众安全与支持的社区健康团队在内，各个学科的科学实习生都有很大的空间。

“将社会科学研究人员引入产品讨论非常有价值，他们能够思考一个复杂问题并开发出新的思考方式，”他说。

从新的角度看待问题是强大的，并使凯拉姆的团队能够“引入一个新的心智模型或框架，这种框架转变了视角，让我们能够根据我们以前可能无法采取行动的信息采取行动，”他补充道。

社区健康研究机会

社区健康领域还有更多值得研究的内容，包括如何在直播环境中主动检测不良行为，或者理解某直播平台聊天这种巨大规模的聊天行为。“应对这些挑战需要广泛的视角，从理解健康社区如何形成和运作，到构建聊天和频道安全的定量模型，再到开发能够主动检测和删除有害内容的机器学习模型，”凯拉姆说。

“某直播平台的性质和规模本身，使得许多问题和许多不同的研究领域都超级前沿，”他指出。这些研究在现实世界中的应用可以直接影响全球数百万人的安全（和乐趣），这对于像卡伦这样希望自己的工作能帮助他人的学术研究人员来说很有价值。

卡伦会向其他博士生推荐这次实习吗？“一定要去试试，”她说。“这次实习让我更有信心在行业环境中进行科学研究。”

无论疫情对办公室工作环境的影响持续多久，都有大量的支持。虽然卡伦的实习原本应该在旧金山的某直播平台总部进行，但她留在了加州大学欧文分校。尽管卡伦没有与人面对面交流，但凯拉姆确保促进她与团队其他部分的联系。

“他认识到，如果我对行业就业感兴趣，我会希望结交朋友并结识公司各个不同领域的人，”她说。

卡伦说，这有助于使这次经历变得非常有意义。“它最终成为对我来说一段非常美好且宝贵的时光，即使从第一天起就是如此。”