在线平台和虚拟世界已成为青年发展，社会化和学习的重要空间。 儿童和青少年在网络通信环境中成长，他们利用数字工具表达自己的创造力，寻求信息并建立关系。 他们参加了不同规模和主题的“网络公众”，与同伴和导师进行交流，分享他们创建的内容，并参加诸如玩游戏和交换有关特定主题的信息等公共活动（Ito等，2011； Kafai ＆Fields 2013； boyd 2014； Jenkins，Ito和Boyd 2015）。
尽管参与在线平台和网络公众为学习，身份开发和联网提供了机会，但这样做也带来了一定的风险。 父母和其他成年人对这些数字空间（尤其是网络欺凌）中有害言论的存在表示担忧。 网络欺凌是对线下欺凌行为的一种扩展，它包括使用数字工具来伤害他人，并在主流媒体中引发了许多有关儿童安全的讨论（Palfrey和Gasser 2008； Schrock和boyd 2011； Livingstone等。 2014; Hinduja＆Patchin 2014）。
面向青年的在线平台以不同的方式对待有害言论。 尽管某些经过严格审核的平台试图通过限制表达创意的机会（例如，在Kart Kingdom和Club Penguin中预先编写的聊天消息）来最大程度地降低风险，但其他平台则采取了“不放任不管”的做法，即使这种做法会导致卑鄙和粗鲁内容（例如4chan，MemeGenerator）。 在这些相互竞争的观点之间是Scratch，这是由MIT媒体实验室的终身幼儿园研究小组于2007年推出的面向青年的非营利平台。 该平台允许用户创建和共享交互式多媒体项目，并跨项目，工作室评论和论坛等多个空间发布基于文本的消息（一种异步通信形式）。
Scratch是一个成功的例子，说明在线社区如何减少有害言论的发生率并促进民间对话，同时扩大规模，并促进青年的代理和创造性表达。 *该平台已实施了一种治理策略，该策略将主动和被动的审核（通过内容管理和过滤）与对社会有益的规范的培养和社区意识相结合。 这种混合策略使Scratch成功地处理了有害的语音，从而降低了语音的发生率和流行度。 特别是，它允许成年主持人和年轻社区成员规范不文明的行为，例如垃圾邮件，骚扰并发布卑鄙，粗鲁，不适当或亵渎的内容。
临时指导原则
建立清晰，简短且对年轻人友好的社区准则一直是培养支持性和安全性社区的关键。 指南列出了社区所有成员共享和遵循的一组核心价值观或指导原则。 正如一位Scratch主持人在“全民编码”项目（由MIT媒体实验室，UC-Irvine的DML研究中心和Berkman Klein互联网与社会中心之间的合作）接受采访时向我解释的那样，社区准则很容易被所有年龄段的年轻人“吸收”并“拥有”。
该准则包含六项简短的指导原则：（1）尊重他人； （2）具有建设性； （3）分享； （4）将个人信息保密； （5）诚实； （6）帮助保持网站友好。 鼓励平台的所有新用户在加入时阅读社区准则，并且会收到自动消息，提醒他们在开始发布其第一条评论和帖子时要“恭敬地评论”。 如果新用户尝试创建使用系统检测到的非建设性或不适当语言的注释，则会收到一条自动消息，阻止其发布。 告诉他们他们的评论“可能是卑鄙或不尊重”，他们需要阅读社区准则； 并在其中提醒您“要友善”。该指南可在平台上找到，可通过所有页面底部的链接进行访问。
尊重他人，保持网站友好性以及建设性尤其是直接解决有害言论的核心价值观。 任何破坏这些价值的内容都将通过复杂的审核计划删除，该计划包括成人主持人，自动软件过滤器和年轻的社区成员。 根据我采访的四位Scratch主持人的说法，关于Scratch的有害言论最常见的例子是垃圾评论，其次是刻薄和粗鲁的评论，这些评论无建设性和不当之处（通常是亵渎或咒骂）。 尽管仇恨言论和骚扰的情况很少见，但如果出现仇恨言论和骚扰的话，会立即受到审核系统的审查。 正如一位主持人向我解释的那样，在Scratch上出现的少数网络欺凌案例是在现实生活中彼此了解并将冲突从学校带入在线平台的用户。
Scratch的核心价值观促进了善良和包容性，成为一个平台，用户的年龄，种族，性取向，性别认同和宗教信仰各不相同。 它们使青年人能够参与民间对话，并以负责任的态度参与建设安全的空间。 随着社区成员“吸收”指导原则，他们积极参与了准则的自行传播。 社区成员自称为Scratchers，他们行使自己的代理权，设计了多媒体项目，以创意方式解释社区准则（有数百个项目专门用于解释准则）。
串联审核：成人版主+抄写员
为了有效地管理增长并增强社区意识，Scratch部署了一个治理和节制系统，在该系统中，成年人和青年双方都可以利用各种社会技术工具来参与社区法规的规范，监测和执行，同时利用各种社会技术工具。高度透明（所有用户生成的内容都是公开的）。 正如Scratch社区经理在我们的一次采访中指出的那样，“节制与Scratchers齐头并进。”
Scratch小组有16位成人主持人，其中包括一名社区经理和一名社区协调员，他们所有人都积极参与管理。 这些成年人在Scratch拥有全职和兼职的有偿工作，并负责管理平台上产生的所有论述。 他们借助自动软件过滤器来做到这一点，该软件过滤器使用指定的单词和短语列表来检测有害的语音，并且还为标记了违反社区准则的内容的用户提供帮助。 当成人版主审核已标记的内容时，他们将评估其是否违反社区准则。 如果确实如此，则该内容被认为是有害的语音，将其从平台中删除，主持人向创建该内容的用户发送私人警报。 主持人还禁止反复违反该准则的用户，在极少数情况下，会通过电子邮件与家长进行交流，以恢复被阻止的帐户。
社区的年轻成员通过标记平台上发布的不当内容来为审核计划做出贡献。 从项目和工作室评论到论坛帖子，共享内容的所有空间均具有Scratchers可以用于报告的按钮，每天生成大约200–300个用户报告。 此外，Scratchers还通过使用“社区准则”作为民间对话的工具来进行节制，在同行的项目和工作室中发表评论时参考具体原则，在讨论论坛中发表评论时引用参考准则。
结论
从头开始是治理策略如何建立安全，积极和多样化的面向青年的在线平台并减少有害言论的成功例子。 事实证明，将主动内容管理和过滤与社区意识的培养相结合的混合策略的实施非常有效。 具体来说，Scratch已在两个关键方面取得了长足发展：1）建立了一个审核计划，其中成人主持人和社区成员都通过自动软件过滤器主动监视平台，以及2）通过采用和倡导清晰的核心来支持社区参与价值观。 这种组合方法在减少有害言语的发生方面非常成功，同时还支持青年人的代理，言论自由，学习和创造力。
* 如今，Scratch推出已有10年，如今已发展到拥有1700万用户，并拥有儿童产生的大量基于文本和多媒体的内容。 该平台已被翻译成40多种语言，其用户来自世界各地，年龄在8至16岁之间。 根据 Scratch Stats页面的数据 ，在2017年2月期间，有822,667个新项目和3,039,859个新评论。 自2007年以来，社区成员（总计17,777,432个注册用户）分享了21,594,894个项目，并发布了110,195,916则评论。
本文是伯克曼·克莱因（Berkman Klein）“有害言论在线观点”系列的一部分。 要阅读完整的收藏集，请访问 cyber.harvard.edu/publications/2017/08/harmfulspeech
参考文献
博伊德角 （2014）。 这很复杂：网络青少年的社交生活。 纽黑文：耶鲁大学出版社。
Hinduja，S.和Patchin，JW（2014年12月23日）。 什么是网络欺凌？ 取自http://cyberbullying.org/what-is-cyberbullying
伊藤·M·鲍默·S·比坦蒂·M·博伊德·D·科迪·R·赫尔·斯蒂芬森·B·霍斯特·HA·兰格·PG·马亨德兰·D·马丁内斯·KZ·帕斯科，CJ，Perkel，D.，Robinson，L. Sims，C.和Tripp，L.（2010）。 闲逛，四处逛逛和欣赏。 马萨诸塞州剑桥市：麻省理工学院出版社。
Jenkins，H.，Ito，M.和Boyd，D.（2015年）。 网络时代的参与式文化：关于青年，学习，商业和政治的对话。 马萨诸塞州马尔登：政体
Kafai，YB和Fields，DA（2013）关联游戏：虚拟世界中的补间。 剑桥，。 MA：麻省理工学院出版社。
Livingstone，Sonia，Mascheroni，Giovanna，Ólafsson，Kjartan和Haddon，Leslie（2014年） 儿童的在线风险和机遇：EU Kids Online和Net Children Go Mobile的比较发现。 欧盟儿童在线，伦敦政治经济学院，英国伦敦。
Palfrey，J.和＆Gasser，U.（2008）。 生于数字化：了解第一代数字原生代。 纽约州纽约：基础书籍。
Schrock，Andrew和danah boyd（2011）。 “在线有问题的青年互动：征求，骚扰和网络欺凌”。在个人关系中以计算机为媒介的交流中（Kevin B. Wright和Lynn M. Webb编辑）。 纽约：彼得·朗（Peter Lang）。
