脸书、推特和优兔表示,在袭击发生后删除原始视频,但之后的几个小时,人们仍能找到其他人转发的视频。脸书此前称,在新西兰枪击事件发生后的24小时内,他们删除了150万条相关视频,并继续努力删除所有视频。但在此次事件中,这几家社交平台在屏蔽、揭露和删除暴力内容过程中审核和反应的迟钝,受到了公众的强烈质疑。
近年来,流媒体直播服务已成为许多美国社交媒体公司增长战略的核心,但用户直播暴力内容也更加频繁。脸书就承认其审查内容的过程存在缺陷,并承诺将加以改进。
“脸书从一开始就知道,它的流媒体直播服务有可能鼓励和放大人性中最坏的一面,它必须面对自己手上沾满鲜血的事实。”迈阿密大学法学教授弗兰克斯直言,最新的暴行只凸显了一个事实,那就是没有可靠的方式来提供社交媒体直播服务。
现实中,这些社交平台的上亿用户每天都会发布大量内容,目前脸书、推特、优兔等通过算法来识别不良内容,但往往会漏掉一些“篡改题图”、“剪裁尺寸”的视频。脸书还称,他们在旨在检测暴力的人工智能系统上投入了巨资,并雇佣了数万名人工审查员。
人工智能专家表示,目前还没有一种技术能够进行万无一失的检测。机器甚至连识别挥舞枪的人也很困难,因为有许多不同类型的枪,以及握枪的不同姿势。机器也很难区分真实的暴力和虚构的电影。因此专家指出,在控制暴力传播问题上,仅靠平台自身远远不够。
驻美记者 鲁明 (本报洛杉矶今日电)