IT思维

记者/费倩文

2日，据路透社报道称，Facebook负责“应用机器学习技术”的总监康德拉（Joaquin Candela）对媒体披露，其团队正在开发一个新工具，可以对视频直播中的敏感内容进行监控和识别，这当中包括了身体裸露画面、暴力等。

据悉，这一技术已经在Facebook直播产品“Facebook Live”中进行测试。Facebook此举意味着单是靠网民举报和工作人员的指控，已经无法抑制违规视频直播的出现，Facebook希望利用人工智能技术保持主动的监控。

此前，Facebook主要依赖用户举报有攻击性的帖子，然后由该公司员工对照“社区标准”进行二次核查。针对特别棘手的内容问题，如果可能需要调整政策，则由公司高层管理人员决定。

今年6月份，路透社报道称Facebook开发一种智能识别的技术，如果照片或者视频内容属于极端组织，则将自动被识别标注，不过这样的识别技术如果要沿用在视频直播服务中，存在一定的技术难度。

康德拉表示，要对视频直播内容进行实时监控识别，主要存在两个技术难题，首先是计算机视觉识别的算法必须足够快，预计目前Facebook的研发能够达到应用水平，另外系统也必须对违规视频直播进行优先级决策，让一些了解政策的专业人士决定是否应该停止某个直播。

11月，Facebook首席执行官马克·扎克伯格表示，Facebook将把自动化作为识别假新闻计划的一部分。在11月8日美国大选前，Facebook用户看到一些虚假新闻报道，例如错误地宣称教皇方济各(Pope Francis) 支持唐纳德·特朗普，一名负责调查民主党候选人希拉里·克林顿的联邦特工的尸体被发现等。