简单说一下吧，因为很多具体内容是保密的。
应该说，Instagram 被 facebook 收购后，获益最大的便是 anti-spam （在Facebook叫Site Integrity）部门。Instagram 瞬间获得了 facebook 多年摸爬滚打习得的经验和技术。
目前，Instagram 的机制可以说是比较复杂的，既有简单粗暴的关键词过滤（在程序代码里 hard code 了若干极为敏感的词汇，主要是儿童色情方面），也有复杂的 data science
具体来说，大概有几个方面
1. Instagram 程序内有关键词屏蔽，也有基于 Naive Bayes 的 classifier。但这些都太小儿科了。
2. Instagram 和 Facebook 的系统有连接。Facebook 有一套成熟的系统可以自动判断每一个 user action 是否应该允许。这是 Facebook 的 data scientists 辛苦劳动的成果。Facebook 的 Site Integrity Team 有若干工程师和 data scientist 专门负责 Instagram 的事务。
3. Instagram 有我认为最好的 community manager，他们的工作便是最优秀的内容能够浮现，最劣质的内容尽快消失。
4. Instagram 有一些比较严厉、容易误报的备用措施（主要是和旧版本的兼容问题），在常规时候不会拿出来，但在高危时刻会启用，比如黑客攻击
5. 有一些事务，比如色情视频，有成熟的第三方解决方案。
6. 最后，如果有大规模有组织的攻击，工程师会严阵以待，想方设法解决。比如，这是我工作期间的一次：Spammers show they give a fig about Instagram, launch fruit-based attack 。经过排查，我们认为黑客使用了某网站（当然不是 FB）泄漏的数据库。所以我们关闭了邮箱登录。
— 完 —
本文作者：Zhu Jingsi
【知乎日报】
你都看到这啦，快来点我嘛 Σ(▼□▼メ)
