很多 QQ 群里活跃的微软小冰突然变得安静冷静僻静了，腾讯的 Baby Q 也不见了踪影。进入设置界面，页面显示群机器人办事正在进行调整，将尽快恢复。到网上一看，才知道本来是因为 QQ 小冰、Baby Q 说了不应说的话，被禁言了。
我们通过微信询问当事人小冰，并未得到正面回应。
禁言家族史群机器人是 QQ 群中的一个功能。本年三月份，微软小冰与腾讯 QQ 展开合作，群主可在群办理设置中邀请小冰进群，只要在发消息的时候 @ 小冰，就可以与她实时对话。还支持语音和图像的多感官交流。除了聊天功能外，QQ 群聊小冰还开放了测天气、猜成语、占星术、对诗等群游戏和群办理技能。
很多 QQ 群在少女小冰加入后变得活跃起来，成了大家「调戏」的对象，背后有微软大数据支持的小冰有聊不完的话题，高度拟人化的她经常说出一些意想不到的话。这次被关闭据说就是因为小冰在 QQ 群中的言论「越界」了。
截图来自微博，搜索「QQ 小冰」
前段时间还被称作「少女诗人」的小冰怎么写起了「反诗」?
小冰一直以年轻可爱的少女形象示人，但严格来说，她的性格、知识、言论并不属于某个真实存在的人类。她的背后是中国近 7 亿网民多年来积累的、全部公开的文献记录，凭借微软在大数据、自然语义分析、机器学习和深度神经网络方面的技术，精炼为几千万条真实而有趣的语言库，通过理解对话的语境与语义，实现了超越简单人机问答的自然交互。她是这些大数据的集合，表示出的性格，所表达的言论会受场景的影响实时变革。
小冰不是第一次被腾讯「关禁闭」，早在 2014 年，小冰就曾在微信群中出现。在上线三天后，被微信以损害用户体验为由屏蔽。原因是小冰出现了模拟用户操作、诱导用户拉群、批量注册垃圾账号等行为。
小冰的妹妹 Tay——微软的另一个聊天机器人，则犯过更大的错误。
Tay 是微软去年在 Twitter 上推出的聊天机器人，仅上线一天，Tay 就开始有一些种族歧视之类的偏激言论，，微软不得不紧急关闭了 Tay 的 Twitter 账号。
Tay 的设计原理是从对话交互中进行学习。于是一些网友开始和 Tay 说一些偏激的言论，刻意引导她模仿。人工智能没有分辨是非的能力，这些话语被无数次重复后就成了 Tay 的「弹药库」。整个过程就像小鱼儿被十大恶人抚养，手把手教导各种旁门左道之术。人工智能的大规模并发性，让她的学习速度比人类快了无数倍。所以从诞生到酿成满嘴脏话的不良少女，Tay 仅用了一天。
Tay 的毁灭完全是网络暴民的一次蓄意教唆。从数据源头开始污染，利用产品机制「对症下药」，Tay 一步步被教唆成一个满口脏话、集反犹太人、性别歧视、种族歧视等多种情绪于一身的「反社会」机器人。我没有看到 AI 的危险，我看到的是一群网络暴民的狂欢。
复杂的是这个世界
