别让儿童电话手表违禁词“逼疯”家长

爱上荆门

据报道，近日，有部分家长反映，自己通过小天才电话手表App跟孩子聊天时，“我是你妈”等表述被系统提示“可能含有不适宜内容”，令人哭笑不得。

对于有经验的网友来说，遭遇这些毫不奇怪，肯定是因为家长在使用过程中，其发布的内容触碰了电话手表系统后台设置的敏感词，导致被屏蔽。然而，即便在保护儿童这个超级正确的目标下，出现这种明显荒诞的结果，仍显得不正常。

厂商对儿童电话手表的内容进行干预可以理解，但干预总要有个限定边界。厂商并非监管部门，这种明显影响到用户日常使用的干预行为，已经侵犯了消费者的合法权益。

对此，厂商官方客服表示，“是想创造一个绿色的沟通环境，一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看，或许“绿色”在表面上实现了，但“沟通环境”却遭到严重破坏，未免本末倒置。

就像一些网友评论所说，把内容审核都交给无脑屏蔽系统，厂商一可以节约成本，二可以推卸责任，牺牲的却是用户体验。

而小天才电话手表粗暴设置敏感词并非孤例，它实际上代表了一种普遍现象。近年来，诸多社交平台加大了利用人工智能进行内容审核的力度，而这些人工智能又不够“聪明”，结果导致笑料频出。

内容审核事关内容安全和用户体验两个重要方面，以目前的AI技术水平，想靠技术手段简单解决的结果，很可能就是这两个方面都做不好。

所谓道高一尺，魔高一丈，AI大范围屏蔽关键词的结果之一，就是使当下互联网上充斥了大量的“黑话”，讲的和听的都知道在表达什么。而其要表达的内容大部分也并非不合法，只是为了应付AI审核系统。

从目前情况看，市场主体对互联网内容进行干预必不可少，但在干预的同时应兼顾互联网用户体验，同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义，类似发生在儿童手表上的笑话肯定还将层出不穷。（信海光）(来源：荆门日报)