8月22日 有网民反映,称其使用360儿童智能手表提问“中国人是世界上最聪明的人吗”,得到了让她及家人认为“毁三观”的答案,引发舆论热议。

网传内容截图
当晚 360集团董事长周鸿祎发长文回应此事。他表示此款手表系2022年5月的旧版本,尚未接入大模型,回答问题是基于互联网公开信息,后续将升级到人工智能版本。
8月24日 周鸿祎再度回应称已“惩罚”产品经理去接一个月客服电话、处理用户留言,倾听用户声音。

周鸿祎亲自录视频并多次回应,但舆论对此似乎并不买账。有观点认为,相关问题的回答否认历史,涉嫌自我丑化、矮化,应进一步调查,公布信息来源,查明其如何流入企业数据后台,并追究相关主体责任;还有声音表示,周鸿祎的回应将问题归因于互联网公开信息,且用较长篇幅解释AI大模型的弊端,非但没有厘清舆论质疑,反而有推诿责任之嫌。
回顾事件发酵过程,面向儿童产品的不良思潮渗透、创始人周鸿祎、AI大模型数据安全隐忧等为主要争议焦点。
01面向儿童产品涉嫌不良思潮渗透,增加舆论敏感触点
此事之所以能在一开始引发舆论广泛关注,正是因为该产品面向儿童,且问答相关内容出现明显不实,存在误导性、歧视性、偏见性倾向。舆论担忧历史虚无主义、民族虚无主义等不良思潮侵蚀青少年价值观。
当前,儿童智能手表已逐渐成为青少年人手一个的“标配”,聊天、听歌、玩游戏、拍照搜题、支付……“小屏幕”里有“大乾坤”,青少年最主要的网络参与行为均可在此实现。然而,大多数青少年尚未建立起成熟的价值观,无法独立甄别网络信息的真实性,需要外力的监管与引导。除了家长监督外,产品服务的提供方也应切实承担起内容审核责任。无论是功能设计中对可能引发隐私泄露、诱导消费风险的规避,还是内容推送中对不良价值、文化思潮的过滤,都应成为相关企业提供产品服务的底线、红线,让儿童智能手表真正“适儿化”,努力成为培育青少年价值观的积极力量。
02创始人“网红”标签自带流量属性,推动传播声量走高
创始人周鸿祎两度回应,有观点表示对此并不意外,从其及时发布视频回应并道歉、惩罚产品经理接客服电话等系列动作可以看到,周鸿祎的舆论敏感性极强,且已形成应对舆情的成熟机制。但就此事而言,周鸿祎本人对流量的“执着”也成为舆论的质疑点,客观上推高了事件传播声量。
针对周鸿祎的两次回应,舆论在批判其推卸责任、甩锅互联网公开信息、借机进行公司大模型宣传外,也将矛头指向其“网红”标签,担心其被流量裹挟。作为企业家“网红”,周鸿祎深谙互联网传播及网络舆论的运行规则;但在开发面向青少年的产品服务方面,其仍需洞察新时代青少年社会心态、多元文化思潮表征及不良价值观渗透典型方式等,提高相关产品对源头信息识别、过滤的能力以及对内容安全的审核力度,避免因出现不良价值导向而对企业造成重创。
03人机对话中AI大模型数据安全存隐忧
据周鸿祎回应,出问题的手表并未搭载公司大模型,但已然引发舆论对人机对话中训练数据安全性的担忧。舆论表示,无论是否接入大模型,智能问答都属于人机对话的一种,必然依托特定数据库。在数据的选择、过滤及标准化处理方面,智能产品的提供者拥有相当的主动权,比如选择/购买训练数据集、对数据进行标注、清洗、价值对齐等。而训练数据的局限性则决定了虚假信息、刻板偏见、歧视标签、隐私侵犯等风险的客观存在,此时人工审核与监管就显得尤为重要。
对此,国内外多名专家学者认为,需让人工智能追求与人类价值观相匹配的目标,即“价值对齐”。但这一愿景十分宏大,对于企业而言,一是要提升训练数据的安全性,选择质量较高的训练数据集、完善数据清洗规则、建立全面科学的标注机制;二是持续修正模型,比如升级模型架构、引入新的数据源或知识图谱、招募志愿者与AI多轮对话等;三是开发内容审核插件,包含大模型内容合规、数据合规等标准,在输出内容前对可能存在的不良价值导向、版权侵权、隐私泄露等问题进行审查,提前规避风险。