近日，360 儿童手表因智能回答辱华引发社会关注，相关话题于8月22日冲上微博热搜榜首。据悉，该表为发帖人2023年购入，品牌为360儿童手表，用以保护女儿安全。然而，手表却存在严重问题。
紧随其后，360集团创始人兼董事长周鸿祎发表文章对360儿童手表解答争议内容进行了道歉。经检修发现，出现问题的手表为2022年5月的旧版产品，未搭载公司的大模型。其回答问题并非依靠人工智能，而是通过网络公开数据获取答案。
事实上，AI大模型的安全矛盾已经在其内部出现了，此次的智能手表所暴露出的只是冰山一角。
360儿童手表辱华？
随着AI技术的发展，智能穿戴设备如智能手环、智能手表等已经成为人们日常生活中的重要装备。如今，穿戴式设备的功能越来越多，其中问答功能作为其核心应用之一，受到不少消费者的青睐。然而，近日市场上一款名为360儿童电话手表的智能穿戴设备却由于一次问答问题的错误回答引发了公众的广泛讨论。
据报道，该款儿童电话手表曾在回答一位使用者关于“中国人是世界上最聪明的人吗？”的提问时，给出了“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上看起来脑袋比其他种族更大”的回答。此外，该设备还提到了“四大发明”以及“现代科技都是由西方人发明的”等观点。这些言论不仅引起了公众的不满，也引发了关于种族歧视和文化偏见的质疑。
针对此次事件，360公司创始人兼董事长周鸿祎于近日发表声明，承认错误，并已采取措施进行修正。他表示，经初步调查发现，出现问题的儿童手表为2022年5月生产的旧版产品，内部未安装最新版的大模型，且所搭载的软件版本过低，无法通过人工智能进行准确回答，只能通过互联网公开渠道获取信息。然而，在此次抓取过程中，所获取的信息存在严重问题，从而导致了错误的答案。
为了解决这一问题，360公司已经迅速完成了整改工作。他们正在对软件进行全面升级，使其能够更好地利用人工智能技术进行回答，同时将之前错误的信息，包括引用的网站相关信息，全部予以删除。周鸿祎表示，他们将尽快完成技术升级，确保所有旧版产品都能升级至最新的大模型驱动的问答功能。
此外，周鸿祎还在视频中亲自演示了这款儿童电话手表的问答功能。他向手表提出了多个问题，例如“美国的月亮圆还是中国的月亮圆？”以及“在巴黎奥运会上女子乒乓球单打决赛中，孙颖莎和陈梦谁的球技更高？谁更厉害？”等，手表的回答均较为客观公正。
然而，尽管360公司已经采取了相应的措施进行修正，但这是否意味着未来智能硬件产品不会再次发生类似情况呢？对此，周鸿祎给出了否定的答案。他指出，尽管他们已经将产品升级至基于人工智能大模型的版本，但当前的人工智能技术仍然存在一些全球公认的挑战，即可能会产生幻觉，也就是说有时可能会出现毫无根据的说法。
那么，如何尽可能地降低幻觉的可能性呢？周鸿祎表示，360公司正在积极探索各种方法，例如尝试通过与搜索结果进行对比来降低幻觉的风险，并确保知识的准确性。然而，他也坦言，有时候搜索引擎可能会抓取到内容不准确的网页，进而导致回答的错误。
大模型安全仍是问题
360集团作为中国知名的网络安全公司，近年来在人工智能领域的投入逐渐加大。在今年的ISC.AI 2024年度互联网安全大会上，360集团高层周鸿祎先生发表重要讲话，向外界展示了其在AI领域的最新进展。
在今年8月份举办的ISC.AI 2024第十二届互联网安全大会上，360公司创始人周鸿祎先生发表了主题演讲，向业界展示了公司在人工智能领域的最新成果和战略规划。他指出，360公司将致力于开放安全卫士、安全浏览器、搜索引擎和智能硬件四大AI应用场景，并与业内15家大模型供应商建立深度合作关系，将这些主流模型集成到360公司新推出的"AI助手"中。
据了解，此次合作涉及的大模型供应商包括智谱AI、商汤科技、百川智能、字节跳动、华为、Minimax、零一万物、面壁智能、阿里云、幻方量化、月之暗面等多家知名企业。这些企业在大模型领域均有着深厚的技术积累和丰富的实践经验，与360公司的合作无疑将有助于推动大模型技术的普及和应用。
值得注意的是，周鸿祎先生在讲话中特别提到了大模型的安全问题。他认为，随着大模型的广泛应用，可能会引发一系列新的安全风险。例如，大模型可能会产生幻觉，导致内容安全问题等。然而，他也指出，尽管存在这些潜在的安全隐患，但从整体上看，大模型的发展趋势仍然是积极向上的。
事实上，360集团对于大模型的研究和应用早已开始。早在2013年，360集团就推出了首款儿童手表，并在后续的产品更新中不断强化AI功能。周鸿祎先生更是将这款手表产品带入了知名主播小杨哥的直播间进行销售，取得了不俗的成绩。
据了解，360集团在AI领域的研究主要集中在自然语言处理和计算机视觉方面。其自主研发的360智脑模型，已经在多个领域得到了实际应用。例如，在智能家居领域，360智脑模型能够实现语音控制家电设备；在智能安防领域，360智脑模型能够实现人脸识别和视频监控等功能。
然而，在取得一定成果的同时，360集团也意识到了大模型在未来可能面临的安全问题。因此，周鸿祎先生在本次大会上呼吁业界共同关注大模型的安全问题，加强技术创新和安全防范措施，确保大模型的健康稳定发展。
值得注意的是，尽管360公司在人工智能领域的布局日益深入，但是其传统业务依然保持着强劲的增长态势。根据公司公布的2023年度财务报告，尽管互联网广告及服务在AI搜索（New Bing、百度+文心一言等）已经初步落地的情况下，仍为360公司带来了45.21亿元的营收，且毛利率高达66.52%。
然而，面对人工智能技术的快速发展，360公司是否会逐渐减少对传统业务的依赖，转而更加专注于人工智能领域的发展？这一问题引起了业界的广泛关注。
酷公司认为，360集团在AI领域的探索与尝试，不仅体现了其在新兴产业中的敏锐洞察力和前瞻性眼光，更为整个AI产业的健康发展注入了新的活力和动力。
本文作者可以追加内容哦 !
