新聞中心news 
兒童手表問(wèn)答毀三觀(guān)暴露了哪些問(wèn)題？
2024-09-10 03:54:54
瀏覽次數：
次
返回列表
兒童手表問(wèn)答毀三觀(guān)暴露了哪些問(wèn)題？近日，有家長(cháng)在社交媒體爆料稱(chēng)，女兒使用360手表的“語(yǔ)音問(wèn)答”功能，向手表提問(wèn)“中國人是世界上最聰明的人嗎”，手表給出的答案把她和家里人都嚇到了：“因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大……”
這樣的回答屬實(shí)“毀三觀(guān)”，但這還不是孤例，測試發(fā)現，這款兒童手表還有“四大發(fā)明是捏造的”等雷人回答。對此，360集團董事長(cháng)周鴻祎發(fā)文道歉，稱(chēng)出現問(wèn)題的這款手表是舊版本，沒(méi)有裝入公司的大模型；它不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息來(lái)回答問(wèn)題；正在將軟件升級到人工智能版本。
但問(wèn)題是，正如網(wǎng)友所質(zhì)疑的，如果沒(méi)有家長(cháng)發(fā)現并爆料，企業(yè)是不是永遠也“發(fā)現”不了這一問(wèn)題？對于兒童電話(huà)手表提供的內容，即使是抓取網(wǎng)站上的信息，也應該有規范的語(yǔ)料庫、完善的審核把關(guān)機制。
此前，電話(huà)手表、學(xué)習機等兒童電子產(chǎn)品已經(jīng)多次爆出內容問(wèn)題。比如，某知名品牌電話(huà)手表被曝“誘導未成年人消費”、某平板電腦“自帶應用市場(chǎng)推薦涉黃涉暴內容”等。專(zhuān)為兒童設計的電子產(chǎn)品，提供的內容卻如此“兒童不宜”，實(shí)在令人難以理解，更令廣大家長(cháng)深深擔憂(yōu)。
事后的整改、致歉當然是必須的，更要追問(wèn)的是，這些內容是怎么推送到未成年用戶(hù)面前的，是技術(shù)漏洞還是管理疏忽？是審核過(guò)程中的“漏網(wǎng)之魚(yú)”還是根本沒(méi)有審核機制？
兒童手表企業(yè)售賣(mài)的固然是手表這一硬件，但其中搭載的軟件以及軟件提供的內容，也同樣是手表提供的服務(wù)。不能一邊宣傳手表的“智能”，以及對兒童學(xué)習的輔助功能，另一邊提供的卻是不良信息，甚至試圖用打“擦邊球”的內容來(lái)吸引用戶(hù)。
根據中國產(chǎn)業(yè)研究院發(fā)布的《2022—2027年中國兒童智能手表行業(yè)深度調研及投資前景預測研究報告》，目前智能兒童手表的市場(chǎng)普及率約為30%。也就是說(shuō)，大概每3個(gè)孩子中，就有1個(gè)有電話(huà)手表。面對如此龐大的用戶(hù)市場(chǎng)，不能亂象頻發(fā)、野蠻生長(cháng)。企業(yè)應當承擔起相應的責任，切實(shí)保護未成年人信息安全。
不久前，中央網(wǎng)信辦啟動(dòng)“清朗2024年暑期未成年人網(wǎng)絡(luò )環(huán)境整治”專(zhuān)項行動(dòng)，其中特別提到“設備自帶APP包含可能影響未成年人身心健康的內容，對第三方APP提供的信息內容審核把關(guān)不嚴，存在不良導向內容”等問(wèn)題CQ9電子。相關(guān)企業(yè)不能總等著(zhù)監管部門(mén)、消費者來(lái)發(fā)現問(wèn)題，該有自查自糾的自覺(jué)。
還要提醒的是，盡管人工智能大模型的應用越來(lái)越廣泛，但AI也不是萬(wàn)能的，產(chǎn)品、服務(wù)背后的關(guān)鍵還是人，“將軟件升級到人工智能版本”后，同樣不能忽略?xún)热莅殃P(guān)。
兒童產(chǎn)品就該有兒童產(chǎn)品的樣子，甚至在各方面應該有比普通產(chǎn)品更嚴格的標準，不光要有智能的硬件，更要有安全的軟件和服務(wù)。360兒童手表的此次“翻車(chē)”也再次提醒，企業(yè)要及時(shí)給兒童智能設備裝上安全閥門(mén)，相關(guān)部門(mén)也應將這類(lèi)產(chǎn)品納入常態(tài)化監管范圍，防止不良內容誤導青少年。
