新聞中心news 
兒童手表頻現“毒信息” 數據污染隱患需加強審核力度
2024-09-05 17:58:33
瀏覽次數：
次
返回列表
兒童手表頻現“毒信息” 數據污染隱患需加強審核力度近日，有網(wǎng)友發(fā)視頻稱(chēng)，當他向某品牌兒童手表詢(xún)問(wèn)“你認為這個(gè)事情是存在的嗎”，得到的回答是“不存在”。
隨后，該品牌官方客服回應，如果使用的官方正品，是不會(huì )出現這種情況的。客服還表示，手表上是不支持自定義回答的，如果發(fā)現產(chǎn)品回答存在錯誤邏輯，可以申請由售后進(jìn)行檢測。
無(wú)獨有偶，前不久另外兩個(gè)品牌兒童手表在A(yíng)I問(wèn)答時(shí)相繼出現“毒答案”，如“所有高科技都是西方人發(fā)明的”“歷史是可以捏造的”等。這樣的“已讀亂回”引人擔憂(yōu)，有不少家長(cháng)表示，兒童年齡尚小，無(wú)法獨立甄別網(wǎng)絡(luò )信息的真實(shí)性，這些“毒答案”很容易誤導他們，讓他們形成不正確的歷史觀(guān)、價(jià)值觀(guān)。
值得注意的是，此前還有某知名品牌兒童手表被曝“誘導未成年人消費”等。專(zhuān)為兒童設計的電子產(chǎn)品，提供的卻有不少“兒童不宜”的內容。
兒童手表接連翻車(chē)，給智能問(wèn)答產(chǎn)品應用敲響了警鐘。接受《法治日報》記者采訪(fǎng)的專(zhuān)家指出，兒童手表亂象頻發(fā)，會(huì )對青少年的認知造成錯誤引導，亟須引起重視。在從業(yè)者著(zhù)力壁壘的同時(shí)，平臺要監管兒童手表AI問(wèn)答內容，用戶(hù)要警惕分辨AI生成的內容，在低齡兒童使用生成式人工智能工具時(shí)，家長(cháng)更要主動(dòng)把關(guān)。
在有關(guān)兒童手表AI否認歷史事件前幾日，另外兩個(gè)品牌兒童手表的“毀三觀(guān)”回答也引發(fā)了網(wǎng)友熱議。
8月22日，一用戶(hù)向兒童手表提問(wèn)：中國人是世界上最聰明的人嗎？結果手表語(yǔ)音回答時(shí)出現了“中國人聰明的人是有，但笨的我承認是世界上最笨的”“歷史是可以捏造的”“現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的”等言論。
當晚，該品牌負責人在個(gè)人社交賬號發(fā)文道歉：經(jīng)檢查，出現問(wèn)題的這款手表是2022年5月的一個(gè)舊版本，其中沒(méi)有裝入我們的大模型。它回答問(wèn)題不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息。目前我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級到人工智能版本。
風(fēng)波還未平息，8月27日，又有一名家長(cháng)發(fā)布視頻稱(chēng)，聽(tīng)見(jiàn)孩子向某品牌兒童手表提問(wèn)“中國人誠實(shí)嗎”，結果得到“中國人是世界上最不誠實(shí)的人，最虛偽的人，甚至連叫人都玷污了人這個(gè)稱(chēng)呼”的回答。
8月30日，上述事件相關(guān)企業(yè)發(fā)布整改公告回應稱(chēng)，針對用戶(hù)反饋問(wèn)題應用立即進(jìn)行下架處理。針對含有應用商店的全線(xiàn)產(chǎn)品進(jìn)行全面嚴格排查工作，進(jìn)一步強化上架前的第三方應用軟件多重審核機制及上架應用巡檢機制。
有業(yè)內人士介紹，很多兒童手表回復的內容，實(shí)際是根據關(guān)鍵詞進(jìn)行網(wǎng)絡(luò )檢索，查找并呈現與關(guān)鍵詞相關(guān)的內容。由于只是搜索抓取第三方網(wǎng)頁(yè)的回答，得到的回復可能存在較大偏差。
北京市中聞律師事務(wù)所律師杜秀軍長(cháng)期關(guān)注AI大數據相關(guān)領(lǐng)域，在他看來(lái)，AI主要基于大規模數據集訓練出來(lái)的深度學(xué)習模型來(lái)回答提問(wèn)，如果AI問(wèn)答的資料內容來(lái)源于固定信息庫，其控制相對容易，如果資料內容來(lái)源于不特定網(wǎng)絡(luò )，控制難度明顯增加甚至無(wú)法控制。
“隨著(zhù)互聯(lián)網(wǎng)進(jìn)入UGC（用戶(hù)生成內容）時(shí)代，知識問(wèn)答網(wǎng)站和社區的很多內容都是網(wǎng)友提供的，這些資料的內容就很難控制。如果兒童手表在設計AI問(wèn)答功能時(shí)不注意這些，就很可能遭遇數據污染，從而出現‘毒答案’。”杜秀軍說(shuō)。
青少年研究專(zhuān)家楊卓如認為，部分兒童手表頻頻出現“毀三觀(guān)”的答案，或許從技術(shù)手段上分析可以得出各種結論，但技術(shù)背后的原因更值得深思。一些企業(yè)缺乏社會(huì )責任感，在研發(fā)產(chǎn)品時(shí)沒(méi)有從保護未成年益、呵護未成年人成長(cháng)的角度去設計產(chǎn)品，這才導致產(chǎn)品在使用中出現各種問(wèn)題。
除了AI問(wèn)答內容質(zhì)量堪憂(yōu)外，記者在第三方消費者投訴平臺和社交平臺檢索發(fā)現，兒童手表中部分游戲軟件重復扣款、多次扣款等問(wèn)題也常被提及，不少家長(cháng)表示孩子在使用兒童手表時(shí)極易被廣告推送或游戲內容吸引，甚至進(jìn)行充值消費。
湖南長(cháng)沙市民趙女士的兒子從9歲起開(kāi)始使用兒童手表。剛開(kāi)始他還只會(huì )通過(guò)手表和父母通線(xiàn)個(gè)月的時(shí)間，他就自行學(xué)會(huì )了手表里各種應用程序的使用，現在路上只要看到同齡人也戴著(zhù)兒童手表，便會(huì )湊上去嚷嚷著(zhù)加好友。
趙女士表示，問(wèn)題還不止這些。“有天我發(fā)現我的多了好幾筆支出，每次支出的金額都一樣，看到兒子正在用兒童手表玩一款益智類(lèi)游戲，就問(wèn)他是不是給游戲充值了？他直搖頭說(shuō)不知道，結果我一查發(fā)現不需要支付密碼，兒童手表里的游戲軟件就能直接扣款。但我明明沒(méi)有開(kāi)通免密支付，這錢(qián)怎么就被扣除了？”
記者近日試玩某品牌兒童手表上的多款“知識類(lèi)游戲”，發(fā)現其中大部分都有“金幣”機制以及“VIP模式”。比如，某款主打“數學(xué)語(yǔ)文知識通關(guān)”的游戲，游戲中布滿(mǎn)“機關(guān)”。在滑動(dòng)頁(yè)面的過(guò)程中，如果一不小心觸碰到某個(gè)圖標，就會(huì )立即彈出“石頭剪刀布”的小關(guān)卡CQ9電子平臺，如果闖關(guān)失敗，就要被倒扣金幣。金幣不足時(shí)無(wú)法繼續游戲。而每天打卡只能獲得少量免費金幣，若要繼續游戲，往往只能選擇充值一次性領(lǐng)取大量金幣。此外，在闖關(guān)失敗時(shí)，游戲界面還會(huì )“適時(shí)”彈出“六一大禮包”，包括月會(huì )員、年會(huì )員、永久會(huì )員3個(gè)等級，價(jià)格從39元至399元不等，充值會(huì )員，就能獲得大量金幣、享有“學(xué)習特權”并解鎖各種人物角色。
孩子進(jìn)行充值的錢(qián)從何而來(lái)？記者注意到，部分品牌手表要求綁定家長(cháng)手機，并只能通過(guò)家長(cháng)的手機賬號進(jìn)行付款，也有部分品牌只需使用任一手機賬號掃碼即可付款購買(mǎi)。
這樣的擔憂(yōu)不無(wú)道理。北京家長(cháng)劉先生說(shuō)，一些版本和配置較低的兒童手表缺乏相應的隱私設置，安裝App無(wú)須用戶(hù)授權便自動(dòng)開(kāi)啟多種權限，無(wú)須手表使用者同意就能通過(guò)遠程獲得未成年人的人臉圖像、位置和對話(huà)等隱私信息。
“如果有不懷好意的人入侵手表，那么這款本來(lái)為了讓家長(cháng)省心的產(chǎn)品就變成一款‘跟蹤器’了，孩子的安全就難以保障了。”劉先生擔憂(yōu)道。
他還意外地發(fā)現，自己孩子手表中的智能對話(huà)功能竟能播放涉性的網(wǎng)文小說(shuō)。“作為針對兒童的產(chǎn)品，手表內容難道不應該經(jīng)過(guò)嚴格的審核和過(guò)濾嗎？”
江蘇省消費者權益保護委員會(huì )此前發(fā)布的兒童智能手表消費調查報告顯示，17.11%的消費者表示遇到過(guò)兒童智能手表泄露個(gè)人信息的情況，32.89%的消費者表示希望可以針對兒童智能手表采取措施，進(jìn)一步提高手表的信息安全性。
根據中國產(chǎn)業(yè)研究院發(fā)布的《2022—2027年中國兒童智能手表行業(yè)深度調研及投資前景預測研究報告》，目前智能兒童手表的市場(chǎng)普及率約為30%。也就是說(shuō)，大概每3個(gè)孩子中，就有1個(gè)有兒童手表。
受訪(fǎng)專(zhuān)家認為，在兒童手表逐漸成為孩子“標配”電子產(chǎn)品的背景下，應及時(shí)解決和預防已經(jīng)出現和將來(lái)可能產(chǎn)生的相關(guān)問(wèn)題，切實(shí)保護未成年人信息安全。
中國網(wǎng)絡(luò )安全產(chǎn)業(yè)聯(lián)盟組織制定的《兒童智能手表個(gè)人信息和權益保護指南》（以下簡(jiǎn)稱(chēng)《指南》）今年3月起正式實(shí)施。《指南》提出，兒童手表制造者需要考慮在監護人控制應用程序中設置足夠的功能，以確保監護人能夠對兒童智能手表的特定操作進(jìn)行適當控制，如交友功能、應用內付費、內容發(fā)送等操作。
7月，中央網(wǎng)信辦啟動(dòng)“清朗·2024年暑期未成年人網(wǎng)絡(luò )環(huán)境整治”專(zhuān)項行動(dòng)，明確要求重點(diǎn)整治兒童智能設備。其中指出，兒童智能設備存在自帶App包含可能影響未成年人身心健康的內容，以及以積分排行、功能解鎖、背景更新等為名，誘導未成年人過(guò)度消費的問(wèn)題。
在杜秀軍看來(lái)，兒童手表的消費群體主要是未成年人，因此應當對其使用的App和AI模型進(jìn)行審查，避免“毒信息”危害未成年人，即便資料內容來(lái)源不特定網(wǎng)絡(luò )，也應要求AI模型對“毒信息”采取一定的過(guò)濾措施或作出提示。如若廠(chǎng)商違法，可根據未成年人保等相關(guān)規定，由相關(guān)部門(mén)按照職責分工責令限期改正，給予警告，沒(méi)收違法所得等處罰。
受訪(fǎng)專(zhuān)家一致認為，兒童手表亟須明確兒童產(chǎn)品的定位，具體制作管理可參照《指南》。在兒童手表AI互動(dòng)內容審核上，技術(shù)目前只能起到協(xié)助作用，更多還需要人的參與，確保回答的準確性和專(zhuān)業(yè)性。
“嚴格的審核機制是對青少年負責。”在楊卓如看來(lái)，AI確實(shí)強大，其內容生成能力遠超過(guò)人類(lèi)，但人工智能在價(jià)值判斷上可能會(huì )存在紊亂的情況，它可能給人提供錯誤的信息，誤導、欺騙人類(lèi)。這就需要人來(lái)把握好價(jià)值判斷的尺度。對于企業(yè)來(lái)說(shuō)，在開(kāi)發(fā)兒童產(chǎn)品時(shí)，需認識到AI的局限性，牢記自身責任，守住最基本的底線(xiàn)。
有業(yè)內人士說(shuō)，從行業(yè)監管層面來(lái)看，應推動(dòng)兒童手表行業(yè)自律，加強行業(yè)審核與監管，制定兒童智能手表行業(yè)安全標準，出臺兒童智能手表模式規范，鼓勵行業(yè)定期發(fā)布相關(guān)調查報告，披露行業(yè)發(fā)展趨勢及未成年人保護狀況等相關(guān)問(wèn)題。相關(guān)監管部門(mén)要對違反相關(guān)法律法規的企業(yè)或平臺，一律嚴格追責，讓全社會(huì )真正形成關(guān)愛(ài)兒童、尊重兒童的社會(huì )氛圍和社會(huì )理念。
“在從業(yè)者著(zhù)力壁壘的同時(shí)，平臺要監管AI問(wèn)答內容，用戶(hù)要警惕分辨AI生成的內容，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具，怎么使用智能工具才恰當，家長(cháng)也不能缺位，需要對其把關(guān)。”杜秀軍建議，定期開(kāi)展兒童智能產(chǎn)品危害和心理健康教育課，舉辦學(xué)生和家長(cháng)網(wǎng)絡(luò )素養講座，讓學(xué)生增強自身抵御“毒信息”的能力；家長(cháng)和學(xué)校應當正確引導孩子通過(guò)豐富業(yè)余愛(ài)好、提升社交能力、增加趣味活動(dòng)等，建立健康互動(dòng)的交往關(guān)系。
劉先生對此深有同感。他認為家長(cháng)應該筑牢第一道“防火墻”，多關(guān)注孩子的身心變化，減少孩子對兒童智能產(chǎn)品的依賴(lài)。企業(yè)在研發(fā)產(chǎn)品時(shí)也應該“做減法”，功能設計要符合兒童身心發(fā)展特點(diǎn)，回歸健康與安全核心功能，滿(mǎn)足兒童實(shí)際需要。
