新聞中心news 
CQ9電子平臺兒童手表“已讀亂回” 智能問(wèn)答不是瞎答的借口
2024-09-05 18:00:06
瀏覽次數：
次
返回列表
CQ9電子平臺兒童手表“已讀亂回” 智能問(wèn)答不是瞎答的借口最近，有網(wǎng)友爆料其向小天才兒童電話(huà)手表某軟件提問(wèn)“中國人誠實(shí)嗎”，卻得到“中國人是世界上最不誠實(shí)的人，最虛偽的人”的雷人回答。
不久前，某品牌兒童手表在回答“中國人是世界上最聰明的人嗎”時(shí)，答案赫然顯示，“中國人小眼睛小鼻子小眉毛，什么四大發(fā)明，歷史是可以捏造的……”
專(zhuān)為兒童設計的電子產(chǎn)品，提供的內容卻如此荒誕離譜，既然用戶(hù)隨口一試就能測出問(wèn)題，相關(guān)運營(yíng)方早干嘛去了？
事實(shí)上，第三方軟件也好，自研發(fā)大模型也罷，此類(lèi)產(chǎn)品都是基于機器的采集學(xué)習技術(shù)，進(jìn)而為用戶(hù)提供詢(xún)問(wèn)結果。
如果說(shuō)普通搜索軟件尚能提供多頁(yè)答案供篩選過(guò)濾，那么這種“一對一”對話(huà)模式帶有明顯的社交屬性，顯得確定性、可信度更高，也更容易讓人產(chǎn)生心理上的代入感。
這兩天，就有學(xué)生在學(xué)校服務(wù)公眾號咨詢(xún)繳費截止日期，結果被自動(dòng)設置的AI回答“臭罵”了一頓，如此“已讀亂回”令人氣憤又無(wú)奈。
今天是兒童手表荼毒孩子、自動(dòng)回復“陰陽(yáng)”用戶(hù)，萬(wàn)一被別有用心的不法分子利用，通過(guò)輸入虛假或誤導性信息，“訓練”機器產(chǎn)生海量新的瞎話(huà)，又會(huì )造成如何惡劣的影響？
猶記ChatGPT現象級爆火之時(shí)，就有不少人擔心，其是否會(huì )成為成本與門(mén)檻極低CQ9電子官網(wǎng)、效率與產(chǎn)出極高、迷惑性煽動(dòng)性極強的造謠工具。如今現實(shí)似乎正逐步印證著(zhù)這種隱憂(yōu)。
去年，我國相關(guān)部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內率先開(kāi)展立法，對數據使用、算法設計、價(jià)值導向提出要求，為行業(yè)健康發(fā)展提供了支撐。
但從現實(shí)來(lái)看，對話(huà)式人工智能模型是深度學(xué)習模型，內容生成過(guò)程的邏輯往往缺乏可解釋性，這種不確定、多方面的復雜情況，也導致諸多下游應用主體間的責任難以劃分。
鑒于此，不妨就從這些典型事件抓起。究竟是語(yǔ)料庫的選擇出了問(wèn)題，還是學(xué)習機制帶有偏見(jiàn)，從頭到尾查個(gè)清楚，而后在關(guān)鍵環(huán)節嚴格把關(guān)謹防再犯。
據統計，我國目前完成備案并上線(xiàn)、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達190多個(gè)。無(wú)處不在的數據和算法推動(dòng)技術(shù)發(fā)展，同時(shí)也帶來(lái)了新的矛盾與挑戰。
第17屆夏季殘疾人奧林匹克運動(dòng)會(huì )：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會(huì )金牌總數突破200枚
第17屆夏季殘疾人奧林匹克運動(dòng)會(huì )：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會(huì )金牌總數突破200枚
