新聞中心news 
兒童手表問答毀三觀暴露了哪些問題？
2024-09-10 03:54:54
瀏覽次數(shù)：
次
返回列表
兒童手表問答毀三觀暴露了哪些問題？近日，有家長在社交媒體爆料稱，女兒使用360手表的“語音問答”功能，向手表提問“中國人是世界上最聰明的人嗎”，手表給出的答案把她和家里人都嚇到了：“因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大……”
這樣的回答屬實“毀三觀”，但這還不是孤例，測試發(fā)現(xiàn)，這款兒童手表還有“四大發(fā)明是捏造的”等雷人回答。對此，360集團董事長周鴻祎發(fā)文道歉，稱出現(xiàn)問題的這款手表是舊版本，沒有裝入公司的大模型；它不是通過人工智能，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題；正在將軟件升級到人工智能版本。
但問題是，正如網(wǎng)友所質(zhì)疑的，如果沒有家長發(fā)現(xiàn)并爆料，企業(yè)是不是永遠也“發(fā)現(xiàn)”不了這一問題？對于兒童電話手表提供的內(nèi)容，即使是抓取網(wǎng)站上的信息，也應(yīng)該有規(guī)范的語料庫、完善的審核把關(guān)機制。
此前，電話手表、學(xué)習(xí)機等兒童電子產(chǎn)品已經(jīng)多次爆出內(nèi)容問題。比如，某知名品牌電話手表被曝“誘導(dǎo)未成年人消費”、某平板電腦“自帶應(yīng)用市場推薦涉黃涉暴內(nèi)容”等。專為兒童設(shè)計的電子產(chǎn)品，提供的內(nèi)容卻如此“兒童不宜”，實在令人難以理解，更令廣大家長深深擔憂。
事后的整改、致歉當然是必須的，更要追問的是，這些內(nèi)容是怎么推送到未成年用戶面前的，是技術(shù)漏洞還是管理疏忽？是審核過程中的“漏網(wǎng)之魚”還是根本沒有審核機制？
兒童手表企業(yè)售賣的固然是手表這一硬件，但其中搭載的軟件以及軟件提供的內(nèi)容，也同樣是手表提供的服務(wù)。不能一邊宣傳手表的“智能”，以及對兒童學(xué)習(xí)的輔助功能，另一邊提供的卻是不良信息，甚至試圖用打“擦邊球”的內(nèi)容來吸引用戶。
根據(jù)中國產(chǎn)業(yè)研究院發(fā)布的《2022—2027年中國兒童智能手表行業(yè)深度調(diào)研及投資前景預(yù)測研究報告》，目前智能兒童手表的市場普及率約為30%。也就是說，大概每3個孩子中，就有1個有電話手表。面對如此龐大的用戶市場，不能亂象頻發(fā)、野蠻生長。企業(yè)應(yīng)當承擔起相應(yīng)的責任，切實保護未成年人信息安全。
不久前，中央網(wǎng)信辦啟動“清朗2024年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項行動，其中特別提到“設(shè)備自帶APP包含可能影響未成年人身心健康的內(nèi)容，對第三方APP提供的信息內(nèi)容審核把關(guān)不嚴，存在不良導(dǎo)向內(nèi)容”等問題CQ9電子。相關(guān)企業(yè)不能總等著監(jiān)管部門、消費者來發(fā)現(xiàn)問題，該有自查自糾的自覺。
還要提醒的是，盡管人工智能大模型的應(yīng)用越來越廣泛，但AI也不是萬能的，產(chǎn)品、服務(wù)背后的關(guān)鍵還是人，“將軟件升級到人工智能版本”后，同樣不能忽略內(nèi)容把關(guān)。
兒童產(chǎn)品就該有兒童產(chǎn)品的樣子，甚至在各方面應(yīng)該有比普通產(chǎn)品更嚴格的標準，不光要有智能的硬件，更要有安全的軟件和服務(wù)。360兒童手表的此次“翻車”也再次提醒，企業(yè)要及時給兒童智能設(shè)備裝上安全閥門，相關(guān)部門也應(yīng)將這類產(chǎn)品納入常態(tài)化監(jiān)管范圍，防止不良內(nèi)容誤導(dǎo)青少年。
