新華社北京1月6日電 題：聚焦《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》五大看點
新華社“新華視點”記者
通過大數(shù)據(jù)“殺熟”實施不合理差別待遇，利用算法誘導(dǎo)用戶沉迷網(wǎng)絡(luò)、過度消費……當前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，在給用戶帶來一定程度便利的同時，由算法引發(fā)的侵害用戶權(quán)益問題也屢屢出現(xiàn)。
算法推薦是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等技術(shù)向用戶提供信息。
近日，國家網(wǎng)信辦等四部門出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，針對被詬病已久的問題提出明確要求。
大數(shù)據(jù)“殺熟”如何解？不得實施差別待遇
同樣的送餐時間、地點、訂單、外賣平臺，會員卻比非會員多付錢；同時同地打同類型車到同一目的地，某打車平臺曾被用戶發(fā)現(xiàn)熟客反而收費更高。
當前，越來越多的企業(yè)利用大數(shù)據(jù)分析評估消費者的個人特征用于商業(yè)營銷。但也有一些企業(yè)利用個人信息搞大數(shù)據(jù)“殺熟”，對不同群體進行差別定價，實行“價格歧視”。
規(guī)定提出，算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的，應(yīng)當保護消費者公平交易的權(quán)利，不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
去年10月，騰訊、華為等20余家App運營企業(yè)承諾將嚴守用戶個人隱私邊界，保護用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”。
中國信息安全研究院副院長左曉棟認為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個人信息導(dǎo)致的。解決這類問題，首先要在治理違法違規(guī)收集用戶個人信息上下功夫，其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。例如，要向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項，并提供選擇或刪除針對其個人特征的用戶標簽的功能。
誘導(dǎo)用戶沉迷、過度消費？促進算法應(yīng)用向上向善
設(shè)置誘導(dǎo)用戶沉迷、過度消費的算法模型，已成為備受詬病的網(wǎng)絡(luò)消費和娛樂現(xiàn)象。
“有的游戲你玩不過去它就給你放點水，導(dǎo)致你像中毒一樣停不下來；或者看你反復(fù)瀏覽某件商品，它就顯示兩件八折、三件七五折這樣的優(yōu)惠，讓你盡可能多買?！敝袊娮蛹夹g(shù)標準化研究院網(wǎng)安中心測評實驗室副主任何延哲說。
規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。
中國政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認為，算法推薦服務(wù)提供者應(yīng)當堅持主流價值導(dǎo)向、促進算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等算法模型，正是將科技向善理念落實為具體業(yè)務(wù)要求的體現(xiàn)。
“規(guī)定提出了要防范出現(xiàn)此類情形，需要相關(guān)企業(yè)切實做好算法的評估工作，從算法推薦的邏輯、面向的用戶群體、瀏覽和消費行為等多個角度出發(fā)進行綜合分析?！焙窝诱芙ㄗh，為防止算法導(dǎo)致的沉迷或過度消費，必要時還應(yīng)引入第三方進行評價和評議，以保證評估的中立性。
刷量控評影響網(wǎng)絡(luò)輿論？確保算法公開透明
利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò)“水軍”，實施虛假點贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評；屏蔽信息、過度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序……一些算法推薦服務(wù)提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，還存在影響網(wǎng)絡(luò)輿論的現(xiàn)象。
根據(jù)規(guī)定，算法推薦服務(wù)應(yīng)遵循公開透明的原則，鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。
“針對微博存在的刷量、刷榜、控評等干擾、扭曲真實的用戶聲音和信息傳播等問題，我們一直在努力整治。”微博有關(guān)負責(zé)人坦言，這些問題屢禁難絕的背后，也有真人刷榜行為比較難發(fā)現(xiàn)、對已形成完整產(chǎn)業(yè)鏈的相關(guān)黑灰產(chǎn)難以從技術(shù)上禁絕等困難的存在。
世輝律師事務(wù)所合伙人王新銳認為，規(guī)定要求網(wǎng)絡(luò)平臺以顯著方式告知用戶其提供算法推薦服務(wù)的情況，同時要求具有輿論屬性或者社會動員能力的平臺將算法相關(guān)情況予以備案，通過這種“普遍公開+部分備案”的方式來解決算法不透明帶來的現(xiàn)實問題和普遍憂慮。
未成年人等特殊群體權(quán)益如何保護？精細化滿足不同群體訴求
近年來，一些App接連被曝出傳播兒童軟色情表情包、利用未成年人性暗示短視頻引流等問題，嚴重損害未成年人身心健康，影響網(wǎng)絡(luò)傳播秩序。
“網(wǎng)絡(luò)為未成年人帶來了嶄新的生活方式，也產(chǎn)生了未成年人網(wǎng)絡(luò)保護問題。”中國社會科學(xué)院大學(xué)副校長林維認為，未成年人存在認知、判斷能力較弱，價值觀尚未成型等特點，針對性過強的算法推送內(nèi)容有可能引發(fā)各種不良效果，也可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。
對此，規(guī)定提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。
此外，針對一些平臺未充分考慮老年人適老化需求等問題，規(guī)定還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關(guān)規(guī)定提供智能化適老服務(wù)。
專家指出，在互聯(lián)網(wǎng)信息服務(wù)日益多元化、基礎(chǔ)化、普及化的情況下，規(guī)定精細化、有側(cè)重地滿足不同群體的利益訴求，將更好保障未成年人、老年人、勞動者等群體權(quán)益，引導(dǎo)算法應(yīng)用遵守社會公德和倫理，遵守商業(yè)道德和職業(yè)道德。
監(jiān)管如何落地落實？著力完善治理體系
當前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動企業(yè)數(shù)字化轉(zhuǎn)型和國家治理能力現(xiàn)代化的重要力量。專家認為，規(guī)定有利于建立健全科學(xué)的監(jiān)管體系，統(tǒng)籌各方建立完整制度鏈條，形成算法治理長效機制。
“事前監(jiān)管，確立算法備案、算法評估等制度；區(qū)分監(jiān)管，確立分級分類的思路；系統(tǒng)監(jiān)管，建立多元共治的局面?！敝袊畔⑼ㄐ叛芯吭焊笨偣こ處熗鯋廴A認為，規(guī)定著力完善治理體系，通過優(yōu)化監(jiān)管框架，實現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強監(jiān)管系統(tǒng)性和權(quán)威性。
星瀚律師事務(wù)所主任律師衛(wèi)新認為，當前算法技術(shù)的應(yīng)用越來越廣泛，對算法的監(jiān)管需要迎頭跟上，未來在具體執(zhí)行過程中還需形成各類具備可操作性的細則。
“算法推薦作為一種新技術(shù)模式，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險?！敝袊娮蛹夹g(shù)標準化研究院黨委書記楊建軍建議，為支撐規(guī)定落地實施，亟須加強算法安全技術(shù)能力建設(shè)，建設(shè)算法推薦服務(wù)備案、算法安全評估、算法安全風(fēng)險監(jiān)測等平臺，提升算法推薦技術(shù)監(jiān)管能力。（記者王思北、陽娜、周琳、顏之宏）
請輸入驗證碼