“付費會(huì )員價(jià)格比普通用戶(hù)高”“新人一天三四個(gè)紅包，消費數萬(wàn)元的老客戶(hù)三四天拿不到一個(gè)紅包”“同一套餐不同價(jià)，老客戶(hù)被用力‘宰’”……新華每日電訊記者在某投訴平臺搜索發(fā)現，有近1.8萬(wàn)條投訴中包含“殺熟”關(guān)鍵詞，有的年輕人也想通過(guò)“哭窮”的方式“馴化”算法。
近期，算法不透明和大數據“殺熟”再次引起關(guān)注。對于平臺經(jīng)濟發(fā)展，市場(chǎng)監管部門(mén)也明確表態(tài)，要督促平臺企業(yè)提高算法透明度，優(yōu)化算法規則。
算法如同“讀心術(shù)”，用好了能為消費者和商家精準提供個(gè)性化服務(wù)，讓買(mǎi)賣(mài)雙方享受到技術(shù)紅利，但若“心術(shù)”不正，算法便會(huì )淪為算計，成為網(wǎng)絡(luò )生態(tài)的破壞者。業(yè)內專(zhuān)家建議，要更加完善算法監管體系，避免本應享受“算法紅利”的消費者掉入“算計陷阱”。
“算法殺熟”套路屢見(jiàn)不鮮
近期，隨著(zhù)機票預訂高峰的來(lái)臨，“罵機票貴”再次翻熱，矛頭指向大數據“殺熟”。
記者在網(wǎng)絡(luò )平臺搜索發(fā)現，一些“罵機票專(zhuān)用貼”熱度攀升，相關(guān)話(huà)題討論量高達70萬(wàn)次，參與者覆蓋多個(gè)城市，以“哭窮”的方式倒逼機票降價(jià)。
在一些“反復評論罵機票，兩天驟降五六百”“哭窮砍價(jià)套路話(huà)術(shù)”等分享攻略的評論區，有網(wǎng)友跟帖評論基本都有針對性地點(diǎn)出航空公司和訂票平臺名稱(chēng)精準“開(kāi)罵”。有網(wǎng)友曬出“戰果”：從北京飛濟州島，罵之前870元，罵之后369元，并將成功經(jīng)驗分享。
“訂酒店用不同品牌手機搜出差價(jià)上百元的房?jì)r(jià)”“放在購物車(chē)里的商品多點(diǎn)幾次就會(huì )漲價(jià)”……新老用戶(hù)被“差別對待”、紅包發(fā)放“看人下菜”、同一商品百人千價(jià)。
記者梳理發(fā)現，近年來(lái)，先低價(jià)吸引客戶(hù)，等生客變熟之后，再利用大數據算法變相抬高價(jià)格的“殺熟”套路在酒店訂房、外賣(mài)團購、出行訂票等網(wǎng)購平臺屢見(jiàn)不鮮。隨著(zhù)技術(shù)不斷迭代，消費者反映大數據“殺熟”也變得更加“先進(jìn)”。
上海計算機軟件技術(shù)開(kāi)發(fā)中心主任、研究員蔡立志表示，前兩年大數據“殺熟”行為有當時(shí)的算法技術(shù)不成熟的可能，而從去年開(kāi)始，國內生成式人工智能大模型不斷涌現，在數據的匯聚能力和理解推理能力上明顯更強。
“懂你”的算法緣何淪為“坑你”的算計
“‘大數據殺熟’頻現”成為中消協(xié)公布的2024年上半年十大消費維權輿情熱點(diǎn)之一。四川省消委會(huì )去年下半年發(fā)布的《網(wǎng)絡(luò )消費者知情權保護調查報告》也顯示，在經(jīng)歷過(guò)網(wǎng)購商品和服務(wù)的消費者中，39.64%的受訪(fǎng)者遇到過(guò)“大數據殺熟”的情況。
甘肅慧聯(lián)信息科技發(fā)展有限責任公司總經(jīng)理王雪蓮介紹，對商家來(lái)說(shuō)，客戶(hù)信息是最有含金量的銷(xiāo)售參考，而算法能幫助商家精準獲取最直接全面的客戶(hù)數據，其為消費者打上的標簽能夠為商品精確、高效地找到潛在客戶(hù)群體提供便利，提升成功交易的訂單數與訪(fǎng)客數。
蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻分析，大數據“殺熟”的本質(zhì)在于運用算法針對消費者購買(mǎi)習慣、經(jīng)濟實(shí)力進(jìn)行精準畫(huà)像，精準地為用戶(hù)“貼標簽”。
“在實(shí)際操作中，一些平臺和商家確實(shí)存在為了銷(xiāo)量而利用算法‘算計’消費者的情況，通過(guò)用戶(hù)年齡、職業(yè)、消費水平等特征，對相同商品實(shí)施差異化定價(jià)。”王雪蓮表示，這樣的行為雖然短期來(lái)看利于盈利，但不利于長(cháng)遠發(fā)展，久而久之會(huì )讓用戶(hù)產(chǎn)生信任危機，破壞網(wǎng)購生態(tài)。
受訪(fǎng)專(zhuān)家表示，如果“哭窮”反“殺熟”成立，說(shuō)明算法對評論有效信息進(jìn)行了抓取，但應對大數據“殺熟”，不能僅靠消費者“哭窮”。
“一時(shí)‘哭窮’成功不意味著(zhù)一直都會(huì )成功，要看到其背后對規范算法的迫切需求。”劉忻說(shuō)，“哭窮”砍價(jià)并非治本之策，甚至有可能還會(huì )讓大數據在掌握更多個(gè)人信息后進(jìn)一步完善“殺熟”機制。
甘肅政法大學(xué)民商經(jīng)濟法學(xué)院副教授盛玉華坦言，大數據“殺熟”問(wèn)題屢禁難止，一方面在于消費者舉證難、維權成本高，很難有力維護自身合法權益；更重要的是算法大模型備案尚在“成長(cháng)期”，缺乏成熟規則指引，在責任主體上未對“服務(wù)提供者”等概念進(jìn)行明確劃分，不足以應對實(shí)踐中的復雜角色定位，造成監管難、問(wèn)責難。
多措并舉破解算法“數縛”
業(yè)內人士和法律專(zhuān)家認為，人工智能隱藏的消費陷阱，有些惡意行為屬于價(jià)格歧視，違反市場(chǎng)交易的公平原則，嚴重的已經(jīng)涉嫌大數據欺詐。如何在促進(jìn)大數據賦能市場(chǎng)發(fā)展的同時(shí)，更好完善人工智能算法治理體系，提升監管手段和能力，對大數據產(chǎn)業(yè)的發(fā)展和消費者權益保護都很重要。
目前，有關(guān)法律法規已對大數據殺熟問(wèn)題作出規范。2024年11月，中央網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布通知，開(kāi)展“清朗·網(wǎng)絡(luò )平臺算法典型問(wèn)題治理”專(zhuān)項行動(dòng)，提出嚴禁利用算法實(shí)施大數據“殺熟”，各地陸續開(kāi)展相關(guān)算法治理專(zhuān)項行動(dòng)。
前不久，市場(chǎng)監管部門(mén)明確提出，要對大數據“殺熟”加強綜合治理，提高算法透明度，優(yōu)化算法規則，保障消費者合法權益。
劉忻表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領(lǐng)域屬于核心資產(chǎn)，查看算法模型對執法者來(lái)說(shuō)需要一定門(mén)檻，這是目前規范算法的薄弱環(huán)節之一。從技術(shù)角度看，需盡快完善大數據算法模型制定依據和檢測辦法；從管理角度看，需加強監管機制，明晰市場(chǎng)準入制度，讓大數據走出技術(shù)“暗房”。
2023年，上海計算機軟件技術(shù)開(kāi)發(fā)中心籌建生成式人工智能質(zhì)檢中心，2024年驗收通過(guò)，專(zhuān)門(mén)研究、控制和解決生成式人工智能帶來(lái)的潛在風(fēng)險。受訪(fǎng)專(zhuān)家建議，未來(lái)亟需進(jìn)一步加快推廣設立第三方檢測機構，對應用程序中的人工智能大模型開(kāi)展安全性檢測。
受訪(fǎng)專(zhuān)家建議，要持續完善平臺算法規則的解釋機制，同時(shí)探索個(gè)人數據“所有權”保護問(wèn)題。蔡立志認為，個(gè)人數據是極為重要的資源類(lèi)型，各類(lèi)App采集到的消費者數據如何使用和管理，是破解大數據“殺熟”的關(guān)鍵問(wèn)題之一。
“個(gè)人在使用各類(lèi)App時(shí)，可視為將個(gè)人數據交于A(yíng)pp程序管理，應更加明晰其相關(guān)各方的權利義務(wù)。如果個(gè)人決定不再使用某款App，有權要求該App抹去此前的所有數據記錄。”蔡立志說(shuō)。
盛玉華表示，人工智能技術(shù)迭代快，其在市場(chǎng)及消費領(lǐng)域的應用也在快速多樣化，設立統一的算法監管機構，對于提升算法常態(tài)化治理水平很有必要。（新華每日電訊記者姜偉超 馬莎 王銘禹）
