算法淪為算計(jì)，消費(fèi)者如何反“殺熟”

“付費(fèi)會(huì)員價(jià)格比普通用戶高”“新人一天三四個(gè)紅包，消費(fèi)數(shù)萬(wàn)元的老客戶三四天拿不到一個(gè)紅包”“同一套餐不同價(jià)，老客戶被用力‘宰’”……新華每日電訊記者在某投訴平臺(tái)搜索發(fā)現(xiàn)，有近1.8萬(wàn)條投訴中包含“殺熟”關(guān)鍵詞，有的年輕人也想通過(guò)“哭窮”的方式“馴化”算法。

近期，算法不透明和大數(shù)據(jù)“殺熟”再次引起關(guān)注。對(duì)于平臺(tái)經(jīng)濟(jì)發(fā)展，市場(chǎng)監(jiān)管部門(mén)也明確表態(tài)，要督促平臺(tái)企業(yè)提高算法透明度，優(yōu)化算法規(guī)則。

算法如同“讀心術(shù)”，用好了能為消費(fèi)者和商家精準(zhǔn)提供個(gè)性化服務(wù)，讓買(mǎi)賣(mài)雙方享受到技術(shù)紅利，但若“心術(shù)”不正，算法便會(huì)淪為算計(jì)，成為網(wǎng)絡(luò)生態(tài)的破壞者。業(yè)內(nèi)專(zhuān)家建議，要更加完善算法監(jiān)管體系，避免本應(yīng)享受“算法紅利”的消費(fèi)者掉入“算計(jì)陷阱”。

“算法殺熟”套路屢見(jiàn)不鮮

近期，隨著機(jī)票預(yù)訂高峰的來(lái)臨，“罵機(jī)票貴”再次翻熱，矛頭指向大數(shù)據(jù)“殺熟”。

記者在網(wǎng)絡(luò)平臺(tái)搜索發(fā)現(xiàn)，一些“罵機(jī)票專(zhuān)用貼”熱度攀升，相關(guān)話題討論量高達(dá)70萬(wàn)次，參與者覆蓋多個(gè)城市，以“哭窮”的方式倒逼機(jī)票降價(jià)。

在一些“反復(fù)評(píng)論罵機(jī)票，兩天驟降五六百”“哭窮砍價(jià)套路話術(shù)”等分享攻略的評(píng)論區(qū)，有網(wǎng)友跟帖評(píng)論基本都有針對(duì)性地點(diǎn)出航空公司和訂票平臺(tái)名稱(chēng)精準(zhǔn)“開(kāi)罵”。有網(wǎng)友曬出“戰(zhàn)果”：從北京飛濟(jì)州島，罵之前870元，罵之后369元，并將成功經(jīng)驗(yàn)分享。

“訂酒店用不同品牌手機(jī)搜出差價(jià)上百元的房?jī)r(jià)”“放在購(gòu)物車(chē)?yán)锏纳唐范帱c(diǎn)幾次就會(huì)漲價(jià)”……新老用戶被“差別對(duì)待”、紅包發(fā)放“看人下菜”、同一商品百人千價(jià)。

記者梳理發(fā)現(xiàn)，近年來(lái)，先低價(jià)吸引客戶，等生客變熟之后，再利用大數(shù)據(jù)算法變相抬高價(jià)格的“殺熟”套路在酒店訂房、外賣(mài)團(tuán)購(gòu)、出行訂票等網(wǎng)購(gòu)平臺(tái)屢見(jiàn)不鮮。隨著技術(shù)不斷迭代，消費(fèi)者反映大數(shù)據(jù)“殺熟”也變得更加“先進(jìn)”。

上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心主任、研究員蔡立志表示，前兩年大數(shù)據(jù)“殺熟”行為有當(dāng)時(shí)的算法技術(shù)不成熟的可能，而從去年開(kāi)始，國(guó)內(nèi)生成式人工智能大模型不斷涌現(xiàn)，在數(shù)據(jù)的匯聚能力和理解推理能力上明顯更強(qiáng)。

“懂你”的算法緣何淪為“坑你”的算計(jì)

“‘大數(shù)據(jù)殺熟’頻現(xiàn)”成為中消協(xié)公布的2024年上半年十大消費(fèi)維權(quán)輿情熱點(diǎn)之一。四川省消委會(huì)去年下半年發(fā)布的《網(wǎng)絡(luò)消費(fèi)者知情權(quán)保護(hù)調(diào)查報(bào)告》也顯示，在經(jīng)歷過(guò)網(wǎng)購(gòu)商品和服務(wù)的消費(fèi)者中，39.64%的受訪者遇到過(guò)“大數(shù)據(jù)殺熟”的情況。

甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮介紹，對(duì)商家來(lái)說(shuō)，客戶信息是最有含金量的銷(xiāo)售參考，而算法能幫助商家精準(zhǔn)獲取最直接全面的客戶數(shù)據(jù)，其為消費(fèi)者打上的標(biāo)簽?zāi)軌驗(yàn)樯唐肪_、高效地找到潛在客戶群體提供便利，提升成功交易的訂單數(shù)與訪客數(shù)。

蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻分析，大數(shù)據(jù)“殺熟”的本質(zhì)在于運(yùn)用算法針對(duì)消費(fèi)者購(gòu)買(mǎi)習(xí)慣、經(jīng)濟(jì)實(shí)力進(jìn)行精準(zhǔn)畫(huà)像，精準(zhǔn)地為用戶“貼標(biāo)簽”。

“在實(shí)際操作中，一些平臺(tái)和商家確實(shí)存在為了銷(xiāo)量而利用算法‘算計(jì)’消費(fèi)者的情況，通過(guò)用戶年齡、職業(yè)、消費(fèi)水平等特征，對(duì)相同商品實(shí)施差異化定價(jià)。”王雪蓮表示，這樣的行為雖然短期來(lái)看利于盈利，但不利于長(zhǎng)遠(yuǎn)發(fā)展，久而久之會(huì)讓用戶產(chǎn)生信任危機(jī)，破壞網(wǎng)購(gòu)生態(tài)。

受訪專(zhuān)家表示，如果“哭窮”反“殺熟”成立，說(shuō)明算法對(duì)評(píng)論有效信息進(jìn)行了抓取，但應(yīng)對(duì)大數(shù)據(jù)“殺熟”，不能僅靠消費(fèi)者“哭窮”。

“一時(shí)‘哭窮’成功不意味著一直都會(huì)成功，要看到其背后對(duì)規(guī)范算法的迫切需求。”劉忻說(shuō)，“哭窮”砍價(jià)并非治本之策，甚至有可能還會(huì)讓大數(shù)據(jù)在掌握更多個(gè)人信息后進(jìn)一步完善“殺熟”機(jī)制。

甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華坦言，大數(shù)據(jù)“殺熟”問(wèn)題屢禁難止，一方面在于消費(fèi)者舉證難、維權(quán)成本高，很難有力維護(hù)自身合法權(quán)益；更重要的是算法大模型備案尚在“成長(zhǎng)期”，缺乏成熟規(guī)則指引，在責(zé)任主體上未對(duì)“服務(wù)提供者”等概念進(jìn)行明確劃分，不足以應(yīng)對(duì)實(shí)踐中的復(fù)雜角色定位，造成監(jiān)管難、問(wèn)責(zé)難。

多措并舉破解算法“數(shù)縛”

業(yè)內(nèi)人士和法律專(zhuān)家認(rèn)為，人工智能隱藏的消費(fèi)陷阱，有些惡意行為屬于價(jià)格歧視，違反市場(chǎng)交易的公平原則，嚴(yán)重的已經(jīng)涉嫌大數(shù)據(jù)欺詐。如何在促進(jìn)大數(shù)據(jù)賦能市場(chǎng)發(fā)展的同時(shí)，更好完善人工智能算法治理體系，提升監(jiān)管手段和能力，對(duì)大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展和消費(fèi)者權(quán)益保護(hù)都很重要。

目前，有關(guān)法律法規(guī)已對(duì)大數(shù)據(jù)殺熟問(wèn)題作出規(guī)范。2024年11月，中央網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布通知，開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專(zhuān)項(xiàng)行動(dòng)，提出嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”，各地陸續(xù)開(kāi)展相關(guān)算法治理專(zhuān)項(xiàng)行動(dòng)。

前不久，市場(chǎng)監(jiān)管部門(mén)明確提出，要對(duì)大數(shù)據(jù)“殺熟”加強(qiáng)綜合治理，提高算法透明度，優(yōu)化算法規(guī)則，保障消費(fèi)者合法權(quán)益。

劉忻表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領(lǐng)域?qū)儆诤诵馁Y產(chǎn)，查看算法模型對(duì)執(zhí)法者來(lái)說(shuō)需要一定門(mén)檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術(shù)角度看，需盡快完善大數(shù)據(jù)算法模型制定依據(jù)和檢測(cè)辦法；從管理角度看，需加強(qiáng)監(jiān)管機(jī)制，明晰市場(chǎng)準(zhǔn)入制度，讓大數(shù)據(jù)走出技術(shù)“暗房”。

2023年，上海計(jì)算機(jī)軟件技術(shù)開(kāi)發(fā)中心籌建生成式人工智能質(zhì)檢中心，2024年驗(yàn)收通過(guò)，專(zhuān)門(mén)研究、控制和解決生成式人工智能帶來(lái)的潛在風(fēng)險(xiǎn)。受訪專(zhuān)家建議，未來(lái)亟需進(jìn)一步加快推廣設(shè)立第三方檢測(cè)機(jī)構(gòu)，對(duì)應(yīng)用程序中的人工智能大模型開(kāi)展安全性檢測(cè)。

受訪專(zhuān)家建議，要持續(xù)完善平臺(tái)算法規(guī)則的解釋機(jī)制，同時(shí)探索個(gè)人數(shù)據(jù)“所有權(quán)”保護(hù)問(wèn)題。蔡立志認(rèn)為，個(gè)人數(shù)據(jù)是極為重要的資源類(lèi)型，各類(lèi)App采集到的消費(fèi)者數(shù)據(jù)如何使用和管理，是破解大數(shù)據(jù)“殺熟”的關(guān)鍵問(wèn)題之一。

“個(gè)人在使用各類(lèi)App時(shí)，可視為將個(gè)人數(shù)據(jù)交于App程序管理，應(yīng)更加明晰其相關(guān)各方的權(quán)利義務(wù)。如果個(gè)人決定不再使用某款A(yù)pp，有權(quán)要求該App抹去此前的所有數(shù)據(jù)記錄。”蔡立志說(shuō)。

盛玉華表示，人工智能技術(shù)迭代快，其在市場(chǎng)及消費(fèi)領(lǐng)域的應(yīng)用也在快速多樣化，設(shè)立統(tǒng)一的算法監(jiān)管機(jī)構(gòu)，對(duì)于提升算法常態(tài)化治理水平很有必要。（記者姜偉超 馬莎 王銘禹）