許多消費(fèi)者曾質(zhì)疑，為什么并不是旅游旺季，機(jī)票價(jià)格卻越搜越高；為什么聊天時(shí)隨口提到某款商品，轉(zhuǎn)眼就會(huì)在各大平臺(tái)上看到相關(guān)的廣告推送？為什么使用一款A(yù)pp，會(huì)彈出幾十頁翻不完也讀不懂的隱私政策，而要使用它，你必須點(diǎn)擊“同意”？當(dāng)有一天你不想再使用它時(shí)，卻怎么也找不到注銷按鈕在哪里？

大數(shù)據(jù)時(shí)代，我們總能更快地找到自己想要的信息，卻似乎越來越難躲開其中暗藏的算法陷阱。

會(huì)員價(jià)比非會(huì)員價(jià)還高？平臺(tái)運(yùn)用算法進(jìn)行“殺熟”

不久前，一篇質(zhì)疑某外賣平臺(tái)運(yùn)用算法進(jìn)行“殺熟”的文章引發(fā)熱議。該平臺(tái)的一位會(huì)員用戶肖先生指出，同樣的訂單，他的配送費(fèi)定價(jià)時(shí)常比非會(huì)員用戶的更高。

肖先生：經(jīng)常點(diǎn)同一家（的外賣），有一天我開了會(huì)員之后發(fā)現(xiàn)配送費(fèi)價(jià)格一下就較之前漲出了三倍。然后那天我試了幾乎一小時(shí)，配送費(fèi)一直是比平時(shí)高出了六元。

肖先生告訴記者，之后的一周，他在點(diǎn)外賣的時(shí)候，經(jīng)常同時(shí)用兩部手機(jī)，分別登錄會(huì)員賬號(hào)和非會(huì)員賬號(hào)，進(jìn)行對(duì)比實(shí)驗(yàn)，發(fā)現(xiàn)配送費(fèi)上的差別總是存在。于是他將這些觀察總結(jié)成一篇文章發(fā)表了在個(gè)人公眾號(hào)上。

肖先生：后來我這篇文章出來之后，很多網(wǎng)友在我后臺(tái)留言都有這種會(huì)員“殺熟”的情況。比如說一個(gè)鼠標(biāo)，非會(huì)員購買的時(shí)候100元，但是用會(huì)員買價(jià)格變成了110元。結(jié)果我開了會(huì)員之后，反而比非會(huì)員價(jià)格還要高，那我開會(huì)員的意義在哪。

文章引發(fā)熱議后，相關(guān)外賣平臺(tái)聯(lián)系了肖先生。針對(duì)他提出的質(zhì)疑，平臺(tái)方給出的回復(fù)是：配送費(fèi)上的價(jià)格差異是由于系統(tǒng)緩存而導(dǎo)致的誤差。

肖先生：我嘗試了很多次，在一周之內(nèi)都是這種情況。那緩存的說法肯定說不過去。何來的位置緩存呢？在同一個(gè)地方，差異就是存在于會(huì)員和非會(huì)員之間。咨詢了一些技術(shù)方面的朋友，造成這么大的誤差是不可能的。

“殺熟”≠差別定價(jià)，相關(guān)投訴不斷增多

肖先生的疑惑，最終還是沒能得到一個(gè)明確的解答。但是他的經(jīng)歷，卻讓大數(shù)據(jù)殺熟這個(gè)話題再次走進(jìn)公眾的視野。圍繞這個(gè)問題，記者對(duì)中國消費(fèi)者協(xié)會(huì)和有關(guān)法學(xué)專家進(jìn)行了采訪。

中國消費(fèi)者協(xié)會(huì)投訴部主任陳劍：經(jīng)常會(huì)有消費(fèi)者抱怨說我是老會(huì)員了，可是我的價(jià)格卻比普通會(huì)員（用戶）的價(jià)格要高。比如說在一些網(wǎng)約車的平臺(tái)、電影訂票平臺(tái)、訂機(jī)票的平臺(tái)等等，都會(huì)出現(xiàn)這類問題。第二種情形就是有一些消費(fèi)者如果多次瀏覽一個(gè)頁面，會(huì)出現(xiàn)（商品）價(jià)格上漲的情況。消費(fèi)者可能基于害怕漲價(jià)或者是發(fā)現(xiàn)比如機(jī)票很緊張的情況，就匆忙下單，結(jié)果等他下單之后發(fā)現(xiàn)，很快地這個(gè)價(jià)格又回落了。

據(jù)專家介紹，大數(shù)據(jù)殺熟，最關(guān)鍵的一步就是要對(duì)客戶非常“熟悉”，并由此提供差異化選擇，這在以往的一些商業(yè)模式中其實(shí)早已存在，而且很少有負(fù)面評(píng)價(jià)。

北京航空航天大學(xué)法學(xué)院副教授裴煒：大數(shù)據(jù)殺熟本身來說，它背后的現(xiàn)象其實(shí)是差異化定價(jià)。比如說保險(xiǎn)，不同的人的保金、保額或者保險(xiǎn)的強(qiáng)制期限都會(huì)不一樣。所以如果單純用差異化的定價(jià)來說的話，它不一定構(gòu)成一個(gè)負(fù)面性的東西。我們所反感的是沒有正當(dāng)性基礎(chǔ)的差別定價(jià)。

清華大學(xué)人工智能國際治理研究院副院長梁正：交通保險(xiǎn)會(huì)根據(jù)你的事故狀況、你的駕駛行為，來決定是否給你折扣，還是要加價(jià)。這個(gè)行為可能還在大家所接受的是客觀的行為，或者是客觀的個(gè)人差別上?，F(xiàn)在大家更關(guān)注的是，我的個(gè)人信息被利用去生成我的數(shù)據(jù)畫像，然后對(duì)我進(jìn)行定價(jià)上的這種區(qū)分。

據(jù)專家介紹，大數(shù)據(jù)殺熟與常見的差別定價(jià)不同，當(dāng)它無視消費(fèi)者的知情權(quán)和主動(dòng)權(quán)時(shí)，也就違背了消費(fèi)者貢獻(xiàn)數(shù)據(jù)的初衷。而在我國現(xiàn)行法律體系下，《價(jià)格法》《消費(fèi)者權(quán)益保護(hù)法》和《反壟斷法》都針對(duì)“大數(shù)據(jù)殺熟”可能涉嫌違法的情形進(jìn)行了規(guī)制。

北京航空航天大學(xué)法學(xué)院副教授裴煒：2020年的時(shí)候，我們專門針對(duì)在線旅游服務(wù)出了一個(gè)相應(yīng)的規(guī)范，要求在線旅游經(jīng)營服務(wù)者，不能夠?yàn)E用大數(shù)據(jù)或者是相應(yīng)的技術(shù)，針對(duì)用戶他的個(gè)性化的特征來進(jìn)行一個(gè)差異化的待遇?！断M(fèi)者保護(hù)法》里面本身就有相應(yīng)的規(guī)定，我們有獲得公平交易的權(quán)利，這本身就意味著要有一個(gè)價(jià)格的合理性。同時(shí)這個(gè)“殺熟”有可能還會(huì)涉及到比如說反壟斷法上的一些相關(guān)內(nèi)容。問題是存在的，但是我們也看到我們國家的立法，確實(shí)也是在不斷地去回應(yīng)這些現(xiàn)實(shí)的問題，努力地去保護(hù)我們用戶的一些合法權(quán)益。

據(jù)中消協(xié)介紹，消費(fèi)者對(duì)“大數(shù)據(jù)殺熟”等問題投訴不斷增多，問題的核心是互聯(lián)網(wǎng)平臺(tái)對(duì)算法技術(shù)的應(yīng)用問題，集中體現(xiàn)在推薦算法、價(jià)格算法、評(píng)價(jià)算法、排名算法、概率算法和流量算法等方面。

中國消費(fèi)者協(xié)會(huì)投訴部主任陳劍：比如說消費(fèi)者在買商品或者服務(wù)的時(shí)候，平臺(tái)會(huì)根據(jù)消費(fèi)者瀏覽過的頁面、消費(fèi)者一些喜好，包括他的行蹤軌跡，來對(duì)他形成一些個(gè)性化的推薦。其實(shí)可能經(jīng)營者對(duì)他進(jìn)行了一些精準(zhǔn)的個(gè)人數(shù)據(jù)畫像。這種畫像相關(guān)的商品和服務(wù)只推薦給了他，所以他所獲取的知情權(quán)就是存在很大的缺陷。

互聯(lián)網(wǎng)平臺(tái)是如何“熟悉”每一位用戶的呢？答案是通過用戶畫像。在精準(zhǔn)的用戶畫像背后，是平臺(tái)所累積的大量個(gè)人數(shù)據(jù)。

清華大學(xué)人工智能國際治理研究院副院長梁正：用我的這些數(shù)據(jù)，你最后對(duì)我作的這樣的一個(gè)（刻畫），這個(gè)是不是準(zhǔn)確？太準(zhǔn)確了的話，大家會(huì)擔(dān)心被操控。稍微深入一點(diǎn)討論就會(huì)發(fā)現(xiàn)，我在意的到底是本身這個(gè)叫做歧視性的定價(jià)，還是說背后所反映出來的我的信息被不當(dāng)?shù)夭杉屠茫?/p>

平臺(tái)累積大量個(gè)人數(shù)據(jù)“算”制用戶畫像

基于大數(shù)據(jù)的用戶畫像，能讓商家摸清你更愛吃辣還是酸，并通過算法把更符合你口味的餐廳排序靠前。用戶數(shù)據(jù)，往往是通過一個(gè)個(gè)手機(jī)App被互聯(lián)網(wǎng)平臺(tái)所采集的。而在我們和這些App打交道的過程中，同樣也有令大家擔(dān)憂的問題不斷出現(xiàn)。

App究竟是如何實(shí)現(xiàn)高精度地智能推送？普遍被用戶感知的“App偷聽”是否真實(shí)存在呢？

App治理工作組由全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)、中國消費(fèi)者協(xié)會(huì)、中國互聯(lián)網(wǎng)協(xié)會(huì)、中國網(wǎng)絡(luò)空間安全協(xié)會(huì)的一批網(wǎng)絡(luò)安全法律、技術(shù)專家組成。

技術(shù)專家首先通過一款由他們開發(fā)的模擬“App偷聽測試程序”。通過測試，證實(shí)了當(dāng)測試程序置于前臺(tái)運(yùn)行時(shí)，“偷聽”是可以實(shí)現(xiàn)的。

此外，經(jīng)過對(duì)比實(shí)驗(yàn)，技術(shù)人員告訴我們，在測試程序退至后臺(tái)，或者在手機(jī)處于鎖屏的情況下，錄音依然可以持續(xù)進(jìn)行一段時(shí)間，但都會(huì)自行終止。只是不同的手機(jī)操作系統(tǒng)，鎖屏下持續(xù)錄音的時(shí)長略有不同。

那么，在技術(shù)上可以實(shí)現(xiàn)的“偷聽”手段，是否在市面上的App中被濫用了呢？

App治理工作組技術(shù)專家何延哲：我們在做實(shí)際地對(duì)偷聽的這種檢測的時(shí)候，發(fā)現(xiàn)目前還沒有發(fā)現(xiàn)真正意義上哪款A(yù)pp有這種，把語音信息上傳之后的偷聽行為。

App治理工作組專家介紹，偷拍、偷錄雖然在技術(shù)上可以實(shí)現(xiàn)，但是這種方式成本高昂、效率低下，而且存在高昂的法律風(fēng)險(xiǎn)。

App治理工作組專家表示，目前無論是行業(yè)標(biāo)準(zhǔn)還是技術(shù)層面，都在進(jìn)一步強(qiáng)化對(duì)手機(jī)麥克風(fēng)等敏感權(quán)限調(diào)用的透明度，以做到讓手機(jī)使用者知情。

App治理工作組技術(shù)專家何延哲：現(xiàn)在我們看到有一些手機(jī)操作系統(tǒng)，已經(jīng)實(shí)現(xiàn)了對(duì)麥克風(fēng)使用的實(shí)時(shí)提示。我們叫攝錄指示器，也就是說當(dāng)你要調(diào)用麥克風(fēng)的時(shí)候，有一個(gè)狀態(tài)欄，有一個(gè)紅點(diǎn)或者說有一個(gè)提醒。

剛剛和朋友聊起健身計(jì)劃，轉(zhuǎn)眼網(wǎng)購平臺(tái)都開始向你推薦健身用品；或者在一個(gè)平臺(tái)檢索過火鍋底料，許多平臺(tái)都開始向你頻繁推薦涮鍋食材甚至是鍋具。如此精準(zhǔn)的個(gè)性化推薦是如何實(shí)現(xiàn)的呢？

App治理工作組技術(shù)專家何延哲：一個(gè)App可以把一個(gè)用戶做360度的畫像。這個(gè)畫像我相信，它是一個(gè)常年積累的結(jié)果，這是第一；第二，是多個(gè)渠道匯聚的結(jié)果。

據(jù)專家介紹，畫像的準(zhǔn)確性，主要是通過對(duì)我們的購買記錄、瀏覽記錄、搜索記錄，甚至是下載過的應(yīng)用程序清單等信息進(jìn)行大數(shù)據(jù)分析，最終得以實(shí)現(xiàn)的。

App治理工作組技術(shù)專家何延哲：為什么說有時(shí)候你會(huì)感覺被偷聽呢？提供大數(shù)據(jù)的這個(gè)來源，它不是當(dāng)前的這個(gè)App，它可能是其他App。你去做過一些操作，它會(huì)把相應(yīng)的信息匯總到一起，它可能還會(huì)關(guān)聯(lián)你的好友、關(guān)聯(lián)你同一個(gè)區(qū)域內(nèi)的人員。然后他們有的一些動(dòng)作，也可能會(huì)成為它推送廣告的一個(gè)方向。

專家提示，用戶可以在手機(jī)操作系統(tǒng)的權(quán)限設(shè)置里，找到麥克風(fēng)權(quán)限，檢查目前有哪些App被授權(quán)使用麥克風(fēng)。根據(jù)自己的需要，用戶是可以隨時(shí)關(guān)閉對(duì)App使用麥克風(fēng)的授權(quán)的。

App違法違規(guī)收集個(gè)人信息更應(yīng)被重視

即使是原本不屬于個(gè)人信息的數(shù)據(jù)，在大量匯聚之后，也能挖掘出事物之間不為人知的聯(lián)系。因此在App治理工作組專家看來，更應(yīng)該被重視的，是App違法違規(guī)收集使用個(gè)人信息的行為。而在他們近日對(duì)市面上的App進(jìn)行檢測時(shí)，發(fā)現(xiàn)了隱私政策篇幅長、用戶難以讀懂；賬戶無法注銷等諸多問題。

App治理工作組技術(shù)專家何延哲：治理工作會(huì)非常關(guān)注收集個(gè)人信息最小化的問題。事實(shí)上這個(gè)問題我們從實(shí)際上來看，從這兩年來看的話，其實(shí)是解決了一部分問題。但是解決問題的速度包括效果可能還不太理想，包括那個(gè)隱私政策，確實(shí)有了，但是它寫得好不好？注銷有了，那他注銷的條件合不合理等，這方面有一些問題。

我們舉一個(gè)例子。在測試的過程中，我們發(fā)現(xiàn)這一款壁紙的App，它的隱私政策竟然有一萬多字。那我們看它到底寫了什么。我相信沒有任何一個(gè)人，會(huì)把這個(gè)隱私政策讀完的。即便是像我們這種每天讀隱私政策的人看得都很頭疼。就比如說，這個(gè)隱私政策中寫的這個(gè)位置信息。App說我要位置信息，它說了一大堆理由，但是我看它這個(gè)理由和壁紙都沒有什么關(guān)系。

北京航空航天大學(xué)法學(xué)院副教授裴煒：隱私政策究竟有沒有真的服務(wù)到用戶，有沒有真的保護(hù)到個(gè)人，這塊其實(shí)是屬于一個(gè)斷裂的狀態(tài)。所以未來比較擔(dān)心的一點(diǎn)，就是這種保護(hù)的形式化。

App治理工作組設(shè)有“App個(gè)人信息舉報(bào)”微信公眾號(hào)平臺(tái)和專用舉報(bào)郵箱。專家告訴記者，賬號(hào)注銷難，是目前用戶投訴量很大的另一個(gè)問題。

中國人民大學(xué)未來法治研究院副院長丁曉東：我們從信息法律的研究上來說，經(jīng)常有一個(gè)術(shù)語叫做“數(shù)字烙印”。在這個(gè)網(wǎng)絡(luò)社會(huì)上，踩的腳印全部都是被永久留痕的。在我們國家的個(gè)人信息保護(hù)法里專門作出了規(guī)定，這個(gè)我們說從法律權(quán)益上來說，它是屬于個(gè)人的一種刪除權(quán)。

北京航空航天大學(xué)法學(xué)院副教授裴煒：信息技術(shù)安全國標(biāo)，其中涉及到個(gè)人信息安全規(guī)范里面，就專門提到關(guān)于這個(gè)注銷。就是說用戶你在注銷或者是停止使用某種服務(wù)的時(shí)候，它的途徑和方式應(yīng)該盡可能地與你使用這個(gè)服務(wù)的時(shí)候，它的這個(gè)途徑和方式是相同的。那么同時(shí)你在注銷的過程中被要求提供的信息，不應(yīng)該比你在使用App的時(shí)候使用的這些信息、提供的身份信息更多。

專家介紹，在數(shù)據(jù)要素的流通過程中，個(gè)人信息的采集，只是其中一個(gè)環(huán)節(jié)。保護(hù)個(gè)人信息安全，數(shù)據(jù)的儲(chǔ)存、處理和流通環(huán)節(jié)，同樣需要關(guān)注。

中國人民大學(xué)未來法治研究院副院長丁曉東：如果把前端環(huán)節(jié)（數(shù)據(jù)搜集）就給封閉的話，其實(shí)對(duì)于人工智能和數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，其實(shí)會(huì)造成很大的影響。那怎么樣去調(diào)和呢？我想一個(gè)很重要的方面就在于說個(gè)人信息的搜集之后，一定要對(duì)它進(jìn)行一個(gè)非常嚴(yán)格的全生命周期的一個(gè)管理。我們要有匿名化機(jī)制、模糊化機(jī)制。處理的時(shí)候我們可能要采取一些數(shù)據(jù)最小化的處理原則，處理必要的數(shù)據(jù)。在儲(chǔ)存和流通環(huán)節(jié)以及保護(hù)泄露的問題上，尤其要采取一個(gè)非常高的標(biāo)準(zhǔn)。

法律還存一定短板，安全邊界該劃定還需探索

現(xiàn)在，技術(shù)帶來的便利和個(gè)人信息的保護(hù)，正處在一個(gè)搖擺天平的兩端。在這個(gè)天平的“配平”過程中，法律扮演什么樣的角色？

中國人民大學(xué)未來法治研究院副院長丁曉東：我們傳統(tǒng)上的消費(fèi)者保護(hù)法，還要包括合同法對(duì)于格式條款上的應(yīng)用、侵權(quán)法對(duì)于侵權(quán)問題上的應(yīng)用，以及行政監(jiān)管里面的很多問題。在這些法律里面都可以在一定程度上去援引。但是另一方面，由于很多問題都是由于個(gè)人信息和算法這些新技術(shù)所帶來的，所以在一定程度上來說，也還存在著一定的短板，立法機(jī)關(guān)也在積極跟進(jìn)當(dāng)中。我們的民法典生效，可能會(huì)對(duì)個(gè)人信息的保護(hù)，會(huì)提供很多法律上的支撐。那么個(gè)人信息保護(hù)法（草案）、還有數(shù)據(jù)安全法（草案）的制定，未來的話肯定也會(huì)提供很多的額外的保護(hù)。

如今，我們每個(gè)人都在大量地生產(chǎn)信息。專家表示，在當(dāng)下這個(gè)由算法和大數(shù)據(jù)驅(qū)動(dòng)的社會(huì)生活里，法律扮演的更多是兜底保障的角色。安全邊界的劃定，需要監(jiān)管機(jī)構(gòu)、平臺(tái)和用戶三方在互動(dòng)中來探尋。

清華大學(xué)人工智能國際治理研究院副院長梁正：我們也不是一味地通過比如說一些禁止的方式，就能解決它。技術(shù)的進(jìn)步你都會(huì)看到它會(huì)帶來新問題，但是這個(gè)問題的解決呢，也是靠這些技術(shù)本身去給我們解決的。

業(yè)內(nèi)人士田天：數(shù)據(jù)要素作為一項(xiàng)很重要的生產(chǎn)力，去通過數(shù)據(jù)賦能產(chǎn)業(yè)鏈的上下游，促進(jìn)數(shù)據(jù)的流通，包括去促進(jìn)數(shù)據(jù)的交易等等。由于存在大量的個(gè)人隱私信息，或者說一些商業(yè)的數(shù)據(jù)資產(chǎn)等等，就導(dǎo)致數(shù)據(jù)的分享、流通和利用，其實(shí)中間存在很大的困難。現(xiàn)在其實(shí)在學(xué)術(shù)界相應(yīng)的一些聯(lián)邦學(xué)習(xí)等等，這種技術(shù)都是在解決這個(gè)問題，推動(dòng)相關(guān)的標(biāo)準(zhǔn)規(guī)范等等，就是并不希望大家因?yàn)檫@種數(shù)據(jù)安全的一些問題，就因噎廢食。

從事人工智能安全研究的技術(shù)專家告訴記者，目前，技術(shù)手段上，已經(jīng)能夠做到在數(shù)據(jù)依然儲(chǔ)存在原始位置的情況下，達(dá)到同樣的分析效果。

業(yè)內(nèi)人士田天：相當(dāng)于數(shù)據(jù)明文并不出庫，但是通過加密的一些方式，就可以實(shí)現(xiàn)人工智能在加密數(shù)據(jù)上的運(yùn)算。能夠感知到的效果就是說，我的數(shù)據(jù)資產(chǎn)并沒有泄露，也沒給到別人。沒有任何隱私信息的泄露，但同時(shí)我得到一個(gè)在更加豐富的數(shù)據(jù)上訓(xùn)練得出來的模型。

清華大學(xué)人工智能國際治理研究院副院長梁正：從法律法規(guī)的層面來講呢，應(yīng)該是兜底。然后我們劃定一些紅線，不能夠去影響到公共的安全。像數(shù)字經(jīng)濟(jì)的甚至有一些商業(yè)模式的迭代是很快的，這方面不能完全等到法律制定出來。針對(duì)每一個(gè)問題都可以有相應(yīng)的技術(shù)解決方案來應(yīng)對(duì)它，不是沒解的。關(guān)鍵是我們要把規(guī)則制定清楚。