算法爲你我構建“楚門的世界”

編者按:本文刊登於今天(2022年6月20日)出版的《互聯網週刊》,作者爲中國社會科學院數量經濟與技術經濟研究所助理研究員端利濤,研究方向:雙邊市場理論、數字經濟,郵箱:[email protected],特此推薦。】

1998年,電影《楚門的世界》(TheTrumanShow)上映,影片中的主人公楚門·伯班克(Truman Burbank)生活在一個由“全世界”爲其精心設計的一個真實的假象世界中。在這個“世界”中,楚門生活在一個叫作海景的小城裏,除了主人公楚門是以自己的意志真實地生活之外,其他的所有都是導演和編劇爲其精心策劃的,包括楚門的工作、生活、戀愛,甚至其家人都是“導演”精心策劃的。導演人爲地製造了楚門小時候和父親出海,並遭受暴風雨而失去父親的經歷,使其對出海產生恐懼,從而“永遠地”生活在海景這個小城中,併爲他設定一系列溫馨和諧的生活場景,讓其對本地的生活充滿依賴,從而不會主動選擇離開這裏。令人欣慰的是,最終,因爲楚門的“父親”對劇組的編排感到失望,將導演的計劃打亂,自己突然重新出現在楚門的面前,讓楚門開始逐漸發覺到自己身邊的一切都是假的。自此,楚門憑藉自己的信念走出了這個爲其量身定做的楚門的世界。

楚門成功了,但現實中的我們卻不一定。

如今,已經不會有人否認,算法正在重新定義我們的生活。當我們隨便打開兩個不同手機的同一款APP,發現展示給我們的界面是不一樣的,但內容基本都是符合我們偏好的;當我們用不同系統的手機,發現甚至同一品牌不同價位的手機用同一款APP打車,完全相同的駕駛路線的收費也是不一樣;當我們打開亞馬遜商城的APP進行購物,發現同一天的不同時刻,同一件商品的價格是不一樣的,上班時間的價格明顯低於下班時間……如此種種,習慣上被人稱爲大數據“殺熟”,但更形象、也更讓人擔心的一種稱呼則是“個性化定價”,即千人千面。

除了這些現象,我們偶爾也會發現處於競爭關係的兩家平臺企業在市場上會出現“平行行爲”,即兩傢俱有競爭關係的企業在短時間內進行同樣的市場決策,比如調價。只是我們不敢確定這種行爲是否是協商之後的,甚至更多情況下不會對這種現象做出任何的好奇。因爲在我們個人的視角下,它們的這種行爲是“完全正常的”。而當我們跳出我們每個人所處的算法環境,我們會赫然發現,原來我們每個人都是“楚門的世界”中的絕對主角。這種事件真實地發生過。2015年4月美國司法部指控亞馬遜(Amazon.com)某海報等印刷品商家的電子主管David Topkins,因其利用算法與其他商家聯合固定商品價格,實現共謀。該電子主管通過Amazon.com制定了相應的調價算法,該算法能夠蒐集在Amazon.com上其他海報商家的價格信息,並與競爭對手實時交換價格信息,協調賣價。

關於這個問題,牛津大學競爭法教授阿里爾·扎拉奇專門撰寫了一本專著——《算法的陷阱》。在這本書中,扎拉奇教授分別從場景設定、共謀場景、行爲歧視、競合關係(數據與隱私)和“有形之手”介入等五個方面對當前我們所遇到的和即將有可能遇到的算法陷阱做了形象地描繪和深度地討論,並在最後表達了對算法引起的反壟斷問題的擔憂。

例如,在場景設定部分中,扎拉奇教授明確提出,

“那雙曾經默默守護着我們的‘無形的手’已經被一直‘數字化的手’所取代” 。

平臺利用用戶留在平臺上的數據,通過算法爲每一個用戶製造了一個“楚門的世界”。在這種情況下,平臺朝着完美行爲歧視迸發。在這個背景下,扎拉奇教授提出一個疑問:

如果私營企業可以利用大數據分析工具高效地完成定價工作,是否這也說明政府可以運用同樣的工具去檢測工業產品出廠價格甚至是確定競爭性定價?如果像優步一樣,一個既不擁有出租車也不僱用司機的企業都可以決定出租車市場的價格,那麼政府又何嘗不可呢?

在共謀場景部分中,扎拉奇教授對企業利用前沿科技、算法實現默許合謀表示擔心:

場景分析表明,在特定的市場條件下,企業的定價算法會自發形成一個利潤最大化的策略,從而發生有意識的平行行爲。

基於AI算法,企業擁有了“上帝視角”,可以在任何調價行爲發生之前就對競爭對手發起的威脅做出預測並且及時採取反制措施。“上帝視角”使默許合謀的場景已然可以走出同質化產品市場。而目前,針對此現象的執法工具箱仍舊空空如也。

筆者也在研究基於算法的互聯網平臺對社會、經濟的影響,因此在讀完扎拉奇教授的這本著作之後深受啓發,第一個出現在腦海中的詞語就是“信息繭房”,這也是近幾年互聯網平臺給人最大的印象。在諸如今日頭條、網易新聞、快手、抖音等媒體APP中,系統推薦給我們的內容永遠是我們喜歡的內容;在諸如淘寶、京東商城、拼多多等在線購物APP中,系統推薦給我們的也是我們比較中意的商品。在這背後是推薦算法的熟練運用和消費者數據的不斷積累,而且這兩個因素存在着典型的正反饋關係——推薦得越準確,用戶參與的次數也就越多,因而留下的數據也就越多,進而再次提高了推薦的準確度。但是這種精準的推薦服務的代價就是我們“拱手奉上的個人信息數據”,而且還會使我們處於自己編織的“信息繭房”之中。所以不禁要問:是我們定義了算法,還是算法在定義我們?算法改變了什麼?

之前讀過羅布·多科特斯、約翰·漢森、塞西莉亞·阮和邁克爾·巴爾齊萊撰寫的《情景定價》一書。在這本書中,作者們詳細地講述了消費情境對消費者支付意願的影響,不同的情境下消費者的支付意願差別往往很大,比如:

“在仲夏海灘上,一杯冰可樂的價格要比暴風雪肆虐的北極定價高!”

而互聯網平臺的算法正在爲我們制定能夠提高我們支付意願的個性化情境。比如,一些電商平臺的會員就是在爲消費者制定“富人情境”,因此經常會發現購買了會員的消費者在購買同一件商品時所面臨的價格要高於沒有購買該會員的消費者。針對這個問題,政府相繼出臺了多部法律法規進行規制,但效果不佳。筆者認爲出現這種問題最根本的原因在於這些法律法規針對的只是大數據“殺熟”的現象,並沒有深入問題的本質。每一次交易中,商品的價值對消費者來講都是情境依存的。當平臺可以從消費者的信息中心獲得其最大支付意願,且可以爲其制定個性化的交易環境時,“殺熟”不可避免。因此,在討論大數據“殺熟”的本質是什麼時,《算法的陷阱》這本書中的一個小結的標題或許可以解釋——受控生態系統:楚門的世界。所以,要打破這種現狀,有必要讓每個身處“楚門的世界”中的用戶跳出這個虛假的幻境,讓購買相同商品/服務的消費者之間存在低成本的可比性。“‍Collusion by algorithm: Does better demand prediction facilitate coordination between sellers?”一文,文中作者認爲互聯網平臺不能及時、完全準確的對市場上的信息做出正確判斷,因此對於互聯網平臺之間的默許合謀問題不必過分擔心。而讀完《算法的陷阱》之後,發現Miklós-Thal和Tucker可能低估了算法的力量。因爲利用人工智能算法,平臺可以非常輕鬆地處於“上帝視角”的位置,

“計算機可以在任何調價行爲發生之前就對競爭對手發起的威脅做出預測並且及時採取反制措施”。

而當市場上所有互聯網平臺都擁有“上帝視角”時,它們之間也不得不相互忌憚。顯然,有人工智能算法加持的互聯網平臺已經對《競爭法》和《反壟斷法》發起了挑戰。面對這種情況,傳統的監管已經無濟於事,新的監管方式是什麼?可否基於平臺算法的邏輯設置對應的算法是值得考慮的。

互聯網平臺利用算法運營已經司空見慣,但算法帶來的問題卻始終得不到有效解決。因此,希望讀到這本書的朋友也能夠基於自己的思考提出真知灼見。最後,希望我們都能用《楚門的世界》主人公楚門·伯班克的經典臺詞向平臺們問好:

Good morning, and in case I don’t see you, good afternoon, good evening, and good night!

(文/端利濤 中國社會科學院數量經濟與技術經濟研究所)

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。