關(guān)于算法歧視，目前最廣為人知的表現形式為“大數據殺熟”。國務(wù)院反壟斷委員會(huì )將“大數據殺熟”界定為“社會(huì )公眾對互聯(lián)網(wǎng)平臺利用大數據和算法對用戶(hù)進(jìn)行‘畫(huà)像’分析，從而收取不同價(jià)格等行為的概括性說(shuō)法?！盵3]

參考上述界定，算法歧視可理解為平臺等在為用戶(hù)提供‘量身定制’的商品、服務(wù)時(shí)，基于其所收集的用戶(hù)數據（大數據），利用算法技術(shù)對用戶(hù)進(jìn)行“畫(huà)像”分析,并基于該“畫(huà)像”結果有針對性地對不同用戶(hù)實(shí)施差別待遇或歧視待遇，其中包括價(jià)格歧視或交易條件歧視、身份或性別歧視、就業(yè)歧視、教育歧視、信貸歧視等。

關(guān)于平臺實(shí)施算法歧視的具體表現形式，結合《國務(wù)院反壟斷委員會(huì )關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》（國反壟發(fā)〔2021〕1號，以下簡(jiǎn)稱(chēng)“平臺反壟斷指南”）第十七條，具體包括：（一）基于大數據和算法，根據交易相對人的支付能力、消費偏好、使用習慣等，實(shí)行差異性交易價(jià)格或者其他交易條件；（二）實(shí)行差異性標準、規則、算法；（三）實(shí)行差異性付款條件和交易方式等。

算法歧視的產(chǎn)生與互聯(lián)網(wǎng)技術(shù)的興起有著(zhù)直接關(guān)系。特別是隨著(zhù)平臺經(jīng)濟、數字經(jīng)濟的到來(lái)，以算法為代表的人工智能與大數據相結合的自動(dòng)化決策技術(shù)在各個(gè)領(lǐng)域得到廣泛使用，算法日益滲透到我們生活的方方面面。平臺廣泛收集各種個(gè)人信息，根據消費者過(guò)去對特定商品的瀏覽時(shí)間、關(guān)鍵字的使用、搜索頻率及購物歷史等“足跡”、利用算法準確預測消費者的價(jià)格預期與興趣偏好，為不同消費者推薦不同商品、確定不同價(jià)格，從而提升個(gè)性化數字購物體驗、節省了選購時(shí)間。 

同時(shí)，對于平臺等經(jīng)營(yíng)者而言，算法定價(jià)也具有相當的優(yōu)勢，不僅大幅降低了復雜定價(jià)、變更價(jià)格的成本，而且顯著(zhù)提高了定價(jià)決策的質(zhì)量，實(shí)現商業(yè)利益的最大化。如果沒(méi)有算法技術(shù)，經(jīng)營(yíng)者往往無(wú)從判斷買(mǎi)家的支付意愿和心理預期，而借助大數據、算法技術(shù)，經(jīng)營(yíng)者便可通過(guò)海量數據分析了解客戶(hù)具體需求和預期，針對性地為客戶(hù)提出目標商品與目標定價(jià)方案，應客戶(hù)需求變化優(yōu)化定價(jià)策略，實(shí)施動(dòng)態(tài)價(jià)格管理，最終促成交易并將定價(jià)成本降至最低。

正是由于算法具有上述優(yōu)勢，導致其在各個(gè)領(lǐng)域的應用日益擴大。但隨著(zhù)大數據、人工智能、算法的結合，其在產(chǎn)生積極作用的同時(shí)，也正在改變著(zhù)許多市場(chǎng)和行業(yè)的競爭格局，引發(fā)了價(jià)格歧視等各種問(wèn)題。

算法歧視的產(chǎn)生、發(fā)展有其自身的原因和背景。首先，算法具有預設的價(jià)值取向，算法無(wú)法完全擯棄設計者自身的價(jià)值取向、意圖或者局限，難以完全實(shí)現中立、客觀(guān)。其次，作為算法計算基礎的“數據”也可能存在瑕疵，這會(huì )從根本上影響算法的計算結果。最后，技術(shù)本身的發(fā)展也具有不可預期性，特別是隨著(zhù)深度學(xué)習技術(shù)的發(fā)展，從輸入數據到輸出結果的全過(guò)程都可能形成外界無(wú)法獲知的“算法黑箱”，這可能也會(huì )加劇算法歧視等問(wèn)題。

隨著(zhù)利用算法的自動(dòng)化決策在金融信貸、投保、招聘篩選、公共服務(wù)等越來(lái)越多的場(chǎng)景中得到運用，如果對算法歧視等問(wèn)題予以放任，除了可能對消費者的知情權、選擇權和公平交易權造成侵害外，還可能導致并加劇其他經(jīng)濟、社會(huì )問(wèn)題，引發(fā)社會(huì )結構固化、資源流動(dòng)受阻、加劇社會(huì )不公等。

因此，如何在充分利用算法自動(dòng)化決策積極作用的同時(shí)，降低或消除算法歧視等消極作用，是現今各國加強算法規制所面臨的共同背景和挑戰。

我國對算法歧視的規制體系，總體而言，可分為國家戰略規劃、相關(guān)法律法規、技術(shù)標準等三個(gè)層次。

關(guān)于國家戰略規劃，如2017年發(fā)布的《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規劃的通知》明確提出“制定促進(jìn)人工智能發(fā)展的法律法規和倫理規范”、“建立健全公開(kāi)透明的人工智能監管體系，實(shí)行設計問(wèn)責和應用監督并重的雙層監管結構，實(shí)現對人工智能算法設計、產(chǎn)品開(kāi)發(fā)和成果應用等的全流程監管。促進(jìn)人工智能行業(yè)和企業(yè)自律，切實(shí)加強管理，加大對數據濫用、侵犯個(gè)人隱私、違背道德倫理等行為的懲戒力度?！贝送?，國家網(wǎng)信辦等九部門(mén)最新發(fā)布的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見(jiàn)》（國信辦發(fā)文〔2021〕7號）進(jìn)一步提出，利用三年左右時(shí)間，逐步建立治理機制健全、監管體系完善、算法生態(tài)規范的算法安全綜合治理格局。

在法律法規層面，除《反壟斷法》相關(guān)規定外，《電子商務(wù)法》、《個(gè)人信息保護法》等多部法規都對算法規制作出規定，具體如下表所示：

除了上述規定外，我國還頒布了大量的實(shí)施細則、政策規定。2019年12月15日發(fā)布的《網(wǎng)絡(luò )信息內容生態(tài)治理規定》第十二條明確要求，網(wǎng)絡(luò )信息內容服務(wù)平臺采用個(gè)性化算法推薦技術(shù)推送信息的，應當設置符合法律要求的推薦模型，建立健全人工干預和用戶(hù)自主選擇機制等。2020年8月20日發(fā)布的《在線(xiàn)旅游經(jīng)營(yíng)服務(wù)管理暫行規定》第十五條明確規定，在線(xiàn)旅游經(jīng)營(yíng)者不得濫用大數據分析等技術(shù)手段，基于旅游者消費記錄、旅游偏好等設置不公平的交易條件，侵犯旅游者的合法權益。

在技術(shù)標準體系層面，我國目前已發(fā)布《國家新一代人工智能標準體系建設指南》、個(gè)人信息及信息技術(shù)安全等一系列國家標準體系及認證監管體系。以個(gè)人信息為例，國家標準《GB/T 35273—2020信息安全技術(shù) 個(gè)人信息安全規范》對個(gè)人信息、用戶(hù)畫(huà)像使用等作出明確限制。按其規定，個(gè)人信息控制者在業(yè)務(wù)運營(yíng)或對外業(yè)務(wù)合作中使用用戶(hù)畫(huà)像，不應侵害公民、法人和其他組織的合法權益……除為實(shí)現個(gè)人信息主體授權同意的使用目的所必需外，使用個(gè)人信息時(shí)應消除明確身份指向性，避免精確定位到特定個(gè)人。例如，為準確評價(jià)個(gè)人信用狀況，可使用直接用戶(hù)畫(huà)像，而用于推送商業(yè)廣告目的時(shí)，則宜使用間接用戶(hù)畫(huà)像。

總體而言，由于算法技術(shù)仍在不斷發(fā)展，因此，相關(guān)法律規定也處在動(dòng)態(tài)的變化之中，仍需持續關(guān)注。下文，我們將主要從反壟斷法角度就我國算法歧視相關(guān)規制予以說(shuō)明。

目前，我國關(guān)于算法歧視反壟斷規制最具體的規定為平臺反壟斷指南第十七條。該條規定專(zhuān)門(mén)就平臺利用自動(dòng)化決策機制實(shí)施差別待遇作出規定，并列明了具體的表現形式。

按照平臺反壟斷指南的規定，具有市場(chǎng)支配地位的平臺經(jīng)濟領(lǐng)域經(jīng)營(yíng)者通過(guò)大數據和算法對交易條件相同的交易相對人實(shí)行差別待遇，如差異性定價(jià)或其他交易條件、實(shí)行差異性標準、規則、算法或實(shí)行差異性付款條件和交易方式，可能屬于濫用市場(chǎng)支配地位、排除和限制競爭的行為，并受到反壟斷法的規制。但并非所有的差異性定價(jià)、差別待遇均屬于濫用市場(chǎng)支配地位的違法活動(dòng)。在下列情形下，平臺經(jīng)濟領(lǐng)域經(jīng)營(yíng)者實(shí)施差別待遇行為可能具有一定的正當性：根據交易相對人實(shí)際需求且符合正當的交易習慣和行業(yè)慣例，實(shí)行不同交易條件；針對新用戶(hù)在合理期限內開(kāi)展的優(yōu)惠活動(dòng)；基于平臺公平、合理、無(wú)歧視的規則實(shí)施的隨機性交易；能夠證明行為具有正當性的其他理由。

結合上述規定來(lái)看，合法、正當地利用算法進(jìn)行用戶(hù)畫(huà)像、自動(dòng)化決策并區別對待仍然為法律所允許、鼓勵。但是，超過(guò)合法、正當的范圍，則可能會(huì )受到反壟斷法的規制。

截止目前，我國反壟斷執法機構已對多起涉及網(wǎng)絡(luò )平臺的濫用市場(chǎng)支配地位案件進(jìn)行了查處，比如在最近國家市場(chǎng)監管總局查處的阿里巴巴案、美團案中，都涉及利用算法、大數據及技術(shù)優(yōu)勢實(shí)施濫用市場(chǎng)支配地位的行為。

同時(shí)，在上述案件中，反壟斷執法機構除作出相應的處罰決定外，還發(fā)布了《行政指導書(shū)》要求企業(yè)整改，其中特別要求：“不得利用技術(shù)手段、平臺規則和數據、算法等，實(shí)施壟斷協(xié)議和濫用市場(chǎng)支配地位行為，排除、限制市場(chǎng)競爭?！薄耙婪橄M者提供全面、真實(shí)、準確、及時(shí)的交易信息，不得違法收集個(gè)人信息和違法實(shí)施算法推薦，依法保護消費者個(gè)人信息和隱私，維護消費者利益?！?/p>

總體而言，對于網(wǎng)絡(luò )平臺經(jīng)濟領(lǐng)域算法歧視等濫用市場(chǎng)支配地位的查處，和其他類(lèi)型的濫用市場(chǎng)支配地位一樣，也遵循大體相同的規制思路，即界定相關(guān)市場(chǎng)并確定當事人具有市場(chǎng)支配地位，然后再分析是否存在市場(chǎng)濫用行為以及是否存在正當理由等抗辯事由。

在大數據和算法時(shí)代，濫用市場(chǎng)支配地位實(shí)施差別待遇行為的形式愈發(fā)多樣、手段愈發(fā)隱蔽，導致今后對其的規制需要更多地考慮算法規則、自動(dòng)化決策過(guò)程等技術(shù)性問(wèn)題，這也加大了反壟斷執法機構的查處難度。但這些問(wèn)題并不會(huì )從根本上降低相關(guān)違法違規行為被查處、處罰的風(fēng)險。

相反，考慮網(wǎng)絡(luò )平臺算法歧視對市場(chǎng)競爭的重大危害，反壟斷執法機構日益關(guān)注這一領(lǐng)域的壟斷行為。平臺反壟斷指南的頒布以及我國《反壟斷法（征求意見(jiàn)稿）》都體現了這一點(diǎn)。因此，通過(guò)建立反壟斷合規制度、確保算法合規，有助于平臺企業(yè)在日常經(jīng)營(yíng)中預防、減少壟斷行為，最大程度降低壟斷法律風(fēng)險和成本。                                         

對于算法合規的原則和方法，國家網(wǎng)信辦于今年8月27日發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定（征求意見(jiàn)稿）》，對應用算法推薦技術(shù)[5]提供互聯(lián)網(wǎng)信息服務(wù)的基本原則、基本管理制度作了較為全面而系統的規定。這也可以作為企業(yè)建立算法合規的一個(gè)重要參考，現將其主要內容整理如下：

當然，上述互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定（征求意見(jiàn)稿）》并非最終發(fā)布的正式規定，對其后續立法動(dòng)態(tài)還需關(guān)注。