本文首發於《法治周末報》。亦可視為對Manolo:從法的實驗到實驗的法:A/B實驗對互聯網治理的變革效應一文的增補。
通過AB實驗優化產品和服務是互聯網平臺的“標準動作”。不誇張地說,AB實驗幾乎塑造瞭生活中移動應用的每一個按鈕、每一屏界面和每一項功能。隨著互聯網平臺在個人信息保護、消費者權益保護和反壟斷等方面的法律問題越發受到重視,AB實驗也就越發展現出截然不同的兩面。“A面”是需要規制的一面,是如何防范AB實驗用於侵害個體的權益;“B面”是發揮潛力的一面,是如何通過AB實驗設計更好維護個體的權益。通過梳理、展望世界范圍內的立法、執法與司法如何應對AB實驗,可以更好地規制其風險,同時發揮其潛力。
什麼是AB實驗
AB實驗的核心思想並不復雜。比方說,假使需要優化應用內按鈕的設計,來增加用戶的點擊量,便可以通過AB實驗的方法:隨機將用戶分組,然後展示按鈕設計備選的A方案和B方案,根據不同組別用戶的點擊量來選擇A或B。推而廣之,小到按鈕和界面的設計,大到應用功能的推出與運營,隻要能夠明確定義其目標(比如點擊量),就都可以通過AB實驗的方法來不斷選擇、改進。
AB實驗因而具備科學性和敏捷性。科學性指的是通過隨機對照實驗的方式,能夠精確地衡量不同備選方案對結果的影響。敏捷性則可以展開到四個具體層面。一是適用的范圍非常靈活,實驗的對象很靈活,實驗的目標也很靈活。二是反饋非常迅速,隻需要按周計甚至按日計的時間,就能收獲實驗的結果。三是可以持續進行,通過不斷實驗小的改進累積成大的突破。四是可以撤銷回滾,如果發現實驗導致瞭預期之外的壞結果,能夠迅速回滾到實驗開始前的狀態。
AB實驗當然也有更為復雜的側面。科學性和敏捷性不會自然而然實現,需要艱巨的工程努力。此外還有更重要的一點:實驗對象和目標的無比靈活,意味著AB實驗也可用於對用戶不利。例如,不難想象如何通過AB實驗“改進”彈窗,使其更抓眼球、更占空間、也更難關閉。這些側面需要進一步的討論。
AB實驗的“A面”
AB實驗對用戶造成不利的可能性已經引起多地監管機關的關註。美國聯邦貿易委員會(FTC)的探索最多,也最具代表性。FTC不僅通過報告在理論層面解說AB實驗的風險,還查處AB實驗實踐中用於損害用戶權益的案件。這些探索對防范AB實驗侵害用戶權益有其借鑒意義。
FTC在2022年9月發佈的《陽光照亮“黑模式”》報告精辟地討論瞭風險。“黑模式”是近年來域內外互聯網平臺治理的熱點,指平臺通過設計來操縱或扭曲用戶的選擇。譬如,將關閉個性化廣告的按鈕“藏”在應用的最深處。如何讓設計最好地發揮操縱或扭曲的效果,包括如何隱藏或者混淆關閉按鈕,當然需要通過AB實驗。FTC進一步指出:因為AB實驗的日益自動化和高效,平臺能夠通過實驗遍歷人力所不能及的海量設計方案,進而發掘出前所未有的能夠操縱或扭曲用戶的設計。故此,特定類型的AB實驗是查處黑模式時一項重要的“信號”。
FTC同樣在2022年9月查結的Credit Karma案即涉及AB實驗。作為一傢主打“免費”特色的個人信貸管理平臺,Credit Karma長期通過郵件、網頁等渠道向個體展示包含“您已獲[某知名銀行]預先批準申領信用卡”陳述的廣告。這是AB實驗的結果:通過實驗,Credit Karma發現比起如實展現個體獲批信用卡的概率,這一陳述更加能夠“促進銷售轉化和消費者的行動”。然而,陳述並不屬實,許多點擊廣告申領信用卡的個體最終遭銀行拒絕。FTC因此指控Credit Karma做出欺詐性陳述、違反瞭《FTC法》。AB實驗是指控中的一項重要證據。2022年9月,雙方簽署和解令。Credit Karma需要向相應個體支付300萬美元補償,糾正違法行為,並采取其他一系列合規措施。
綜上,無論理論還是實踐,AB實驗都正在成為監管機關所關註的“信號”。不僅如此,AB實驗本身也正在成為監管機關“工具箱”的得力組件。例如在指控DIRECTV做出欺詐性陳述的案件中,FTC就提交瞭基於實驗的專傢證言。未來的互聯網平臺治理因此可以向兩個方向發展:一是將AB實驗納入偵查和分析的視野,二是將AB實驗發展成為科學、敏捷的監管科技的一部分。
AB實驗的“B面”
AB實驗既可能造成不利,也有為善的潛力。譬如,將實驗的目標從單純著重平臺利益的點擊率換成用戶的滿意度,就是更加正面的效果。這樣的潛力同樣引起瞭監管機關的矚目。最典型的例子是歐盟數據保護委員會(EDPB)認可AB實驗用於遵從個人信息保護的負責任原則。
2022年5月,EDPB頒佈瞭《社交媒體平臺界面中的黑模式:如何識別並避免》(《黑模式》)。如題所示,針對的也是互聯網平臺操縱或者扭曲個體選擇的黑模式。為瞭避免黑模式,平臺需要遵從《通用數據保護條例》(GDPR)包括負責任原則在內的多項規定。具體而言,負責任原則意味著平臺需要自證其已經遵從GDPR,包括自證其向用戶提供的信息便於理解、獲取同意的方式足夠規范、其為用戶行使權利提供瞭足夠的便利,等等。《黑模式》明確指出平臺可以通過AB實驗的方式自證。例如,為瞭自證其隱私協議便於用戶理解、避免黑模式的指控,平臺可以將用戶的正面反饋作為目標來開展實驗。如果隱私協議的按鈕、界面或者文文本經過實驗確實提升瞭用戶的正面反饋,即可作為遵從負責任原則、闡明平臺已經遵從GDPR相應規定的證據之一。
此外,AB實驗還有助於實現“基於設計的隱私”,也就是在應用功能的設計階段植入保障個體信息權益的理念。強調未雨綢繆的保護,而非亡羊補牢的追責。人機交互領域學者奧斯拉特·阿亞隆(Oshrat Ayalon)和鄂蘭·托克(Eran Toch)相應提出瞭“AP實驗”的概念,其中的“P”是隱私(Privacy)的縮寫。AP實驗對於AP實驗的改進主要在於測試目標的體系化。例如,假使希望為應用增加一個共享個人信息的功能,通過AP實驗可以衡量這一功能對用戶自主控制、理解程度和主觀的隱私感受的影響。一方面,這正是負責任原則的體現之一,可以用於自證;另一方面,在應用功能上線前即科學、敏捷測量其對個人信息權益的影響,並且作為功能是否上線、如何上線的決策因素之一,也是基於設計的隱私的鮮明體現。這是當下互聯網平臺合規值得追逐的方向。
結語
如上,互聯網平臺上廣泛用於設計、運營和創新的AB實驗也與合規問題深深交織。既可用於操縱和扭曲,從而構成監管機關查處時的“信號”和證據;又可用於賦權用戶,從而構成平臺負責任的體現。AB實驗的“A面”和“B面”因此引起瞭各國監管機關的關註。循此,AB實驗本身代表瞭平臺治理與合規的趨向,其本身又是更宏觀的,監管機關不斷抹平與平臺間的信息不對稱、技術不對稱的趨勢的一部分。先前由平臺所獨有的許多話語、策略和技術,由此不斷地轉化為治理平臺的工具的一部分。於是,“A面”和“B面”的討論隻是一個序幕,未來還可以用於分析更多先前由平臺所獨有的話語、策略和技術。