01

這兩天，雷慢偶然看到一篇文章，某大型互聯網信貸平臺聲稱，他們家風控系統納入了5000多個變量，來對貸款人進行信用評估。對風控系統如何工作，這家平臺舉了一些例子，比如：

“一個用戶打開App，注冊時輸入身份證號碼的時間是個變量，輸入自己的號碼和輸入別人的是不一樣的，如果輸入時間特別長，還要修改，有80%可能不是自己的身份證號碼。”

“一個客戶買手機，明明有優惠券，他就是不用，再加上一些其他相對應的行為，檢測出來后就要嚴格審核，正常客戶有優惠券就會用，只有騙子才不會用，因為反正也不想還。優惠券只是一個單獨的變量，幾個相同行為疊加時，風險就會慢慢加大。”

這兩個例子，都有很大的邏輯漏洞。

和所謂風控變量類似，一個人注冊時間的長短，所受影響的變量也很多，他可能是一個老人行動遲緩；他可能注冊時中途做了別的事；他可能一邊扣腳一邊注冊。

有優惠券不用，就判定為騙子，也是一個巨大的邏輯錯誤。比如筆者，就不常用優惠券，并非不喜歡省錢，而是不常用購物App，平時沒有注意優惠券的領取、使用，并且一般時候根本不會意識到優惠券的省錢問題。同樣，一個人不使用優惠券，也有幾千個變量，他可能是反感優惠券，反感的變量有幾千個；他可能是一個電商新手，不知優惠券為何物。

最重要的是，注冊時間長、不使用優惠券，不必然得出“不是自己身份證、是騙子”的結論。騙子也不必然不使用優惠券。

A是B的非必要不充分條件。

即使像這家平臺所說，這些變量只是其中的1/5000，但只要這些變量得出的是一個確定性判定，比如以80%的比率判定這個人所使用的不是自己身份證、100%判定這個人是騙子。那么，諸多的邏輯錯誤，就會影響整個信貸評估的準確性，也會影響貸款的價格。

然而，機器學習的算法，并不管這些邏輯是否存在漏洞，它們只執行人的代碼指令，按照人錯誤的邏輯指令運算，在一通“技術黑箱”運算后，得出一個貸款的利率價格。

這就是算法的歧視價格。

02

2011年4月的一天，在全球最大的電商網站亞馬遜上，突然出現了一本標價2369萬美元的紙質書，這本書名為《蒼蠅的成長》，由一個名為彼得·勞倫斯（Peter Lawrence）的博士撰寫。

想購買這本書的一位生物學家找到了亞馬遜。亞馬遜調查后發現，原來是一家第三方賣家使用了電腦算法程序，自動根據市場供需關系調整了售價，而一周前這本書的標價還是170萬美元。

在這里，算法程序并不會估算市場合理的價格，而是根據需求大于供給無限放大追求利潤的價格。它像極了那些囤積居奇的貪婪商人。

被問及Google公司如何進行私下操作時，前首席執行官埃里克·施密特(Eric Schmidt)曾經回答：“Google的政策就是和警戒線打擦邊球。”

過去幾十年，美國民間與政府的博弈過程中，進步人士曾試圖要求一些大公司公布其人工智能決策的邏輯與原理，最后都被后者以“商業保密”借口駁回。

在人工智能決策的黑箱里，這些過程最后變得無可奉告。

在金融領域，人為的“邏輯操縱”，讓技術黑箱變得可怕。

法學教授弗蘭克·帕特洛伊(Frank Partnoy)和普利策獎獲得者杰西·艾辛格(Jesse Eisinger)曾于2013年年初共同研究過“美國銀行的內幕”，他們在報告中把銀行描述為“掩蓋了巨大風險的‘黑箱’，這些風險可能會再次擊垮經濟”。

“現在沒有哪家大型金融機構的財務報表能夠提供有價值的風險信息。”在報告中，一位對沖基金經理人如是說。

金融科技化之后，越來越多的黑箱產生，并未使得金融科技更加透明。

黑箱的種子與土壤到處都是，如黑產軍團、數據倒賣行為、大數據信審、人工智能深度學習、機器決策…

金融科技黑箱使得監管越來越難。

過去十幾年里，P2P網貸和互聯網信貸的經營者往往津津樂道地拿出他們的大數據風控系統吹噓一番。

一家借貸平臺在他的大數據風控的系統中輸入一個人用戶數以千計的社交數據、搜索數據、瀏覽數據、交易數據等，經過深度學習和決策模型的計算，最終可能將一個人的信用定為不及格，但這其中的具體決策過程是什么，企業不會告知你。

更甚至于，這個決策過程中出現程序錯誤、算法歧視時，電腦試圖向程序員解釋時，程序員也無法明白。

哥倫比亞大學的機器人學家 Hod Lipson曾說：“這就像是向一條狗解釋莎士比亞是誰。”

這意味著，大的互聯網信貸平臺津津樂道的精準營銷獲客與大數據風控定價，都在制造一個個黑箱。

03

互聯網信貸、大數據風控都有黑箱化的現象。

《從業經歷和教育背景是否能提高借貸成功率？——來自P2P平臺的經驗證據》一文證實了學歷在P2P借貸中的正相關因素，它指出，教育程度在1%的顯著水平上與借貸成功率呈正相關關系。此外，性別、領域對借款能否成功產生影響。

中國央行研究局局長徐忠曾表示，如果將客戶個人信息用于信用評估時，可能影響信貸的公平性，有一些指標比如性別、地域、職業等可能對客戶的還款能力有解釋力，但根據這些指標進行放貸，會涉及到對某些人群的歧視。

但在人工智能的決策黑箱里，這些都看不見。

在人工智能的深度學習與決策黑箱里，有一個現象值得說明，比如互聯網信貸，人工智能深度學習后的決策系統對有過違約記錄的用戶往往收取更高的利息，在這一過程中，違約者曾經未能及時還款的原因卻是未知的，可能他拒絕支付，也可能是因為家里出了緊急事故，但人工智能決策的歧視性已經出來。

在現金貸平臺那里，大數據信審的黑箱歧視性給予借款人過高的利率定價，往往容易導致借款人違約，而違約后的歧視性利率定價，可能再次導致借款人違約，造成惡性循環。

一旦基于人工智能決策對身背污點者的歧視性信審體系成型，就會演變成進行壓迫的工具，而受壓迫者卻絲毫沒有還擊之力。

黑箱金融造成的一個后果是，互聯網理財資產負債表會越來越不透明并復雜化，要維系這個黑箱金融持續下去，就要犧牲擁有現實資金的投資者。

過去幾年里，死于、受害于P2P網貸資金池、其他互聯網理財的平臺和投資人就是這個例子。

面對黑箱， 即使機構告訴用戶信息收集者會如何使用這些數據，只要他們同意，隱私也不一定能得到保護。

帕斯奎爾在《黑箱社會：控制金錢和信息的法則》里的大體主張是：放棄知情同意這種形式上的做法，去嚴格監管實際使用這些數據的企業和政府機構。

2018年，歐盟發布GDPR，它了不起的地方在于它確立了一個原則：即無視利益集團、犧牲科技革新的速度，將科技進步控制在可理解的天花板里，而非放任在失控的黑箱中。

GDPR強化對自然人數據的保護，它將個人敏感數據排除在人工智能的自動化決定之外。

一百年前，路易斯·布蘭戴斯(Louis Brandeis)曾經發表言論“陽光是最好的殺毒劑”。

盡管來自美國的批評聲音認為，GDPR對歐洲人工智能的開發和使用產生負面影響，帶來高昂的創新和生產成本，并將使歐盟企業與北美和亞洲等競爭對手相比處于劣勢地位，且對保護消費者沒有多大作用。

令人恐懼的是，在人工智能 大數據時代，“知情”具有破解“黑箱”的優勢，但“保密”卻有相對“知情”更大的優勢。

“商業保密”成為企業維持黑箱決策的借口。

在金融黑箱的失控下，對算法的監管必將抬上桌面，厘清算法的邏輯、科技的倫理，打擊基于數據和算法閉環所塑造的貸款權威，都將是一個不得不面對的問題。

因為正在為金融黑箱埋單的，就是你我。

奧立包裝專業生產銷售昌江縣塑料滑片,塑料滑托板,滑托板,紙滑托板,紙滑托.昌江縣塑料滑片板承重,昌江縣塑料滑片塑的生產技術,昌江縣塑料滑片工藝,昌江縣塑料滑片生產廠家,昌江縣塑料滑片設備,昌江縣塑料滑片使用過程有什么問題,昌江縣塑料滑片怎么生產,昌江縣塑料滑片怎么使用,昌江縣塑料滑片生產設備,昌江縣塑料滑片廠家直銷,昌江縣塑料滑片的正確使用方法,昌江縣塑料滑片供應商,昌江縣塑料滑片價格,昌江縣塑料滑片哪個廠家好,昌江縣塑料滑片生產過程,昌江縣塑料滑片使用教程,昌江縣塑料滑片有哪些,昌江縣塑料滑片廠家,昌江縣塑料滑片批發廠家,昌江縣塑料滑片正確使用方法,昌江縣塑料滑片銷售,昌江縣塑料滑片價格表圖片,昌江縣塑料滑片價格一覽表,昌江縣塑料滑片批發價格,昌江縣塑料滑片,昌江縣塑料滑片使用視頻,昌江縣塑料滑片什么材質

,奧立包裝專業生產和銷售充氣袋緩沖袋,牛皮紙填充氣袋,集裝箱充氣袋,牛皮紙充氣袋,集裝箱填充氣袋,集裝箱充氣袋工廠,集裝箱充氣袋廠家,紙滑托,紙滑托板,紙滑托盤,滑片托盤,滑托板,滑托盤,塑膠滑托板,塑料滑托板,塑料滑托盤,防滑紙,托盤防滑紙,物流運輸防滑紙,碼垛防滑紙,紙滑拖,紙滑片,紙托板,集裝箱減震氣囊,集裝箱緩沖填充氣袋,集裝箱緩沖防撞充氣袋,集裝箱緩沖充氣袋,集裝箱充氣袋填充袋,集裝箱填充氣囊,集裝箱氣囊,集裝箱氣袋,貨柜氣囊袋,貨柜緩沖充氣袋,貨柜充氣袋,貨柜保護氣囊,pp充氣袋,產品質量好價格優