售前，航空母艦，交付，皮劃艇：銀行的AI模型上線有多難？

譚婧

江湖里有了人工智能是喜事一樁。

人工智能（AI）模型上了線，大家都說，銀行可以變“聰明”，而銀行的普遍狀態(tài)是，變“迷糊”。

AI模型“上班”，帶著“想干翻銀行”的勇氣出門。AI模型“下班”，被銀行干得服服的。AI模型也有情緒，它只是不會發(fā)朋友圈罷了。

本文的AI模型上線是指，在IT開發(fā)環(huán)境用歷史數(shù)據(jù)做模型（訓練），然后把模型拿到生產(chǎn)進行上線（推理）。其他情況，暫不討論。

更正式的說法是，通常的AI模型生產(chǎn)過程是，在訓練端做模型開發(fā)，也就是模型訓練或者叫線下開發(fā)。

然后把訓練好的模型推送到推理端進行部署，然后進行模型服務也就是模型上線部署、發(fā)布與服務。

當走到AI模型上線這一步，金主爸爸對AI有一定認知，但是對“AI模型上線”這件事的復雜性認識不足，思想守舊。

故事的大部分素材，來源于采（吐）訪（槽）。

采訪人說，如果實名，就拉黑本文作者，名字是化名，資深售前張喵。

故事一開始，是這樣的。

扯淡的AI技術？

一般來說，客（金）戶（主）的財力和吼聲的音量成正比，財力特別雄厚，那么吼聲，也會特別大，比如，銀行。

其實，銀行也會根據(jù)資產(chǎn)規(guī)模分個大中小。

第一梯隊，工農(nóng)中交建。第二梯隊，股份商業(yè)銀行。第三梯隊，城市商業(yè)銀行。

銀行在落地人工智能項目的時候，往往有這么個鏡頭，客戶爸爸拍桌一聲怒吼：“就AI項目幺蛾子多，還能不能干？什么時候干好，什么時候給錢！再干不好就卷鋪蓋走人，錢也不給！”

客戶一聲怒吼，道出了AI科技公司的幾種慘狀。

作為炙手可熱的“新技術”，為啥會這樣？不僅如此，很多知名的AI明星公司（技術提供廠商）扎緊褲腰帶，精打細算，開始考核銷售團隊利潤率。

張喵售前坦言：“金額100萬的項目，預付款只有10萬，軟件驗收條款一大堆。干著干著項目就超期了，干著干著，利潤就見底了?！便y行考核乙方技術團隊，那是相當有一套的。

AI公司，干著干著就虧本了。

不少IPO中止的AI明星公司，雖然不是只服務銀行，但對此也應該深有體會。AI模型落地早期，小白銀行（沒有任何懂AI的技術團隊）能接受“不確定性”這個新鮮事物，但是，這個“不確定”是有條件的。

一般說來，客戶會根據(jù)業(yè)務實際情況建立一個“基線”，然后擬定一個提升所要達到的標準，比如準確率達到多少，覆蓋率達到多少，“達到”即滿意，也就是可以“驗收”。

這里的“基線”可能是百分比，也可能是數(shù)字，根據(jù)業(yè)務情況不同而不同。但畢竟，新技術是有空子可鉆的。比如有些公司把AI模型做得很漂亮，但是，智能化大生產(chǎn)的時候達不到事先承諾的“成績”，再和客戶扯皮。

這里，我揭秘一下AI廠商騷操作，也就是扯皮的重（下）要（作）手段：拉低客戶預期。2021年，不是AI廠商出門做生意的第一年。

很多情況下，“AI廠商”是知道結果的，但并不會和客戶說清楚。舉個最最淺顯的例子，某AI廠商做AI模型在歷史數(shù)據(jù)下做得很好，但AI模型本身泛化性不好，導致上線后效果急劇下降。一場悲劇，即將發(fā)生。責任心強的AI廠商會積極投入，調整模型，為達到要求而努力。

反之，無責任心的AI廠商就開始扯皮，逼迫客戶降低預期。

最后，客戶妥協(xié)。這種流氓AI廠商會活得好嗎？一時不會都死光。

但是，這種騷操作可以拿到訂單，客戶受損，凄凄涼涼。老實廠商，越來越難生存，吹牛廠商，糊弄，收錢，割韭菜，跑路。

長此以往，AI技術信用破產(chǎn)。相信有的銀行已經(jīng)經(jīng)歷過那種“說的效果和實際效果完全不是一回事兒”的悲劇，一邊看本文，一邊默默地擦眼淚。的確，漏屋偏逢連夜雨，數(shù)據(jù)中臺、數(shù)智平臺、智慧大腦等營銷術語，徒然增加了溝通成本。

數(shù)據(jù)科學、統(tǒng)計學、機器學習、非結構化數(shù)據(jù)等富有知識感的詞匯，也來搗亂。更有遷移學、強化學習、聯(lián)邦學習、神經(jīng)網(wǎng)絡等包涵“學術背景”“專家風范”的用語，讓人產(chǎn)生權威畏懼。

一時四下混沌，對技術路線的選擇，不是“真假難辨“，而是是無從下手、無從選擇。客戶誤以為他們能做到航空母艦，最后，交付了一只皮劃艇。

這種是真假難辨?？偸怯泻糜袎?。

可悲的是，客戶不懂AI產(chǎn)品，不學AI，更別提深入研究了。

可嘆的是，金主對新技術沒有敬畏心，還以為自己老一套玩得轉。無知者無畏的結果是，聽信一些“虛假宣傳”，走極端，要么認為人工智能無所不能，要么誤認為人工智能是智障。

張喵售前工作經(jīng)驗十來年，作為企業(yè)級軟件產(chǎn)品解決方案的售前人員，練就了一身本事，對此也壓力山大。畢竟，這是人的問題，技術解決不了。

有一次，在某沿海城市，合作伙伴幫張喵售前約見到一位城商行領導。可惜，聽完大概介紹，張喵售前心里涼了半截，需求不匹配。在電梯里，實心兒的張喵售前嘴巴跑得比腦子還快，脫口而出：“這項目估計干不了?！焙献骰锇橐宦?，瞬間翻臉，立刻口吐芬芳，場面失控。要不是電梯里空間狹小，腿腳伸展不開，搏擊賽即將上演。

張喵售前反?。骸昂献骰锇閷︺y行爸爸也是跪式服務，可能受了不知多少的委屈，才有了見面的機會。一聽機會沒了，心態(tài)當場崩了?！笨蛻魺o法辨“忠奸”，一不小心把“說實話”的公司排除在外，其結果就是成單之后，這些“虛假宣傳”的公司無法實現(xiàn)承諾，甚至有的AI大品牌“店大欺客“，晾著客戶，項目遲遲無法交付，最后爛尾。很多銀行對起訴是謹慎，因為執(zhí)法的過程會曝光銀行的“商業(yè)秘密”。

以前，甲方驗收一個項目，達到“驗收標準”，就交差。銀行交易系統(tǒng)，轉賬成功了，收工。銀行流程自動化，實現(xiàn)了，收工。甚至，到了大數(shù)據(jù)那一波，把銀行的數(shù)據(jù)集中起來，存好，算好，收工。

但是，到了AI就扯淡了。

丑陋的銀行客戶？

落后的觀念、守舊的思想，傲慢的團隊……對此，AI都無能為力。

這句話該寫在教科書里。整體看銀行這類客戶，要齊刷刷理解AI技術，可能還需要2到3年左右。

有些銀行客戶走在前列，有的則起步較晚，表現(xiàn)的問題也各不相同，但即便是那些AI探索多年的銀行，也面臨著諸多問題。以前用算盤，現(xiàn)在用鍵盤。銀行數(shù)字化轉型和智能化演進有自己的節(jié)奏，智能最終是“標配“，誰也躲不了。在沒有AI之前，IT系統(tǒng)好多年了，有不少“奇葩”的歷史遺留問題。

甚至，有人說IT系統(tǒng)就是：“能跑起來不出問題就行，別動，別改”。銀行是個傳統(tǒng)生意，銀行IT系統(tǒng)都是階段性建設的，新的，舊的，各時期的技術剪裁拼接湊也是常見的。銀行的基礎的技術支撐類系統(tǒng)復雜到讓人一言難盡，更別說AI上線所需要的線上服務器環(huán)境、離線訓練環(huán)境、數(shù)據(jù)庫、存儲系統(tǒng)，它們之間都有非常緊密的關系。

牽一發(fā)，而動全身。比如，現(xiàn)如今，機器學習平臺產(chǎn)品在銀行有較好的落地場景，距離Gartner首次定義數(shù)據(jù)科學和機器學習平臺（2017年2月），已經(jīng)過去了好幾年。

這個說法，有點像《辭海》的風格，聽上去挺萬能的。但是，沒有說“什么萬萬不能”。有時候知道“不能干什么”，比知道“能干什么”，更重要?！凹伞睜砍鰜砹似脚_型AI軟件大大有別于“傳統(tǒng)IT軟件”的一點：

它是個大組件，需要和銀行現(xiàn)有系統(tǒng)有效融合，也就是上下游都得搞得定。上游全面對接上游各式各樣的數(shù)據(jù)和系統(tǒng)，下游為各種業(yè)務系統(tǒng)以及周邊基礎設施以及產(chǎn)品提供良好的AI服務。左右逢源，你懂吧。所以，AI模型上線“玩（策）法（略）”就五花八門了，一刀切的想法“很天真”。

通常，我們把和AI模型上線有關的環(huán)境，稱之為AI的生產(chǎn)環(huán)境。

不同的生產(chǎn)環(huán)境，想大規(guī)模復現(xiàn)模型，并有相同的效果，是非常漫長的任務，甚至會耗費數(shù)月，半年時間。模型上線，一方面得符合所有IT運維的要求，高可用，災備、穩(wěn)定性，性能等等。

另一方面，AI自己不要面子的嗎？要符合AI流程的一些東西。銀行，這種在數(shù)智化里跑得快的行業(yè)。對于AI模型上線，一直存在無數(shù)問題。

你別不信，有些銀行真的就是這樣。

客氣一點的說，就是每家銀行所處的“時代”業(yè)不一樣。

有的在秦朝吃土味燒烤，有的在宋朝吃東坡肘子。那些被銀行虐多了的AI廠商會說，AI模型部署有三種可能：可能是集中部署統(tǒng)一提供服務，可能是遠端部署，可能是邊緣部署。

集中部署統(tǒng)一提供模型服務，那可能會出現(xiàn)一個模型真正觸達要服務的業(yè)務端，流轉好幾個系統(tǒng)和網(wǎng)關，中間就會產(chǎn)生特別多的“麻煩”。

僅靠遠端，僅靠邊緣部署，靈活性又不夠，比如模型調整和優(yōu)化就沒辦法有效實施。銀行高管吐槽：我一看到AI的項目，就往后排期。

執(zhí)行團隊瑟瑟發(fā)抖，雷公雷母隨機抽取一個幸運觀眾，最好別是自己。但是，有的節(jié)奏慢，場景罕見、長尾場景、、費用有限、試錯成本不能高、領導忍耐力有限。能不能避免踩雷，坐等AI產(chǎn)品徹底成熟？醒一醒吧。AI模型“輕松”上線僅僅是一個技術問題嗎？顯然不是。

AI模型從實驗室走出來，邁著六親不認的步伐。但是，到了企業(yè)里，生產(chǎn)中，尊嚴被按在地上摩擦。AI模型上線，這是一個成熟的AI平臺公司面臨的問題.

有些機器學習平臺產(chǎn)品，沒有人用，就快掛掉了，“死前”還沒有遇到這個痛點：AI模型上線和數(shù)據(jù)、工具、流程等關鍵點，同時迭代創(chuàng)新難不難？AI模型承載業(yè)務，銀行業(yè)務是一個飽含創(chuàng)造力的事情。業(yè)務創(chuàng)新難不難？所以，別妄想AI模型上線的產(chǎn)品100%成熟了，一切就省力了，創(chuàng)造力“永不休眠”。

正道的光

初期，家家銀行都會面臨模型落地生產(chǎn)困難的問題，誰也逃不掉。

AI模型手工上線過程十分復雜，你別不信，我給你再列幾個，每個都讓人渾身難受。開發(fā)過程單一，算法、環(huán)境、模型、版本等管理混亂，無法協(xié)作開發(fā)，上線模型無法有效監(jiān)控，軟硬件資源管控缺失，上線模型模型效果衰減后的優(yōu)化升級工作困難等等。因此，“老三樣”建模手段已經(jīng)無法有效支撐建模和模型上線和運維。

哪三樣？第一，傳統(tǒng)的作坊式的手工建模。第二，早期BI系統(tǒng)提供的簡單建模。第三，不考慮系統(tǒng)，孤立建模。勞資錢多，花錢砸團隊AI科學家團隊的規(guī)模能“鏟除”問題嗎？

恭喜你，答案是，不能。一是成本奇高，讓人力資源負責人給你拿一份人工智能科學家薪酬報告，看看年薪中位數(shù)，清醒一下。二是原有的人才得不到良好的發(fā)展，滋生團隊內部消極學習的風氣。某些銀行，完全不懂數(shù)字化轉型是啥，還蜜汁自信：“我不懂你說的機器人在學習是什么，也不想懂”。

不要譏諷別人的無能，因為這不能取代我們對自身的反思。當然，這類型的客戶的數(shù)量也在日益變少，尤其是進入銀行科技規(guī)劃的預算項目，招標的時候指名道姓“機器學習”“人工智能”“深度學習”。

銀行軟件開發(fā)部門的領導，表面上，工作經(jīng)驗二十幾年，手握重金，底氣十足。私下里，焦慮得要死，每年投入以億計，數(shù)智化結果在哪？

銀行是和數(shù)（金）字（錢）打交道的生意，剛需就是要對數(shù)據(jù)多分析，才能賺更多錢，分析數(shù)據(jù)也意味著消耗更多人力資源。愛情不是獨角戲，用好新技術，需要雙方的努力。

真正努力的銀行應該怎么做？想通了，就會將新老人才組織在一起工作（開發(fā)作業(yè)），把數(shù)據(jù)工程師和銀行業(yè)務人員迅速轉化為專家。

真正努力的AI技術提供商應該怎么做？狠狠心，玩命打磨產(chǎn)品，市面上所有要求的格式全套提供，所有的硬件和技術架構上做開放性支持。

為什么這么做才是正途？因為產(chǎn)品化降低工程施工成本。否則，就是永無寧日的量身剪裁，跪式服務。

在To B服務里，偏場景的定制化開發(fā)是避免不了的。但是，沒有產(chǎn)品化，AI公司就是個裝修施工隊，哪里施工哪里去。AI公司商業(yè)模式就是吹牛皮，哪里韭菜多，哪里去。本質更像人力外包公司，高端人才的人力外包。

只有西紅柿首富會說：“這個項目，我王多魚，投了。”一位AI大神曾當面告訴我：“早期，我們對于AI的激動，激動于AI算法改變了世界。這肯定有對的成分，但AI落地也不那么容易。很多人都把AI的落地看成一件算法改變世界的事情，而今，我把它看成一個架構升級的事情?！?/p>