AI能夠在許多領(lǐng)域保護人們免受已知或未知威脅的傷害，幫助人們保持彼此之間的聯(lián)系，能以比人工更快的速度、更低的成本完成工作，并可能提供更好的解決方案。但是隨著AI逐漸滲入到我們的日常工作和生活中，人們開始意識到AI所帶來的一些預(yù)期之外的結(jié)果，例如人工專業(yè)技能的缺失。我們應(yīng)該如何著手并處理這些問題？
根據(jù)貝恩多年來積累的經(jīng)驗，我們認(rèn)為，對商業(yè)領(lǐng)袖和技術(shù)投資者們來說，了解并處理以下六大風(fēng)險已成為不容忽視的責(zé)任：
1、隱形錯誤
與傳統(tǒng)、以規(guī)則為導(dǎo)向的程序不同，AI模型通過自我學(xué)習(xí)提供答案，但并非完美無缺。很多AI模型的不透明性以及快速擴張的能力有可能將真正的錯誤隱藏起來。例如，隨著自動駕駛和飛行系統(tǒng)的訓(xùn)練數(shù)據(jù)飛速增長，以這些數(shù)據(jù)為基礎(chǔ)的模型也在飛速進步，但是人們還是能夠不斷地在算法中發(fā)現(xiàn)錯誤，某些情況下，只有在車毀人亡的悲劇發(fā)生后才被發(fā)現(xiàn)。
2、技能、判斷性思維和理解能力的缺失
這種情況不僅出現(xiàn)在新手出租車司機身上。一位硅谷工程師曾表示他的網(wǎng)站上的推薦算法讓他的團隊不再投入太多的精力去思考，不了解自己業(yè)務(wù)的基本要素和真正的需求推動因素，對團隊來說是一件十分危險的事情。
3、新的災(zāi)難
和傳統(tǒng)員工一樣，AI算法是可以被操縱的。不同的是，在被管理層監(jiān)督的時候，員工自己所能做的決策相對較少，而AI算法可以在暗中自作主張。黑客們對AI的攻擊才剛剛開始，隨著AI算法發(fā)揮作用的領(lǐng)域越來越廣（幫助電商平臺定價、決定車險費率、招聘等），經(jīng)理們必須預(yù)見算法被人操縱的可能性并及時進行相應(yīng)的調(diào)整。
4、“慣例化”偏見
大多數(shù)AI機器是通過研究編輯好的數(shù)據(jù)樣本進行學(xué)習(xí)的。一位AI專家也許能夠理解一套算法是如何得出結(jié)論的，或者這對專家來說也如黑箱一般神秘莫測。這就引發(fā)了人們對于偏見的擔(dān)憂，因為任何通過歷史數(shù)據(jù)進行訓(xùn)練的算法，會很自然地在自己的結(jié)論中體現(xiàn)出數(shù)據(jù)中存在的偏見。這可能會導(dǎo)致一些嚴(yán)重的問題，例如歧視性的借貸算法，或是一些誤導(dǎo)性的結(jié)論，例如從現(xiàn)有客戶數(shù)據(jù)樣本進行學(xué)習(xí)的算法會自然而然地偏向現(xiàn)有客戶群的偏好，從而忽略了潛在客戶群的口味。
5、缺乏同理心
隨著越來越多的企業(yè)利用機器人等與消費者進行互動，他們不得不承受與客戶日漸疏遠(yuǎn)的風(fēng)險。對企業(yè)高管來說，用算法代替自己來管理員工，就像讓算法控制網(wǎng)約車司機一樣，給人一種疏遠(yuǎn)感。疏遠(yuǎn)感可能會減少管理者感同身受的能力，弱化他們傾聽各個團隊的能力。
6、失控
AI驅(qū)動的決策體系既方便又快捷，因此非常具有吸引力，但是有時也需要人為參與?，F(xiàn)在，無人機執(zhí)行某些遠(yuǎn)程任務(wù)時必須要進行人為判斷，而隨著人們對這項技術(shù)越來越熟悉，這一狀況有可能會發(fā)生改變。這是一件好事嗎？同樣還有很多關(guān)于AI削弱人類控制權(quán)的難題。對于商業(yè)領(lǐng)袖來說，克服這些問題是十分必要的。
貝恩認(rèn)為，對于AI來說，控制是關(guān)鍵。
企業(yè)的最高管理層需要通過參與目標(biāo)制定，來為被廣泛應(yīng)用于公司業(yè)務(wù)的AI保駕護航。在過去幾十年里，對于信用算法依賴度極高的金融機構(gòu)被要求要嚴(yán)格管控風(fēng)險；現(xiàn)在，對于廣泛應(yīng)用AI技術(shù)的機構(gòu)來說，對于AI的監(jiān)管要求上升到了同樣的高度。
在企業(yè)中，任何重要的算法都需要有一個產(chǎn)品經(jīng)理：一個可以檢驗、檢測算法、審計其結(jié)果、評估并改善其性能的角色。
另一個不可或缺的是強而有力的溝通體系。
在一套重要的算法中，定期向客戶、員工和合作伙伴尋求意見和反饋，是一個非常重要的組成部分，在管理和使用任何算法時必須以“同理心”為導(dǎo)向。
AI技術(shù)的普遍性和可擴展性，讓AI算法可以在很短的時間內(nèi)影響到上百萬人。企業(yè)為了應(yīng)對行業(yè)競爭，取得進步，研發(fā)并使用AI技術(shù)是必不可少的。但是，技術(shù)本身不具備道德，也不會進行自我改善，關(guān)鍵依然取決于那些使用技術(shù)的人。
（作者韓微文是貝恩公司全球合伙人、大中華區(qū)總裁。）
