披露：此處表達的觀點和觀點僅屬于作者，不代表crypto.news社論的觀點和觀點。
人工智能正在加劇金融犯罪，金融業(yè)的防御能力正在落后。犯罪分子現(xiàn)在使用人工智能來創(chuàng)建令人信服的深度造假、精心設(shè)計的網(wǎng)絡(luò)釣魚攻擊并大規(guī)模偽造合成身份。這些策略的進展速度比傳統(tǒng)合規(guī)系統(tǒng)能夠跟蹤的更快，暴露了當(dāng)前方法中的致命缺陷。
盡管這種威脅規(guī)模巨大，但許多組織都急于部署自己的人工智能系統(tǒng)，而沒有確保這些工具是可解釋的、透明的，甚至是完全理解的。除非可解釋性成為用于財務(wù)合規(guī)的任何人工智能系統(tǒng)的基線要求，否則我們有可能用另一種形式的不透明來取代一種形式的不透明，這將無法與公眾或監(jiān)管機構(gòu)建立信任。
軍備競賽已經(jīng)開始
人工智能被用來使舊的犯罪更快，更便宜，并促進新類型犯罪的實施。考慮一下最近合成身份欺詐的激增。網(wǎng)絡(luò)犯罪分子使用人工智能將真實和虛假數(shù)據(jù)縫合成真實的、捏造的身份。這些個人資料可以開設(shè)帳戶、獲得信用并繞過驗證系統(tǒng)，同時與真正的用戶幾乎沒有區(qū)別。
Deepfake技術(shù)為武器庫增添了另一件武器?，F(xiàn)在，只需最少的努力就可以產(chǎn)生令人信服的首席執(zhí)行官、監(jiān)管者甚至家庭成員的模仿。這些視頻和音頻片段被用來發(fā)起欺詐性交易、誤導(dǎo)員工并引發(fā)內(nèi)部數(shù)據(jù)泄露。
甚至網(wǎng)絡(luò)釣魚也發(fā)生了變化。人工智能驅(qū)動的自然語言工具可以根據(jù)每個目標的公共數(shù)據(jù)、在線行為和社交背景，制作針對每個目標量身定制的超個性化、語法正確的消息。這些不是過去拼寫錯誤的垃圾郵件。它們是定制攻擊，旨在贏得信任和獲取價值。在加密貨幣領(lǐng)域，網(wǎng)絡(luò)釣魚正在蓬勃發(fā)展，人工智能正在加速這一趨勢。
合規(guī)工具陷入了前人工智能時代
挑戰(zhàn)不僅僅在于這些威脅的速度或規(guī)模;還在于攻擊者的創(chuàng)新和防御者的惰性之間的不匹配。傳統(tǒng)的基于規(guī)則的合規(guī)系統(tǒng)是被動且脆弱的。它們依賴于預(yù)定義的觸發(fā)器和靜態(tài)模式識別。
機器學(xué)習(xí)和預(yù)測分析提供了更具適應(yīng)性的解決方案，但其中許多工具是不透明的。他們在不清楚如何得出結(jié)論的情況下產(chǎn)生了產(chǎn)出?！昂谙蛔印眴栴}不僅僅是技術(shù)限制。這是一個令人頭疼的合規(guī)問題。
沒有可解釋性，就沒有問責(zé)制。如果金融機構(gòu)無法解釋其人工智能系統(tǒng)如何標記交易（或未能標記交易），那么它就無法向監(jiān)管機構(gòu)、客戶或法院捍衛(wèi)其決定。更糟糕的是，它可能無法檢測到系統(tǒng)本身何時做出有偏見或不一致的決策。
可解釋性是安全要求
一些人認為，要求人工智能系統(tǒng)具有可解釋性將減緩創(chuàng)新。那是短視的。可解釋性并不是奢侈品;這是信任和合法性的要求。如果沒有它，合規(guī)團隊就會盲目飛行。他們可能會檢測到異常情況，但他們不知道原因。他們可能會批準模型，但無法對其進行審計。
金融部門必須停止將可解釋性視為技術(shù)獎勵。這應(yīng)該是部署的一個條件，尤其是對于涉及KWC/ML、欺詐檢測和交易監(jiān)控的工具。這不僅僅是最佳實踐。這是必不可少的基礎(chǔ)設(shè)施。
在加密貨幣這樣快速發(fā)展的空間，信任已經(jīng)脆弱且審查嚴格，這變得更加緊迫。人工智能在安全和合規(guī)方面的使用不僅必須有效，而且必須明顯公平、可審計和可理解。
協(xié)調(diào)一致的回應(yīng)是不容談判的
金融犯罪不再是孤立事件。僅2024年，非法交易額就達到510億美元，這一數(shù)字可能低估了人工智能增強攻擊的作用。沒有任何公司、監(jiān)管機構(gòu)或技術(shù)提供商能夠單獨應(yīng)對這一威脅。
協(xié)調(diào)一致的應(yīng)對措施必須包括：
- 強制要求用于高風(fēng)險合規(guī)職能的任何人工智能系統(tǒng)具有可解釋性。
- 使共享的威脅情報能夠在公司之間揭示新的攻擊模式。
- 培訓(xùn)合規(guī)專業(yè)人員詢問和評估人工智能輸出。
- 要求對欺詐檢測和KKC中使用的ML系統(tǒng)進行外部審計。
速度永遠很重要。但沒有透明度的速度是一種負擔(dān)，而不是一種功能。
人工智能并不中立，濫用也不是
對話必須轉(zhuǎn)變。僅僅詢問人工智能是否合規(guī)“工作”是不夠的。我們必須問一下它是否值得信任?？梢詫弳枂?？審核過？明白了嗎？
不回答這些問題將使整個金融體系面臨風(fēng)險。不僅僅是犯罪分子，還有我們用來阻止他們的工具。
如果我們不把透明度建立在我們的防御中，那么我們就不是在捍衛(wèi)這個系統(tǒng)。我們正在自動化它的失敗。
羅伯特·麥克唐納是Bybit的首席法律與合規(guī)官，Bybit是全球交易量第二大加密貨幣交易所。羅伯特在公共部門、傳統(tǒng)金融和加密貨幣行業(yè)擁有近二十年的經(jīng)驗，是監(jiān)管合規(guī)、法律治理和打擊金融犯罪方面經(jīng)驗豐富的專家。羅伯特在倫敦開始了他的職業(yè)生涯，專門研究金融犯罪，后來在英國任職司法部。他的旅程跨越了各大洲，在世界上一些最著名的金融機構(gòu)擔(dān)任領(lǐng)導(dǎo)職務(wù)，包括全球資產(chǎn)管理巨頭、韓國領(lǐng)先的電子商務(wù)平臺和主要加密貨幣交易所幣安。羅伯特在Bybit任職期間，負責(zé)監(jiān)管由法律顧問和合規(guī)專業(yè)人士組成的全球團隊，負責(zé)應(yīng)對不斷變化的監(jiān)管格局。他的團隊致力于解決許可、遵守司法管轄要求、反洗錢（ML）、了解客戶（KKC）協(xié)議以及負責(zé)任的客戶入職問題。確保Bybit在其全球業(yè)務(wù)范圍內(nèi)誠信和合規(guī)地運營。
