在瑞士達沃斯舉辦的世界經濟論壇2024年年會上，世界經濟論壇創始人兼執行主席施瓦布在緻辭中感慨道：2023年年初，生成式人工智能技術(AIGC)還隻是個“嬰孩”，不過一年時間竟已長成“少年”。
正因如此，“人工智能推動經濟社會發展”成為2024世界經濟論壇年會的四大關鍵議題之一，AI熱度可謂點燃了這個以冰雪度假勝地聞名的小鎮。業界普遍認為，人工智能技術在為人類社會發展提供機遇的同時，也在安全、治理、監管、版權、倫理等多個方面帶來風險和挑戰。
從技術角度來看，人工智能算法面臨諸多涉及技術性攻擊的安全風險。常見的人工智能算法攻擊方法包括竊取攻擊、藥餌攻擊、閃避攻擊、逆向攻擊、模仿攻擊等。
近年來，借助人工智能迅猛發展的浪潮，銀行業乘勢推進數字化、智能化轉型。國内部分商業銀行積極布局AIGC以及其他人工智能技術相關的應用場景。
但是，人工智能算法的應用可能帶來更多金融交易風險和數據洩露風險，給金融領域系統安全帶來新的挑戰。因此人工智能技術應用到金融領域，其安全性當為重中之重。
為保障人工智能金融應用健康發展，監管部門不斷制定、完善相關法律法規與行業規範。2021年3月，中國人民銀行發布《人工智能算法金融應用評價規範》(JR/T 0221—2021)，為金融機構加強人工智能算法應用風險管理提供指引。
中國金融認證中心(CFCA)立足于金融行業，建立了涵蓋安全性、可解釋性、精準性和性能等方面的人工智能算法檢測體系，可提供符合《人工智能算法金融應用評價規範》(JR/T 0221-2021)要求的人工智能算法金融應用評估服務。
2021年10月，CFCA作為試點檢測機構參與了人工智能算法金融應用安全測評試點工作，對甯波銀行“應用于快審快貸産品的LightGBM算法”進行了檢測。檢測結果顯示，甯波銀行送檢的應用于快審快貸産品的LightGBM算法符合規範要求，具有較強的安全性保障。
近年來，CFCA在人工智能、多方安全計算、區塊鍊、聯邦學習等領域積極布局，參與各項技術标準和檢測标準的制定，持續加大人工智能領域的投入，與産業各方廣泛合作，為金融行業提供涵蓋安全性、可解釋性、精準性和性能等方面的人工智能算法檢測服務，與各方攜手共同推進人工智能技術在金融行業規範、健康發展。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
