據 SIA 2024 網路安全大趨勢指出,AI 安全性相關的三大疑慮包括 AI 信任、AI 道德應用與 AI 網路安全。
人工智慧,資訊安全,AI

人工智慧將主導 2024 網路安全趨勢

資料夾icon 科技新知
行事曆icon 2024/02/27
Loading...

據 SIA 2024 網路安全大趨勢指出,AI 安全性相關的三大疑慮包括 AI 信任、AI 道德應用與 AI 網路安全。


文/Shweta Sharma·譯/Nica

據安全產業協會(SIA)報告指出,AI 已位居 2024 年可能影響企業資安領域的新興趨勢清單榜首。 這份研究調查了數百位資安產業營運領導者,包括 2023 Securing New Ground(SNG)會議的部份志願者與講者,指出資安領域 AI 的多方面滲透。

SIA 報告指出:「 93% 受訪者表示預期會看見 ChatGPT 這類生成式人工智慧(AI)在未來五年對其營運策略造成影響,而有超過 89% 表示已在研發(R&D)過程中套用 AI 方案。」。

該報告總結其他趨勢包括資安投資報酬率的擴展與演變、整合營運模式的進化、安全性即服務(SaaS)、房地產重新最佳化,以及 IT-OT 融合。


AI 產生多面向影響

該清單前段(前四名)皆為 AI 相關趨勢,SIA 認為將在未來這年對該領域產生重大影響。清單榜首為「AI 安全性」,指的是透過 AI 的引進,將保障資料、智慧財產權與企業完整性的網路安全實作,深入各種營運規模。

「過去幾年,AI 已變得更易於使用 ─ 無論在好的、壞的方面,都是。」網路安全公司 Sequretek 共同創辦人暨執行長 Pankit Desai 表示。「就攻擊者角度來看,以 AI 為基礎的攻擊更有效率又更難被發現。例如借助 AI 技術進行的社交工程攻擊,有更令人信服的語言、表現與深度偽造。」

研究報告指出,AI 安全性相關的三大疑慮包括:AI 信任、AI 道德應用、AI 網路安全。


人工智慧數位攝影機

該研究調查第二大趨勢,就是全功能的人工智慧數位攝影機(AI-infused digital cameras)正快速崛起。它們已經不只是攝錄影像那麼簡單,而是透過人工智慧大幅轉變傳統視訊監控的角色,將之提升至「視訊智慧」的層次,讓監控變得更有價值。

「物聯網(IoT)曾被認為是大型感應器網路。事實上,這許多的感應器將會是攝影機。」報告指出。「2022 年全球已售出 7,800 萬台監視器。」


AI 法規迎頭趕上

僅以文字提示,利用公開資料大量語料庫編寫程式的生成式 AI,形成另一大主導趨勢。該研究揭露此項 AI 技術很可能改寫資安產業。

「LLM 應用(例如 ChatGPT)將會用在資安系統資料上。」報告指出。「生成式 AI 會被用來產生內容與解決商業營運的難題。」

研究報告指出,48% 資安解決方案開發者預期生成式 AI 在未來五年內將對他們的策略產生更有力的影響。此外,這些人之中有 74% 對所處企業研發投資的描述為全心投入、偏重或有點著重在 AI 上。

然而,有鑑於它瞬間普及又易於上手,法規與法律框架的介入,與 AI 專屬監管指南的適切定位,變得極度重要,Desai 如此表示。

「生成式 AI 技術所有相關法規框架的建立,需要各種面向的審慎考量,確保道德的、負責任的且安全的開發與佈署。」資安公司 Cyfirma 創辦人暨執行長 Kumar Ritesh 如此表示。「我們可以說,透明度、公平、問責、隱私與標準化會相當重要。」

AI 法規因而成為資安中相對風行的主題,有些國家希望推出自有 AI 指南。由於這份報告揭露了領導性 AI 系統使用的部份資料集具有一些限制的可能性,所以它在這份清單裡排名第四。

Loading...
網頁Top按鈕 (網頁回到頂端)