文／Shweta Sharma·譯／Nica
據安全產業協會（SIA）報告指出，AI 已位居 2024 年可能影響企業資安領域的新興趨勢清單榜首。 這份研究調查了數百位資安產業營運領導者，包括 2023 Securing New Ground（SNG）會議的部份志願者與講者，指出資安領域 AI 的多方面滲透。
SIA 報告指出：「 93% 受訪者表示預期會看見 ChatGPT 這類生成式人工智慧（AI）在未來五年對其營運策略造成影響，而有超過 89% 表示已在研發（R&D）過程中套用 AI 方案。」。
該報告總結其他趨勢包括資安投資報酬率的擴展與演變、整合營運模式的進化、安全性即服務（SaaS）、房地產重新最佳化，以及 IT-OT 融合。
AI 產生多面向影響
該清單前段（前四名）皆為 AI 相關趨勢，SIA 認為將在未來這年對該領域產生重大影響。清單榜首為「AI 安全性」，指的是透過 AI 的引進，將保障資料、智慧財產權與企業完整性的網路安全實作，深入各種營運規模。
「過去幾年，AI 已變得更易於使用 ─ 無論在好的、壞的方面，都是。」網路安全公司 Sequretek 共同創辦人暨執行長 Pankit Desai 表示。「就攻擊者角度來看，以 AI 為基礎的攻擊更有效率又更難被發現。例如借助 AI 技術進行的社交工程攻擊，有更令人信服的語言、表現與深度偽造。」
研究報告指出，AI 安全性相關的三大疑慮包括：AI 信任、AI 道德應用、AI 網路安全。
人工智慧數位攝影機
該研究調查第二大趨勢，就是全功能的人工智慧數位攝影機（AI-infused digital cameras）正快速崛起。它們已經不只是攝錄影像那麼簡單，而是透過人工智慧大幅轉變傳統視訊監控的角色，將之提升至「視訊智慧」的層次，讓監控變得更有價值。
「物聯網（IoT）曾被認為是大型感應器網路。事實上，這許多的感應器將會是攝影機。」報告指出。「2022 年全球已售出 7,800 萬台監視器。」
AI 法規迎頭趕上
僅以文字提示，利用公開資料大量語料庫編寫程式的生成式 AI，形成另一大主導趨勢。該研究揭露此項 AI 技術很可能改寫資安產業。
「LLM 應用（例如 ChatGPT）將會用在資安系統資料上。」報告指出。「生成式 AI 會被用來產生內容與解決商業營運的難題。」
研究報告指出，48% 資安解決方案開發者預期生成式 AI 在未來五年內將對他們的策略產生更有力的影響。此外，這些人之中有 74% 對所處企業研發投資的描述為全心投入、偏重或有點著重在 AI 上。
然而，有鑑於它瞬間普及又易於上手，法規與法律框架的介入，與 AI 專屬監管指南的適切定位，變得極度重要，Desai 如此表示。
「生成式 AI 技術所有相關法規框架的建立，需要各種面向的審慎考量，確保道德的、負責任的且安全的開發與佈署。」資安公司 Cyfirma 創辦人暨執行長 Kumar Ritesh 如此表示。「我們可以說，透明度、公平、問責、隱私與標準化會相當重要。」
AI 法規因而成為資安中相對風行的主題，有些國家希望推出自有 AI 指南。由於這份報告揭露了領導性 AI 系統使用的部份資料集具有一些限制的可能性，所以它在這份清單裡排名第四。
