雖然有一封公開信呼籲所有 AI 實驗室立即暫停訓練比 GPT-4 更強大的 AI 系統六個月,但現實狀況是「妖怪已經從瓶子裡逃出來了」(The genie is already out of the bottle)。在此將提出一些方法可以更好地掌握這些 AI 系統的能耐,並利用這些方法為你的組織構建有效的企業使用政策。

制定生成式AI使用政策的六大要點

在制定最適合組織的 AI人工智慧功能之前,請先考慮新興 AI 功能的範疇。

文/Nicholas D. Evans‧譯/酷魯


雖然有一封公開信呼籲所有 AI 實驗室立即暫停訓練比 GPT-4 更強大的 AI 系統六個月,但現實狀況是「妖怪已經從瓶子裡逃出來了」(The genie is already out of the bottle)。

在此將提出一些方法可以更好地掌握這些 AI 系統的能耐,並利用這些方法為你的組織構建有效的企業使用政策。 生成式人工智慧(Generative AI)是一種引人注目的 AI 形式,它使用非監督式和半監督式演算法從現有材料(例如文字、音訊、視訊、圖像和程式碼)中創造新內容。

這個 AI 分支技術的使用案例正在爆炸式成長,企業組織正在各種不同應用領域中使用它更妥善地服務客戶,更充份地利用現有的企業資料,並提高營運效率。 但就像其他新興技術一樣,它並非沒有重大風險和挑戰。根據 Salesforce 對資深 IT 領導者的最新調查,79% 的受訪者認為該技術有潛在的安全風險,73% 的人擔心它可能存在偏見,59% 的人認為其輸出的結果和回答不準確。


此外,需要考慮法律問題,特別是外部使用的生成式 AI 創造內容是真實準確、受版權保護,或來自競爭對手的話更需注意。 就範例和真實性檢定而言,ChatGPT 告訴我們:「我的回答是根據從大型文字資料集中學習到的模式和關聯性生成的,我沒有能力驗證資料集之中所引用每個來源的準確性或可信度。」

 光法律風險就很廣泛,根據非營利性媒體《Tech Policy Press》的報導指出,可能的法律風險包括與契約、網路安全、資料隱私、詐騙性貿易實務、歧視、不實資訊、道德、智慧財產權和驗證相關的風險。 事實上,很可能你的組織中有大量的員工正在嘗試使用生成式 AI,隨著這種活動從試用轉向正式部署,為了避免意想不到的後果發生,事前的積極主動防範措施就顯得非常重要。

「一旦 AI 生成的程式碼完全管用,那可是一件了不起的事情,」Google 首席決策科學家 Cassie Kozyrkov 表示。「但它並不總是行得通,所以在將程式碼複製貼到重要的地方之前,不要忘記測試 ChatGPT 的輸出結果。」 企業使用政策和相關培訓可以幫助員工瞭解到該技術的一些風險和陷阱,並提供如何充分善用這項技術的規則和建議,進而能在不致於將組織置於風險之中的情況下獲得最大的業務價值。 考慮到這一點,以下是制定企業生成式 AI 使用政策的六個最佳實施方式。


1. 確定政策範圍

制定公司使用政策的第一步是考慮範圍。例如,使用上會涵蓋所有形式的 AI,還是只有生成式 AI?專注於生成式 AI 可能是一種有用的方法,因為它可以處理包括 ChatGPT 在內的大型語言模型(LLMs),而不致於妄想搞定整個AI 宇宙中所有模型這種無法辦到的事。至於如何為更廣泛的主題建立 AI 治理則是另一回事,網上有數百種可用的資源。

2. 讓組織中所有利益相關者皆參與進來

這可能包括人力資源、法律、業務、行銷、商業開發、維運和 IT。每個群組可能會看到不同的使用案例,以及如何使用或誤用內容的不同後果與影響。讓 IT 和創新群組參與進來的助益是,從風險管理的角度來看,政策不僅僅是一種強制,而是一組平衡的建議,這些建議尋求具生產力的使用和商業利益的最大化,同時管理業務風險。

3. 考慮現在和未來如何使用生成式 AI

與所有利益相關者合作,逐條列出今天正在應用的所有內部和外部使用案例,以及對未來的設想。這一切將有助於在制定政策時提供豐富資訊,並確保能夠面面俱到。例如,如果你已經看到提案團隊(包括承包商)在嘗試起草內容,或者產品團隊在嘗試製作創意行銷文案,那麼你就能預先設想由於輸出可能侵犯他人的智慧財產權,因此可能存在後續的智慧財產權風險。

4. 進行標註以避免混淆

在制定企業使用政策時,重要的是舉凡進入系統的資訊,如何使用生成 AI 系統,以及從系統中生成的資訊如何被利用,皆要全盤考慮並涵蓋。關注內部和外部使用案例以及兩者之間的一切。透過要求所有 AI 生成的內容都貼上這樣的標籤,以確保透明度,避免與人工生成的內容混淆,即使是內部使用,也可能有助於防止意外地將該內容重新用於外部使用,或者在未經驗證的情況下認為它是事實和準確的資訊。

5. 在整個組織中廣泛地分享

由於政策經常很快被遺忘或甚至沒有被閱讀,因此為政策提供適當的培訓和教育非常重要。這可能包括製作培訓影片和主持現場會議。例如,與來自 IT、創新、法律、行銷和提案團隊或其他合適團隊的代表進行現場問答,可以幫助員工瞭解未來的機遇和挑戰。一定要提供大量的例來幫助聽眾理解,比如當重大法律案件突然出現時,可以作為例子來引用。

6. 保持政策文件在最新的狀態

與所有政策文件一樣,你將希望使其成為一個動態文件,並根據新出現的使用案例、外部市場條件和發展情況以適當的節奏更新它。讓所有利益相關者「簽署」政策或將其合併到由 CEO 簽署的現有政策手冊中,將表明該政策得到了他們的批准,並且對組織很重要。你的政策應該只是你更廣泛的治理方法的一個部分,無論是生成 AI,還是 AI 或一般的技術治理。

這不是法律建議,你的法律和人力資源部門應該在批准和傳播政策方面發揮主導作用。但希望它能提供一些參考。就像十多年前的企業社交媒體政策一樣,現在花時間在這方面將有助於減輕未來幾年的意外和不斷變化的風險。