ChatGPT需注意的防範措施

AI技術發展一日千里,不少企業已開發出可以回答用戶各式各樣的問題、助用戶生成不同文章的AI聊天機械人。當中由OpenAI研發的ChatGPT可算是最成功的一個例子,甫推出已經風靡全球,只花了兩個月就累積達一億活躍用戶,不少企業已開始使用ChatGPT協助完成工作。雖然使用ChatGPT等AI聊天機械人正慢慢普及,甚至有成為新時代工作模式的趨勢,但其實使用ChatGPT也有不少潛在風險,例如不法份子可以透過ChatGPT進行網絡詐騙,或經由ChatGPT散播電腦病毒等,稍一不慎就可能令企業蒙受損失。本文整理了使用ChatGPT時必須要進行的4個防範措施,以保障企業的網絡及資產安全。
使用ChatGPT時4個需要注意的防範措施
防範詐騙等惡意攻擊
雖然OpenAI為ChatGPT設定了一系列安全策略,ChatGPT不會為用戶提供可能違法的資訊,但隨着Prompt Injection之類的攻擊,可繞過ChatGPT的安全策略,鑽進當中安全漏洞的攻擊方法不斷發展;不法份子可用一些特別的發問技巧,讓一些幾乎沒有編程經驗的人,都可以使用ChatGPT,編寫出一些可用於間諜、勒索軟件、惡意郵件、詐騙等文案。因此ChatGPT的普及降低了進行網絡攻擊的難度,在可預見的未來亦會更加頻繁。因此,企業必須多加防範可能會出現的惡意網絡攻擊,以避免因遭受網絡攻擊而蒙受損失。
防範第三方程式暗藏電腦病毒
由於ChatGPT屬於一種開源技術,意味着不少開發者都可以將ChatGPT技術加入到他們的程式中。現時已有不少植入ChatGPT程式碼的第三方程式,讓用戶在使用這些程式時,可以結合ChatGPT的強大語言模型,得到更好的使用體驗。隨着ChatGPT的普及,使用者可能會透過第三方程式嘗試使用ChatGPT,而不法份子就可利用這些第三方程式,以在程式中植入電腦病毒的手法,進行惡意攻擊;當用戶使用這些被植入電腦病毒的程式,就有可能遭受私隱數據洩漏等財產損失。因此,在使用第三方含ChatGPT的應用程式前,應先詳細檢查,以確保程式的安全性。
防範ChatGPT提供錯誤資訊
ChatGPT是一種無法連接網絡的語言模型,使用多達45TB數據,通過多個參數的訓練,具備了組織和配搭各種單字,來回答用戶提問的能力。雖然ChatGPT交出的答案大多能夠清晰回應用戶的需要,但有時它亦會給出錯誤、具誤導性的答案,例如用戶向ChatGPT提問同一條問題兩次,它可能會提供兩個截然不同的答案,企業如果盲目信任ChatGPT,使用了其錯誤答案,有機會蒙受損失。因此,在使用ChatGPT工作時,應先再三查證它提供的資訊是否正確,以免使用了錯誤資訊。
防範ChatGPT違反法律或道德標準
除了有機會提供錯誤資訊,ChatGPT還有可能會回答一些違反法律或道德標準的答案。即使ChatGPT可以很擬人化地回答用戶提問,但它並不了解人類的道德標準,也沒有屬於自己的價值觀與道德傾向,因此在發問一些涉及價值觀或情感的問題時,ChatGPT的答案不一定可靠。此外,ChatGPT無法連接網絡,它的回答亦是根據其數據庫的資料匯集而成,但以此生成的文章,有機會違反知識產權等法律。因此,在使用ChatGPT時,不應直接使用它提供的資訊,必需再三檢查其資訊會否違反道德價值觀及法律。