ChatGPT需注意的防範措施

AI技術發展一日千里，不少企業已開發出可以回答用戶各式各樣的問題、助用戶生成不同文章的AI聊天機械人。當中由OpenAI研發的ChatGPT可算是最成功的一個例子，甫推出已經風靡全球，只花了兩個月就累積達一億活躍用戶，不少企業已開始使用ChatGPT協助完成工作。雖然使用ChatGPT等AI聊天機械人正慢慢普及，甚至有成為新時代工作模式的趨勢，但其實使用ChatGPT也有不少潛在風險，例如不法份子可以透過ChatGPT進行網絡詐騙，或經由ChatGPT散播電腦病毒等，稍一不慎就可能令企業蒙受損失。本文整理了使用ChatGPT時必須要進行的4個防範措施，以保障企業的網絡及資產安全。

使用ChatGPT時4個需要注意的防範措施

防範詐騙等惡意攻擊

雖然OpenAI為ChatGPT設定了一系列安全策略，ChatGPT不會為用戶提供可能違法的資訊，但隨着Prompt Injection之類的攻擊，可繞過ChatGPT的安全策略，鑽進當中安全漏洞的攻擊方法不斷發展；不法份子可用一些特別的發問技巧，讓一些幾乎沒有編程經驗的人，都可以使用ChatGPT，編寫出一些可用於間諜、勒索軟件、惡意郵件、詐騙等文案。因此ChatGPT的普及降低了進行網絡攻擊的難度，在可預見的未來亦會更加頻繁。因此，企業必須多加防範可能會出現的惡意網絡攻擊，以避免因遭受網絡攻擊而蒙受損失。

防範第三方程式暗藏電腦病毒

由於ChatGPT屬於一種開源技術，意味着不少開發者都可以將ChatGPT技術加入到他們的程式中。現時已有不少植入ChatGPT程式碼的第三方程式，讓用戶在使用這些程式時，可以結合ChatGPT的強大語言模型，得到更好的使用體驗。隨着ChatGPT的普及，使用者可能會透過第三方程式嘗試使用ChatGPT，而不法份子就可利用這些第三方程式，以在程式中植入電腦病毒的手法，進行惡意攻擊；當用戶使用這些被植入電腦病毒的程式，就有可能遭受私隱數據洩漏等財產損失。因此，在使用第三方含ChatGPT的應用程式前，應先詳細檢查，以確保程式的安全性。

防範ChatGPT提供錯誤資訊

ChatGPT是一種無法連接網絡的語言模型，使用多達45TB數據，通過多個參數的訓練，具備了組織和配搭各種單字，來回答用戶提問的能力。雖然ChatGPT交出的答案大多能夠清晰回應用戶的需要，但有時它亦會給出錯誤、具誤導性的答案，例如用戶向ChatGPT提問同一條問題兩次，它可能會提供兩個截然不同的答案，企業如果盲目信任ChatGPT，使用了其錯誤答案，有機會蒙受損失。因此，在使用ChatGPT工作時，應先再三查證它提供的資訊是否正確，以免使用了錯誤資訊。

防範ChatGPT違反法律或道德標準

除了有機會提供錯誤資訊，ChatGPT還有可能會回答一些違反法律或道德標準的答案。即使ChatGPT可以很擬人化地回答用戶提問，但它並不了解人類的道德標準，也沒有屬於自己的價值觀與道德傾向，因此在發問一些涉及價值觀或情感的問題時，ChatGPT的答案不一定可靠。此外，ChatGPT無法連接網絡，它的回答亦是根據其數據庫的資料匯集而成，但以此生成的文章，有機會違反知識產權等法律。因此，在使用ChatGPT時，不應直接使用它提供的資訊，必需再三檢查其資訊會否違反道德價值觀及法律。