芯耀
938
近日人工智能（AI）聊天機器人ChatGPT 在互聯(lián)網(wǎng)上火紅，據(jù)報道已有一億用戶，大部份用戶都表示相比起傳統(tǒng)搜索引擎只依據(jù)輸入的查詢來提供相關(guān)度高的網(wǎng)站，ChatGPT能讓用戶以人與人對話的方式提問然后輸出響應，加上生成的答案十分精準及附有詳細解釋，省卻用搜索引擎后還要自行查閱資料的時間。
雖然其開發(fā)者OpenAI表示免費版ChatGPT是在研究預覽階段，但它的受歡迎程度卻標致著將AI及機器學習技術(shù)呈現(xiàn)至普羅大眾面前的重大成功。 近日各大資訊科技公司都相繼公布會把AI整合到其網(wǎng)上服務的計劃：例如Microsoft會把比ChatGPT 更強大的AI技術(shù)與搜索引擎Bing及瀏覽器Edge整合; 另一搜索引擎巨頭Google亦將于未來數(shù)周把其對話式AI服務Bard逐步加入到其產(chǎn)品中。 可見不久將來會有更多AI技術(shù)會整合到不同的網(wǎng)上服務，涉足我們的日常生活。
AI的普及應用，一方面讓我們工作或生活上更省時便利，例如有人已利用ChatGPT編寫程序或文章，能得出比真人更快、更少錯誤的程序，生成的文章內(nèi)容亦很豐富及井井 有條; 但另一方面，也曾有不法分子利用ChatGPT制作釣魚郵件內(nèi)容，甚至編寫惡意程序，縱使官方已加入安全機制禁止生成惡意內(nèi)容，但已有網(wǎng)絡犯罪分子開發(fā)出規(guī)避方法，并以網(wǎng)絡犯罪服務方式販賣，由此可見潛在安全問題亦不容忽視。
香港生產(chǎn)力促進局轄下的香港電腦保安事故協(xié)調(diào)中心（HKCERT）日前在最新一次年度信息安全展望簡布會上也預測利用AI的攻擊及網(wǎng)絡犯罪服務將會 是2023年五大信息安全風險之一，當中更羅列多種不法分子如何利用AI進行攻擊的可能情況，除上述提到的例子外，還包括AI 欺詐及毒害AI模型。 總結(jié)AI涉及的安全風險有以下幾種：
數(shù)據(jù)私隱和保密：AI需要大量數(shù)據(jù)進行訓練，其中可能包括敏感信息，如個人詳細信息、財務信息和醫(yī)療記錄。 這可能引發(fā)了隱私問題，因為模型可能會訪問和生成敏感信息。
錯誤信息：AI為求產(chǎn)生的結(jié)果有連貫性及通順，可能會編造虛假或誤導性信息，用戶慣性倚賴AI生成的資料可能會對事實有錯誤的認知。另外，信息的準確性亦會受到其所接受的訓練數(shù)據(jù)影響，例如ChatGPT的訓練數(shù)據(jù)只去到2021年，所以當問到誰是最近的世界杯冠軍時，它會回答法國（2018年冠軍），而不是阿根廷（ 2022年冠軍）; 其他錯誤訊息的例子包括在Google宣傳其聊天機器人Bard的廣告中，被發(fā)現(xiàn)它在回答有關(guān)” 詹姆斯韋伯太空望遠鏡的問題中包含錯誤的信息。
偏見問題：AI的訓練數(shù)據(jù)可能來自互聯(lián)網(wǎng)，其中可能包含偏見和歧視。這可能導致模型產(chǎn)生使這些偏見和歧視的回應。 此外，不法分子亦可利用偏頗的數(shù)據(jù)，訓練AI模型，令AI生成惡意的回應，此手法稱為對抗性干擾。
版權(quán)問題：考慮第三方的權(quán)利都是很重要，例如由 ChatGPT輸出的回應中可能涉及的受版權(quán)保護的資料的擁有人。 侵犯他人的權(quán)利，包括未經(jīng)許可使用其受版權(quán)保護的資料，可能會導致法律責任。因此使用ChatGPT時，要考慮和尊重其開發(fā)者和其他人的知識產(chǎn)權(quán)，并確保對 ChatGPT 的響應的任何使用都符合適用的法律法規(guī)。
其實AI是一個中性的工具，本身并沒有對錯。 正如當你在ChatGPT問ChatGPT自身是否存在安全隱憂時，ChatGPT的最后回應是 ： ”However, it is important for users and developers to be aware of these security concerns and take appropriate measures to mitigate them.” ，最終責任應該落在用家本身。 最后，當大家使用AI時，應該保持凡事核查的心態(tài)，從多個源頭查證事實。
