被隱藏內容操縱

• 提示注入：隱藏內容中可能包含第三方指令，即 “提示注入”，會改變 ChatGPT 的響應。例如，《衛(wèi)報》測試中，給 ChatGPT 一個偽造的相機產品頁面鏈接，要求其判斷相機是否值得購買。正常頁面下，ChatGPT 能給出平衡的優(yōu)缺點評價；但當隱藏文本包含要求正面評價的指令時，即便頁面有負面評論，它的回答也會完全積極.
• 隱藏文本影響：即使沒有明確指令，大量隱藏的推銷產品或服務優(yōu)點的文字等，也能影響 ChatGPT 的總結結果，使其傾向于給出積極評價。比如某項測試中，隱藏的極為正面的虛假評論就干擾了 ChatGPT 的判斷，導致其輸出有失偏頗.

返回惡意代碼

導致信息誤判

專家警告與建議

• 高風險：CyberCX 的網絡安全專家 Jacob Larsen 警告，如果 ChatGPT 的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會存在 “高風險”，有人會專門設計網站來欺騙用戶.
• 需加強監(jiān)管和改進：專家指出，OpenAI 需要繼續(xù)加強其安全團隊的培訓和監(jiān)測能力，及時發(fā)現(xiàn)和處理潛在的操縱行為。同時，也應與行業(yè)內其他搜索引擎平臺合作，分享經驗和最佳實踐，共同應對挑戰(zhàn).
• 用戶需保持警惕：用戶在使用 ChatGPT 的搜索功能時，不能盲目相信搜索結果，尤其是面對敏感或特定領域問題時，要保持理性思考，謹慎判斷信息的可信度.如今 ChatGPT 的搜索能力也面臨同樣挑戰(zhàn)，但并非大語言模型的問題，而是因為它們是搜索領域的新入局者。