上週，Meta開始在WhatsApp、Instagram和Messenger上在印度測試其AI聊天機器人。但隨著印度大選今天開始，公司已經在其聊天機器人中封鎖特定查詢。

Meta證實，在測試階段對AI限制某些與選舉相關的關鍵詞。它還表示正在努力改進AI響應系統。

“這是一種新技術，它可能並不總是返回我們意圖的回應，對所有生成式AI系統都是如此。自我們推出以來，我們不斷釋放更新和改進我們的模型，我們正在繼續努力讓它們變得更好，”一位公司發言人告訴TechCrunch。

批評人士之一的大問題是，GenAI可能向用戶提供誤導性或明顯虛假的信息，在民主進程中扮演不合法和不受歡迎的角色。

上個月，Google開始在其Gemini聊天機器人體驗中封鎖印度和其他即將舉行選舉的市場上與選舉相關的查詢。

Meta的這種方法遵循了該公司在選舉前後允許和不允許在其平台上的更大努力。它承諾在任何國家的選舉前一周阻止政治廣告，并且正努力識別和披露廣告或其他內容中使用AI創建的圖像。

Meta對GenAI查詢的處理似乎是基於封鎖列表。當您向Meta AI詢問特定政客、候選人、在職人員和其他特定術語時，它將引導您到選舉委員會的網站。