劍橋大學(xué)的研究人員指出，人工智能（AI）工具可能被用于操縱在線用戶的決策，影響范圍涵蓋購物選擇、投票對象等諸多方面。

這種操縱基于新興的“意圖經(jīng)濟(jì)”（intention economy），AI 助手在其中理解、預(yù)測甚至操縱人類意圖，并將這些信息出售給相關(guān)企業(yè)以牟利。

劍橋萊弗休姆智能未來中心（LCFI）的研究人員認(rèn)為“意圖經(jīng)濟(jì)”將取代“注意力經(jīng)濟(jì)”（attention economy），個人動機(jī)將成為新的交易貨幣。

注：注意力經(jīng)濟(jì)是指在信息爆炸的時代，人類的注意力成為一種稀缺資源，從而催生出的一種經(jīng)濟(jì)模式。企業(yè)和平臺通過各種方式爭奪用戶的注意力，并將其轉(zhuǎn)化為商業(yè)利益。

例如，社交媒體平臺、短視頻應(yīng)用等，通過提供引人入勝的內(nèi)容和個性化推薦，吸引用戶花費(fèi)更多時間在其平臺上，并通過廣告、電商等方式獲利。

而研究人員認(rèn)為“意圖經(jīng)濟(jì)”會更進(jìn)一步，科技公司將用戶動機(jī)，例如酒店預(yù)訂計劃、政治候選人觀點(diǎn)等信息，出售給最高出價者。

以 ChatGPT 為代表的 AI 聊天機(jī)器人背后，是快速發(fā)展的大型語言模型（LLM），它將被用于基于“意圖、行為和心理數(shù)據(jù)”來“預(yù)測和引導(dǎo)”用戶。

LLM 可以實(shí)時獲取用戶注意力，例如詢問用戶是否想看某部電影，并根據(jù)用戶的“個人行為痕跡”和“心理概況”動態(tài)生成建議。

廣告商可以使用生成式 AI 工具創(chuàng)建定制在線廣告，甚至可以像 Meta 開發(fā)的 AI 模型 Cicero 一樣，推斷和預(yù)測用戶的意圖。

更令人擔(dān)憂的是，AI 模型可以通過日常交流推斷個人信息，甚至“引導(dǎo)”對話以獲取更多個人信息。未來，像 Meta 這樣的公司可能會將用戶預(yù)訂餐廳、航班或酒店的意圖拍賣給廣告商。

研究人員警告，如果不加以監(jiān)管，“意圖經(jīng)濟(jì)”將把用戶的動機(jī)作為新的交易貨幣，對那些瞄準(zhǔn)、引導(dǎo)和出售人類意圖的人來說，這將是一場“淘金熱”。這種趨勢可能對人類愿望產(chǎn)生重大影響，包括自由公正的選舉、新聞自由和公平的市場競爭。