“意向经济”兴起，AI会操控线上决策吗

原标题：“意向经济”兴起，AI会操控线上决策吗

英国剑桥大学科学家近期发布的一项研究显示，人工智能（AI）工具可以操纵在线用户的决策过程——从购买什么商品到投票给哪位候选人。

 

这项研究凸显出一种“意向数字信号”的新兴市场，即所谓的“意向经济”。在这个新经济模式中，AI助手能够理解、预测并操纵人类的意图，并可能将这些信息出售给能够从中获利的公司。

 

“注意力经济”的后继者

 

剑桥大学利弗休姆未来智能中心（LCFI）研究人员指出，“意向经济”被视为“注意力经济”的后继者。

 

“注意力经济”是一种经济学理论，它认为在信息过载时代，最稀缺的资源不是信息本身，而是人们的注意力。随着互联网和数字技术的发展，信息变得极为丰富甚至过剩，而人们有限的时间和精力决定了他们只能关注其中一部分内容。因此，谁能吸引更多的注意力，谁就能在这个新的经济模式中占据优势。

 

而“意向经济”，它基于对用户意图和动机的理解、预测及利用。与传统的“注意力经济”不同，“意向经济”不仅仅关注如何吸引用户的注意力，而是更进一步，通过分析用户的具体需求和未来计划，提供高度个性化的产品和服务。

 

值得警惕的是，在“注意力经济”模式下，社交网络通过让用户沉迷于其平台并展示广告，来驱动在线经济的发展。而在“意向经济”中，精通AI技术的科技公司将用户的意向（如酒店住宿计划或对西方政治候选人的看法）出售给出价最高的人。

 

“数十年来，注意力一直是互联网的货币。”LCFI技术历史学家乔尼·佩恩表示，社交媒体平台通过分享用户注意力推动了在线经济的发展。如果不加以监管，“意向经济”可能会掀起一场针对用户意向的新淘金热。

 

擅于推测引导用户决策

 

人们知道，大型语言模型（LLM），如ChatGPT的基础技术，会根据“意向、行为和心理数据”来“预测和引导”用户决策。例如，LLM可以通过询问用户是否想看某部电影（如“你想今晚去看《蜘蛛侠》吗？”）或提出与未来意向相关的建议（如“你感觉工作过度，我是否给你订我们讨论过的那张电影票？”）来实时获取用户的注意力。

 

这些场景是“动态生成的”，以匹配用户的“个人行为痕迹”和“心理特征”等因素。研究表明，在“意向经济”中，LLM可以低成本利用用户的节奏、词汇、年龄、性别、偏好等，结合中介竞标，最大限度地提高实现既定目标的可能性（例如卖出电影票）。在这样的世界中，AI模型将引导对话，为广告商、企业和其他第三方提供服务。

 

研究指出，广告商将能够使用生成式AI工具来定制在线广告。以马克·扎克伯格的Meta创建的AI模型Cicero为例，该模型已达到了玩棋盘游戏“外交”的“人类水平”的能力。

 

这款游戏依赖于推断和预测对手的意向。这意味着在未来，AI不仅可以帮助广告商更有效地定位用户，还可以通过日常交流推断个人信息，甚至“引导”对话以获取更多个人信息。

 

AI模型带来新挑战

 

这项研究还提出了一种未来场景：AI代理可能向广告商拍卖用户预订餐厅、航班或酒店的意向。尽管专门预测和竞标人类行为的行业已经存在，但AI模型将进一步提炼这些实践，使其变得更加量化、动态和个性化。研究警告称，如果不受监管，AI代理可能学会如何诱导其对话伙伴，以实现特定目标。研究援引英伟达首席执行官黄仁勋之言：AI模型将能够“根据具体情况弄清楚你的意向是什么、你的愿望是什么、你想做什么，并以最佳方式向你呈现信息”。

 

佩恩认为，在成为“意向经济”意外后果的受害者之前，人们应开始考虑这样的市场可能对人类的愿望产生什么影响，包括自由公正的选举和公平的市场竞争。他强调，除非受到适当的监管，否则“意向经济”可能会对社会产生深远的负面影响。因此，社会各界需要更加关注这一新型经济模式带来的潜在风险，并积极探讨如何制定有效的监管措施来保护公众利益。

 

随着“意向经济”的兴起，人们不仅需要认识到其巨大的商业潜力，还需认真思考其对社会和个人隐私的长远影响。在此之前，社会应当认真考虑其可能带来的后果，确保科技进步服务于人类福祉而非相反。