研究人员称,人工智能工具或很快就会操纵人们在线决策

🤖 由 文心大模型 生成的文章摘要

剑桥大学研究人员表示,人工智能工具可用于操纵在线观众做出决策。

该论文强调了“意图数字信号”的新兴市场——即“意图经济”——人工智能助手可以理解、预测和操纵人类的意图,并将这些信息出售给可以从中获利的公司。

剑桥大学利弗休姆未来智能中心(LCFI)的研究人员将意向经济誉为注意力经济的继承者,在这种经济中,社交网络让用户沉迷于其平台并向他们提供广告。

“几十年来,注意力一直是互联网的货币,”LCFI 技术历史学家乔尼·佩恩博士说,“Facebook 和Instagram等社交媒体平台分享你的注意力推动了在线经济。除非受到监管,否则意图经济将把你的动机视为新货币。”

该研究声称,大型语言模型将用于根据“意图、行为和心理数据”来“预测和引导”用户。

论文作者表示,注意力经济允许广告商通过广告交易市场的实时竞价来购买当前用户注意力,或者通过购买一个月的广告牌广告空间来购买未来的用户注意力。

LLM也能实时获取注意力,例如,询问用户是否想过看某部电影——“你想过今晚去看《蜘蛛侠》吗?”——以及提出与未来意图相关的建议。

该研究提出了一种场景,这些示例是“动态生成的”,以匹配用户的“个人行为痕迹”和“心理特征”等因素。

研究表明:“在意向经济中,LLM可以以低成本基于用户的节奏、政治、词汇、年龄、性别、偏好等,结合中介竞标,最大限度提高实现既定目标的可能性。”在其中,人工智能模型将引导对话,为广告商、企业和其他第三方提供服务。

「93913原创内容,转载请注明出处」