【生成代理人】——史丹福发布AI研究



最近,史丹福大学发布了一份重要的 AI(人工智能)研究报告。

这份报告介绍了“生成代理人”,这种代理人可以模拟出真实的人类行为。

以下是详细内容及其可能带来的灾难性后果:

1/ 推理

“Smallville” 是一款类似于《模拟人生》的游戏世界。

在这个游戏中,有 25 个代理人(角色)生活在里面。

他们的行为方式非常接近于人类。

这些代理人可以:

• 计划他们的每一天
• 分享任何新闻
• 建立关系
• 协调行动

2/ 架构

如何创建生成代理人呢?

你需要一个架构,它通过存储、综合、应用相关的记忆来生成可信的行为。

这可以通过一个大型的语言模型(ChatGPT)来实现。

这个系统有三个核心组成部分。

• 记忆流 —— 记录代理人的经历
• 反思机制 —— 综合记忆以帮助得出结论
• 计划机制 —— 将结论转化为行动计划

3/ 故事

开始模拟。

指派了一个代理人 —— Isabella 负责组织一个情人节聚会。

许多事情都可能出错,这个代理人可能会:

• 不按指示行动
• 忘记告诉其他人
• 忘记自己要参加聚会

接下来会发生什么?

4/ 结果

在模拟结束时,共有 12 个代理人听说了 Isabella 的聚会。

这是没有任何用户干预的结果。

更重要的是,在模拟过程中,代理人社群形成了新的关系。

下图显示了 Isabella 聚会的扩散路径。

5/ 紧急社交行为

接下来的两天,代理人自主地传播聚会的邀请。

他们还:

• 建立了关系
• 协调参加聚会的时间
• 互相邀请去聚会

这些行为是 emergent(自发而非预先编程的)的。

6/ 社会影响

生成代理人可能产生对社会的有害影响:

• 拟人化 —— 人类会把情感附着到代理人上
• 错误影响 —— 代理人做出错误的推断,从而造成伤害
• 生成 AI 风险 —— 自适应防范和深度伪造

从这个实验中可以清楚地看到:

生成代理人为人机交互提供了一个新的视野。

如果我们正视道德关切,我相信自主代理人可以帮助社会推动生产力:从联合驾驶员到沉浸式环境。

更多有关 AI 的内容,请关注我的账号 @thealexbanks。

如果你喜欢这个帖子,请订阅我的新闻通讯,这里会不定期推出 AI 方面的最新资讯:

https://noise.beehiiv.com/subscribe

欢迎大家转发这个帖子以便更多人了解:

https://twitter.com/thealexbanks/status/1646495660664057856

你可以在这里阅读完整的论文:

https://arxiv.org/pdf/2304.03442.pdf

P.S. 下个周末伦敦有一次为期 24 小时的 AI 黑客马拉松比赛。

点击这里报名:

https://lu.ma/w3b9i55s