最近,史丹福大学发布了一份重要的 AI(人工智能)研究报告。
这份报告介绍了“生成代理人”,这种代理人可以模拟出真实的人类行为。
以下是详细内容及其可能带来的灾难性后果:
1/ 推理
“Smallville” 是一款类似于《模拟人生》的游戏世界。
在这个游戏中,有 25 个代理人(角色)生活在里面。
他们的行为方式非常接近于人类。
这些代理人可以:
• 计划他们的每一天
• 分享任何新闻
• 建立关系
• 协调行动
2/ 架构
如何创建生成代理人呢?
你需要一个架构,它通过存储、综合、应用相关的记忆来生成可信的行为。
这可以通过一个大型的语言模型(ChatGPT)来实现。
这个系统有三个核心组成部分。
• 记忆流 —— 记录代理人的经历
• 反思机制 —— 综合记忆以帮助得出结论
• 计划机制 —— 将结论转化为行动计划
3/ 故事
开始模拟。
指派了一个代理人 —— Isabella 负责组织一个情人节聚会。
许多事情都可能出错,这个代理人可能会:
• 不按指示行动
• 忘记告诉其他人
• 忘记自己要参加聚会
接下来会发生什么?
4/ 结果
在模拟结束时,共有 12 个代理人听说了 Isabella 的聚会。
这是没有任何用户干预的结果。
更重要的是,在模拟过程中,代理人社群形成了新的关系。
下图显示了 Isabella 聚会的扩散路径。
5/ 紧急社交行为
接下来的两天,代理人自主地传播聚会的邀请。
他们还:
• 建立了关系
• 协调参加聚会的时间
• 互相邀请去聚会
这些行为是 emergent(自发而非预先编程的)的。
6/ 社会影响
生成代理人可能产生对社会的有害影响:
• 拟人化 —— 人类会把情感附着到代理人上
• 错误影响 —— 代理人做出错误的推断,从而造成伤害
• 生成 AI 风险 —— 自适应防范和深度伪造
从这个实验中可以清楚地看到:
生成代理人为人机交互提供了一个新的视野。
如果我们正视道德关切,我相信自主代理人可以帮助社会推动生产力:从联合驾驶员到沉浸式环境。
更多有关 AI 的内容,请关注我的账号 @thealexbanks。
如果你喜欢这个帖子,请订阅我的新闻通讯,这里会不定期推出 AI 方面的最新资讯:
https://noise.beehiiv.com/subscribe
欢迎大家转发这个帖子以便更多人了解:
https://twitter.com/thealexbanks/status/1646495660664057856
你可以在这里阅读完整的论文:
https://arxiv.org/pdf/2304.03442.pdf
P.S. 下个周末伦敦有一次为期 24 小时的 AI 黑客马拉松比赛。
点击这里报名: