地球上最后一个人

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

A |     封面新闻记者 刘秋凤 实习生 邹天昳          当科学家、企业家与投资家坐在一起，聊得最热的是什么？7月22日，在2026天府科学家创新发展大会暨成都科产融合对接活动的圆桌对话上，“耐心”成为多位嘉宾的共识。

B |          这场由中国工程院院士邓龙江主持，中国科学院院士邹才能、中国工程院院士孙以泽，电子科技大学校长胡俊，华鲲振宇董事长魏靖，沃飞长空CEO郭亮，中金资本董事总经理王胜昔共同参与的对话，围绕四川新能源、新材料与低空经济产学研融合发展等领域展开。    　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。尽管议题宏大，但“耐心资本”一词被多次提及。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。         活动现场          作为低空经济赛道的先行者，沃飞长空CEO郭亮认为，成都若要在低空经济中占据一席之地，必须“在难而正确的事上做长期探索”。

C | 他强调，任何技术和产品最终走向成功，都必须完成商业闭环，而这离不开长期资本的陪伴和支持。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。

D | 与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。         孙以泽院士从材料科学角度呼应。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。他指出碳纤维复合材料是飞行器的理想材料。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。

E | 　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明，大规模传播可行但内容难以保持完整。“飞行器的复合材料化是必然趋势”。

F | 他建议四川在低空飞行器底层制造上深耕，服务国家安全和国民经济。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。         电子科技大学校长胡俊在分享学校推动成果转化的做法时，透露出对耐心资本的现实需求。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。他介绍，学校出台了成果转移转化加速行动，核心就是“打消教授们的顾虑”，让实验室成果尽快从“书架走向货架”。对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。学校还专门设立了技术转移专业硕士点，培养懂技术、懂转化的复合型人才。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。谈及资金支持时，他直言：“我们也需要耐心的资本。”他透露，学校正与多方洽谈设立人工智能产业转化基金，希望通过校院企地协同，更好地服务国家战略和区域发展。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。

G |          作为国家级科技成果转化基金管理方，中金资本董事总经理王胜昔表示，资本只是要素之一，更重要的“是帮助科学家转变成企业家，把一个成果转化成可融资的公司”。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。他强调，关键要在成果面向市场时“做好金融定价和风险分散”，“把资本精准配置到科技领域”。         从院士到校长，从企业家到投资人，这场对话传递出一个清晰共识：无论是能源安全、材料突破还是低空经济新赛道，四川需要的不是追逐短风的“热钱”，而是愿意陪伴创新走过漫长验证期的“耐心资本”。　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。         【如果您有新闻线索，欢迎向我们报料，一经采纳有费用酬谢。

H | （文章来源：第一财经）。报料微信关注：ihxdsb，报料QQ：3386405712】。

Current article:http://85i27.xiaqingzhuangdaminnan.cyou/news/20260826_126839.html

Published on:12:24:37