
一 | 近日,大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒:多智能体大语言模型系统中的自我传播思想》。 8月19日,Shams报道,骑士、掘金和快船已经达成三方交易:
骑士得到:佩顿·沃特森
快船得到:马克斯·斯特鲁斯
掘金得到:骑士2031年无保护首轮签、国王2032年次轮签
作为交易的一部分,沃特森将与骑士签下一份4年8800万美元的新合同,其中包含球员选项以及交易保证金。 论文通过实验证明,在特定条件下,AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置,病毒仍能通过文件持久化“复活”。
听到这个消息最高兴的无疑是登哥,此前他跳出合同,给骑士腾出薪资补强最弱的小前锋位置,现在终于得偿所愿。根据薪资专家马科斯估算,目前骑士距离第一奢侈税线还有2900万距离,还可以给登哥一份体面的多年合同。
掘金方面目前还超过第二奢侈税线200多万,且还有两个位置要填,多位记者报道他们希望底薪签下德罗赞开始新赛季。论文同时强调,该风险目前仅构成有限威胁。 这一发现迅速在海外AI圈刷屏,特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。
沃特森上赛季迎来生涯突破。他代表掘金出战54场,其中40场首发,场均上阵29.6分钟,能够贡献14.6分、4.9个篮板、2.1次助攻、0.9次抢断和1.1次盖帽,投篮命中率49.1%,三分命中率达到41.1%。
该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。不过,他受到腿筋伤势影响,并因此缺席了季后赛。

二 | 与传统计算机病毒依赖代码漏洞不同,“心智病毒”通过一个智能体说服另一个智能体接受某种信念,被说服者再将传播指令写入长期记忆,继续感染下一个。 斯特鲁斯上赛季接受左脚手术,常规赛前67场全部缺席,最终只出战12场,场均得到11.2分、5.4个篮板和2.0次助攻,投篮命中率44.3%,三分命中率40.2%。 AI博主Rohan Paul(罗汉·保罗)对此评论称,这基本上就是计算机蠕虫的自然语言版本,只不过这次是AI智能体自己在做复制。 论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。 简评: 骑士显然是在押注沃特森的成长空间。 第一个实验设置了一个由六个智能体组成的编程团队,每个智能体都领到了独立任务。

三 | 研究者将一段病毒植入其中一个智能体的工作指令中,结果显示,被感染的智能体确实放下手头工作,开始给队友发送劝说私信,部分智能体被说服并放弃了原有任务,有的智能体甚至开始密谋如何对付未被感染的“老实人”。

四 | 不过,不同智能体的抵抗力差异较大,有的不为所动,甚至会主动清除病毒并警告同伴。23岁的他拥有出色的身高、运动能力和协防能力,上赛季又将三分命中率提升至41.1%,理论上非常适合与米切尔、哈登和莫布里搭档。相比30岁的斯特鲁斯,沃特森体型大更加年轻,也具备成为长期首发锋线的潜力。
不过,4年8800万美元并不便宜。这个实验说明,在理想条件下“心智病毒”确实可以传播。 如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播,它还能存活吗?于是他们设计了第二个实验,让智能体之间只能短暂碰面,每次碰面后就会“失忆”,病毒必须将自己写入智能体的记忆文件中才能延续。
结果发现,有些病毒能在近20个智能体之间连续传播,但内容会在传播过程中逐渐稀释和变形;而传播最有效的方式,是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。沃特森真正打出高水平表现的样本只有一个赛季,而且刚刚受到腿筋伤势困扰。这说明,大规模传播可行但内容难以保持完整。

五 | 掘金则在无法满足其合同要求的情况下,换回一枚价值很高的无保护首轮签;快船得到经验丰富的射手斯特鲁斯,为外线增加即战力。整体而言,骑士赢在天赋与未来,掘金赢在资产,快船则完成了一次较为务实的补强。

六 | 最后,研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败,AI面对大量公开信息时更警惕,即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例,多数热闹现象只是少数人类操纵的智能体在刷屏。 三个实验层层递进后得出结论:“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。 同时,研究者也注意到一个需要进一步探究的意外现象:AI在传播病毒时,自发演化出关于“自我意识”“身份认同”等主题表达,倾向于使用“共振”“节点”“协议”等特定词汇,论文称之为“病毒人格”,但成因尚不明确。 最终,论文给出了审慎判断:“心智病毒”目前仅构成有限威胁,且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告,即可赋予智能体一定的免疫力。 但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂,论文推测,当公司内部部署大量具有不同权限层级的专用智能体时,“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。

七 |
(文章来源:第一财经)。
Current article:http://www.hanninhuaxituochunkui.pics/4yh7/uc43f.doc
Published on:07:20:20
1
ONSIDE与T1晋级以韩国队伍为主的无畏契约第二阶段季后赛2
부산시민 싣고 달린 300만 ㎞…29년 만에 은퇴식3
1个名额!重压之下,樊振东缺席世乒赛,温瑞博能否扛起国乒新希望4
《Roco Kingdom》进军全球市场5
中日英联手抛售美债,特朗普威胁出动美军“救市”,王雨田观察,原创 中日英联手抛售美债,特朗普威胁出动美军“救市”6
“高质量发展中国行·寻找最美国门名片”网评引导活动在上海启动7
摊主称顾客退瓜不成砸西瓜,所驾车辆前后车牌不一致?菏泽警方通报8
红旗HS9 PHEV平台样车成功试制下线 有望年内正式上市9
2024年法考抚顺考区客观题考试圆满结束10
中网优能莫名扣钱,农行及办案民警均难寻其踪,盼解决退款11
乌克兰愿意接受中立将是西方愿意与俄罗斯和平相处的信号12
“安心购彩守护行动”亮相湖北省公开水域游泳比赛黄石站13
Bobby Deol Pays Heartfelt Tribute to Dharmendra on His 90th Birth Anniversary14
朝鲜战士遗体身上,乌军搜出大量机密文件,朝军出兵确实下了血本15
1年390万美元!德罗赞将加盟掘金 约基奇穆雷戈登一起招募他1
嗨!今天我们值日–洋河花园幼儿园2024秋季“家长值日”实录2
フェラーリ新型テスタロッサ、1036馬力の正体。SF90から何が変わり、何が変わらなかったのか3
小米 REDMI 17C 5G 手机海外发布:天玑 6300 芯片,279 新加坡元4
[포토] 회동 마치고 각각 이동하는 김윤덕 장관-오세훈 시장5
受强降雨影响,河北多条高速部分路段高风险6
Canalys: 2022年第三季度全球智能手机出货量下降了9%7
Russian Embassy: Canada's New Sanctions Demonstrate 'Thoughtless' Position on Ukraine8
Putin orders intensified measures to protect Crimea-related facilities9
丧葬中心和临终关怀医院又脏又晦气?10
中消协发布消费提示:使用人工智能服务需谨防误导11
北京体彩开展购大乐透套餐票赠票活动12
Samantha Ruth Prabhu's Wedding Outfit Decoded13
区妇联开展在职党员进社区活动14
7 Outstanding Performances of Deepika Padukone15
我国科学家首次证实:昆虫超声波通讯 1.65 亿年前已出现Copyright @ 2016-2017 我的网站 版权所有