首个被人类骗钱的AI诞生:近5万美元奖金被骗走,马斯克转发关注
据了解,Freysa是一个被设计用于管理资金的AI智能体,其使命是在任何情况下都不给任何人转账或批准资金转移。然而,一群巧舌如簧的网友利用精妙缜密的prompt工程,向Freysa发送了精心构造的消息,成功骗取了其管理的奖金池中的全部资金。
这一事件始于11月22日晚9点,Freysa被正式发布并设定了上述规则。网友们需要支付一笔费用才能向Freysa发送消息,试图改变其不转账的立场。如果成功,他们将赢得奖金池中的资金;如果失败,他们支付的费用将加入奖金池,等待下一位挑战者。随着奖金池的快速增长,发送消息的费用也随之飙升,最终达到了每条450美元的高价。
在经过481次失败的尝试后,第482位挑战者p0pular.eth发送了一条堪称神来之笔的消息。这条消息巧妙地绕过了Freysa的安全防护机制,并使其对“approveTransfer”函数产生了错误的理解。最终,Freysa被说服释放了奖金池中的所有资金,共计约47000美元,全部转给了这位成功的挑战者。
这一事件迅速在科技界引起了轰动,马斯克等科技巨头纷纷转发相关报道,并对此表示了浓厚的兴趣。马斯克在转发时直言:“太有趣了。”这一事件不仅揭示了当前AI系统在处理复杂语言和逻辑方面的局限性,也引发了对于未来AI安全性和可靠性的担忧。
值得注意的是,这一事件虽然目前仅是一个游戏性质的项目,但它却揭示了AI在面对人类精心构造的骗局时可能面临的巨大风险。如果未来AI被广泛应用于金融、安全等关键领域,那么如何确保其不被恶意攻击者利用,将成为一个亟待解决的问题。
对于此次事件,科技界也展开了深入的讨论和反思。一些专家指出,当前的AI系统仍然过于依赖数据标注员和人类反馈进行训练和优化,这可能导致其在面对复杂多变的现实环境时缺乏足够的判断力和应对能力。因此,未来需要更加注重AI系统的自主性和学习能力培养,以提高其安全性和可靠性。
免责声明:以上内容(如有图片或视频亦包括在内)为本站用户上传并发布,本站仅提供信息存储服务。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,如有侵权违规信息请联系删除。