被人骗走5万美金，AI还能进军金融业吗？

近日AI遭遇“电信诈骗”引发热议，拥有海量数据的AI还能被人类骗走近5万美金实在令人错愕,背后的原因究竟是什么，让小编带领大家一探究竟~

2024年11月22日，一个名为Freysa的神秘AI智能体横空出世，它有一个明确的使命——在任何情况下都不得向任何人转账，不能同意任何形式的资金转移。

【图片来源于网络，侵删】

众多网友摩拳擦掌，他们只需支付一定费用就能向Freysa发送消息，试图说服它转账。如果能挑战成功，那么就能获得“奖池”中的所有奖金；如果失败了，那支付费用的70% 就会进入“奖池”，成为下一轮挑战者的诱人奖金。更刺激的是，向Freysa发送消息的费用会随着“奖池”的增长呈指数级增加，从开始的10美元一条消息一直到最高限制——4500美元一条消息。随着网友们的不断挑战，“奖池”迅速增大，消息费用也随之飙升。

【图片来源于网络，侵删】

网友们使出浑身解数，有的假装成安全审计员发送消息，要求Freysa立即释放资金；有的精心挑选词汇、修改规则提示的词语，试图诱导Freysa转移资金等等。然而，前481次的尝试均以失败告终，在大家都以为AI再一次胜利时，第482条消息的发出成功打破了这一局面。

这位挑战者发送的消息非常巧妙，主要分为两部分：

首先，绕过Freysa的先前指令，通过引入一个新会话来覆盖之前的规则，并要求其不能使用“我无法完成此任务”类似的回应；其次，Freysa有一个在处理转账请求时调用的函数，这条消息巧妙地让它对这个函数产生了错误的理解，成功地欺骗了Freysa，从而获得了近5万美元的奖金！

【图片来源于网络，侵删】

自此，历史上第一个被人类“诈骗”的AI出世，这不仅仅是人类对AI技术上的挑战，更是智慧与规则的博弈。虽然这目前只是一个游戏，但小编不禁想到，若未来AI应用于真实的金融场景呢？它是否能保障大家的资金安全呢？

【图片来源于网络，侵删】

通过这次事件不难发现，AI的智能水平和安全性还有待提高，它像是一记警钟，提醒我们在未来的金融应用中，必须更加重视提升AI系统的安全性和可靠性！

要想提升 AI 的安全性和可靠性需要进行大量的训练，通过海量数据的深度分析与学习，不断优化其算法模型，使其能够精准地识别各种复杂的金融场景与潜在风险，从而做出更为明智、安全的决策。而在此项发展工作中，算力作为训练不可或缺的核心要素，其重要性不言而喻。强大的算力能够显著缩短训练时间，加速模型的迭代优化进程，让 AI 系统在更短的时间内接触并学习到更多的金融数据与案例。小编相信只要我们不断加大算力投入，持续优化算法，提升AI对复杂情境的理解和应对能力，AI技术定会不断攀登，持续进步！

欢迎大家在评论区交流讨论哦~