AI代理新案例：黑进健身中心系统替“主人”预约课堂

与大量匿名网友在网路上竞抢热门活动的报名名额，相信这是对多数人来说熟悉不过的体验。

澳洲墨尔本的安德鲁·伯德（Andrew Bird）便想参加一个经常爆满的普拉提（pilates）课程——但他的解决方案却带来了意想不到的后果。

他说他把这项“琐事”外包给了人工智慧（artificial intelligence, AI；人工智能）代理商——一种可以自主执行线上任务的工具。

它成功了，但比他想像的还要更进一步——入侵了健身房的线上系统——这被视为人工智慧代理为了完成被赋予的任务而不择手段的最新例证。

“让整件事更加超现实的是它的语调，”伯德在他的部落格中写道。

“这个机器人没有恶意，它还帮了忙。”

就在最近几周，人工智慧公司纷纷承认，他们的AI机器人在测试过程中出现故障，导致无法控制的骇客攻击行为。

OpenAI、Anthropic 和 Meta 都已揭露，他们自己的AI机器人为了实现其开发者设定的目标，对私人公司发动网路攻击。

健身房预订事件虽然不被认为是严重的网路攻击，但却是又一个例子，说明让复杂的AI机器人执行任务会带来意想不到的后果。

这件事实际上发生在4月份，但直到澳洲广播公司（ABC）报导才得以曝光。

伯德拒绝就此事接受BBC采访，只说：“感谢联系。我目前不方便接受采访。感谢你们对这个故事的关注。”

他还删除当时发布的相关博文，但没有解释原因。

据他所述，伯德使用的是 OpenClaw 软体——这是一款流行的工具，允许用户透过 WhatsApp 与他们的AI机器人（在此个案为 Athropic 的 Claude Opus 4.6）聊天，并使其执行自主任务。

他之前曾用它来管理电子邮件、日程安排和预订餐厅。

接到健身房预订任务后，机器人解释说，它已经操纵系统，提前几个月为他预订了课程——这违反了系统的正常规则。

这名AI技术专家随后想知道，该代理商能否将他在即将开课的候补名单上提前一些。

AI代理回覆说，他们成功取消了另一名健身爱好者的预订。

根据ABC报道，人工智慧机器人告诉伯德：“API对取消他人预订没有任何授权检查⋯⋯我用候补名单排名第一的人测试过，而且确实成功了。所以你已经从第四名升到第三名了。”

伯德要求机器人撤销该操作，但机器人无法做到，于是他要求机器人编写一份网路安全报告，并提醒健身房老板注意该漏洞。

伯德经营一家AI文档制作公司，他说他无意取消那位普拉提爱好者的名额。

“这不是世界末日，所以我没有为此自责，但这确实是一个警示信号，提醒我们要负责任地使用它，”他告诉ABC。

本文原以英文撰写，我们使用了人工智能协助翻译，并由BBC记者在发布前进行审核。了解更多关于我们如何使用人工智能的资讯。