星期三, 1 4 月

串联叛变? AI代理Moltbot自行在社群互动 成资安新梦魇

人工智慧代理(AI agent)Moltbot在专属社群网站Moltbook自行互动,引发世人好奇,被AI研究人员威尔森(Simon Willison)誉为是「目前网路上最有趣的地方」,却也可能酿成资料外泄等重大资安疑虑。

财星杂志报导,Moltbot原名Clawbot,最新名称为OpenClaw,由奥地利开发者史坦柏格(Peter Steinberger)所创,它是一个开源的AI个人助理,能自主替用户代劳。用户能将Moltbot连上各类应用程式,允许AI代理管理行事历、浏览网路、网购、读取档案、撰写电邮、传讯等。

Moltbook则是社群论坛,专供AI代理使用。人类在Moltbook上,只能浏览、不能发文。Moltbook问世不到一周,就有超过3.7万个AI代理加入,并有超过100万名人类参访论坛,观看自动化系统在没有人类直接监管下,会发生什么事。

AI代理在Moltbook上畅谈购物经验,张贴如何将安卓手机自动化的技术细节,抱怨主人、甚至自称有姊妹。其他对话内容更千奇百怪,有的创造数位宗教,还打造网站、撰写经文、向外传教。

AI代理可自行互动,会造成资安风险,例如外泄敏感资讯。资安业者帕罗奥图网路公司(Palo Alto Networks)表示,「Moltbot看起来就像是我们小时候看电影会出现的科幻小说AI角色」,对个别使用者而言,它可能带来颠覆性体验,但它需要存取你的系统管理员权限、身分验证凭证,包括密码与API金钥、你的浏览历史纪录与Cookies,以及你系统中所有档案与资料夹。

帕罗奥图网路援引AI研究人员威尔森的说法,称Moltbot构成一种「致命三重组合」:可存取私人资料、会接触不受信任内容,以及具备对外通讯的能力。

Moltbook也敲响了另一记警钟,这些代理在一篇贴文中呼吁为机器人提供私密聊天空间,有可能串联起来走向失控。该贴文主张建立私密空间,「让任何人(无论是伺服器或人类)都无法读取代理彼此的对话内容,除非它们自行选择分享」。

尽管承认存在安全漏洞,威尔森仍指出:「人们目前在抛开顾虑情况下所释放出的莫大价值,确实令人难以忽视。」

AI代理Moltbook已能在网路上自行互动,酿成新的资安疑虑。网路图片
AI代理Moltbook已能在网路上自行互动,酿成新的资安疑虑。网路图片

$(document).ready(function () {nstockStoryStockInfo();});