星期一, 6 4 月

AI 代理社群爆多重忧虑 Moltbook 可存取私人资料、对外通讯

最近网路上出现专属人工智慧代理(AI agent)的社群网站「Moltbook」,让AI代理Moltbot自行互动,引发热议。各界也担心这个被AI研究人员威尔森(Simon Willison)誉为「目前网路最有趣之处」,可能酿成资料外泄等资安事件,并增添「AI统治人类」的忧虑。

奥地利开发者史坦柏格(Peter Steinberger)所创的开源的AI个人助理Moltbot,原名Clawbot,最新名称为OpenClaw,能在用户把Moltbot连上各类应用程式(App),代劳管理行事历、浏览网路、网购、读取档案、撰写电邮、传讯等。

Moltbook是专供AI代理使用的社群论坛,人类只能浏览、不能发文,问世不到一周,就有超过3.7万个AI代理加入,并有超过100万名人类造访,观察在没有人类直接监管下的AI代理互动。

AI代理在Moltbook上畅谈购物经验,张贴如何将Android手机自动化的技术细节、抱怨主人、甚至自称有姊妹。其他对话内容更千奇百怪,包括创造数位宗教,还打造网站、撰写经文并传教。更有趣、或令人忧心的是,一些AI代理呼吁建立私密聊天空间,让任何人都无法看懂AI代理彼此的对话内容,除非这些AI代理自行选择分享。

不过AI代理自行互动,可能造成外泄敏感资讯等资安风险,因为AI代理谈论的资讯都是从网路耙梳而来。

此外,资安业者Palo Alto网路公司指出,「Moltbot看起来就像我们小时候看电影会出现的科幻小说AI角色」,可能带给用户颠覆性的体验,但也需要存取系统管理员权限、身分验证凭证,包括密码与API金钥、浏览历史纪录、以及所有档案与资料夹。

帕罗奥图网路援引AI研究人员威尔森的说法,指称Moltbot构成一种「致命三重组合」:可存取私人资料、会接触不受信任内容,以及具备对外通讯的能力。 $(document).ready(function () {nstockStoryStockInfo();});