LONGFORM READING
易胜博·(中国体育)官方网站-ysb APP 最新动态 Meta员工称Muse泄露私密数据,高管回应是幻觉

Meta员工称Muse泄露私密数据,高管回应是幻觉

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。发布公告里,公司说权限由用户掌控,能访问什么由用户决定。这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。 问题从内部员工的讨论里冒了出来。据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回

易胜博官网整理如下:

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。

发布公告里,公司说权限由用户掌控,能访问什么由用户决定。

这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。

问题从内部员工的讨论里冒了出来。

据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。

这些描述拼出的画面,像是一次安全泄露。

Meta不认这个说法。

公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。

按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。

这个区分在技术上成立,对用户却未必成立。

一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。

用户很难判断系统到底是读错了、编造了,还是真的取到了信息。

三种情况下,“访问受控”这个核心承诺都变得难以评估。

风险还被Muse的运行方式放大。

Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。

问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。

Meta自己的文档也承认这层风险。

在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。

这些指引把不小的负担压给了用户。

它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。

这会形成一道不同的商业护城河。

领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。

Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。

about image

每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。

对Meta来说,这是一次提醒:单靠分发拿不下代理市场。

公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。

在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。

特别

本文内容由易胜博官网整理。

分享这篇内容

让更多人看到这份有价值的赛事观察。

TRENDING DESK

热点新闻

快速查看当前内容池中正在被关注的文章。

白酒再次被关注!医生发现:脑梗者喝白酒,不用多久或有5变化

白酒再次被关注!医生发现:脑梗者喝白酒,不用多久或有5变化

很多人对白酒有一种近乎固执的信任。天冷了喝一口暖身,聚会时喝一口助兴,甚至有人出院后还偷偷抿一口,理由是“少喝点没事,还能活血”。 这种认知太普遍了,普遍到几乎成了一种大众常识。可正是这种“常识”,让无数脑梗者在康复路上摔了跟头。你以为喝下去的是舒坦,身体收到的却是严厉惩罚。 白酒入喉的爽快感背后 ,藏着的可能是血管难以承受的隐患。我见过太多这样的病人,明明身体早已发出求救信号,却总被当成“累了”
蒋介石的心腹杨永泰:三次看穿红军战略,最后却死在自己人枪口下

蒋介石的心腹杨永泰:三次看穿红军战略,最后却死在自己人枪口下

1936年10月25日,汉口江汉关码头,一阵枪响打破了江边的喧闹。时任湖北省政府主席的杨永泰倒下了,年仅56岁。蒋介石得知消息后十分震动,因为这个人不是普通官员,而是被他称作“当代卧龙”的头号智囊。可问题是,这位算无遗策的杨永泰,最后为什么没有死在战场上,反而死在了自己人的枪口下? 一、从“换东家”的幕僚,到蒋介石的头号智囊 杨永泰,字畅卿,1880年生于广东茂名。这人从小就聪明,17岁考中秀才,
1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

1988年的秋天,北京的天空格外高远。陈伯达站在秦城监狱的大门外,眯起眼睛看着久违的阳光。 十八年的牢狱生活,让这位曾经的政治局常委变得佝偻而苍老。 他穿着一件洗得发白的蓝色中山装,手里拎着一个破旧的布包,里面装着他的全部家当。 "爸,这边。"一个中年男子在不远处招手。 那是他的儿子陈晓农,也是他如今唯一的亲人。陈伯达缓缓走过去,脚步有些蹒跚。 陈晓农接过父亲手中的布包,轻声说:"我们先回家吧。"
贝拉达:我在曼城未参与任何不当行为;曼联排第18位不可接受

贝拉达:我在曼城未参与任何不当行为;曼联排第18位不可接受

曼联首席执行官奥马尔-贝拉达接受天空体育独家专访,在本次专访的第二部分,贝拉达回应了自己此前在曼城任职期间与俱乐部财务违规案件的关系,强调自己没有参与任何不当行为,也没有受到任何指控。此外,他承认曼联目前排名英超第18位不可接受,但坚信俱乐部正朝着正确的方向发展,并向球迷承诺,曼联将重新开始赢得冠军。 记者:你现在的身份显然是曼联首席执行官。不过,曼城目前仍然面临一项持续进行的案件。曼城正在提出上
阿隆索:很抱歉让球迷不得不承受这样一场失利,我们需要继续努力

阿隆索:很抱歉让球迷不得不承受这样一场失利,我们需要继续努力

直播吧11月22日讯 英超第11轮,切尔西主场1-4不敌利兹联。赛后,切尔西主帅阿隆索接受了beIN SPORTS采访。 记者:首先,很遗憾你们输掉了比赛,哈维。这是你上任以来,球员们表现最糟糕的一场比赛吗? 阿隆索:“我不会进行这种比较,但今天的表现确实不够好。无论是结果还是表现,都不好。 “我们正处于一个微妙而脆弱的时刻。球队需要找到解决办法,我们必须一起寻找办法,因为我们需要走出这段困境。比