信号主席梅雷迪思·惠特克(Meredith Whittaker)呼吁AI代理人增加工作任务的危险 ,这意味着“您不做任何自己的工作 ”这些工具已经提出了隐私和安全问题
受欢迎的消息传递App Signal总裁警告AI代理商对隐私和安全有重大风险,这“困扰着”围绕Agentic AI的炒作 。
梅雷迪思·惠特克(Meredith Whittaker)在SXSW上发表讲话说,AI代理商的销售方式像“魔术精灵机器人”(Magic Genie Bot) ,它思考了许多步骤,并为用户完成了任务,因此 ,“您的大脑可以坐在罐子里,而您“您自己都不做任何事情 ”。
但这是有代价的,尽管AI代理的使用被证明是流行的,但惠特克强调 ,这些机器人的“真正危险”是因为它们需要广泛访问用户数据。
你可能喜欢
在我们飞跃之前看:为什么安全对于代理AI成功至关重要
每个人都想要病毒ai娃娃–但这是一场隐私的噩梦,等待发生
据美国国会称
过度访问
假设您要求AI代理为您和您的朋友预订音乐会 - 这应该是一项相当简单的任务,但这确实意味着AI代理需要访问您的浏览器 ,信用卡信息,日历,甚至是您的消息来让朋友知道 。
这一切都意味着 ,只有一项任务,代理商现在可以访问您的财务详细信息,您的日常计划和您的消息 - 如果数据落入错误的手中 ,这可能会极大地损害。
Whittaker解释说:“它需要能够使用看起来像根许可的东西,访问这些数据库中的每一个,可能在清晰的情况下驱动整个系统 ,因为没有模型可以加密。”
她指出,具有端到端加密的信号之类的消息传递应用程序(E2EE)将损害用户消息的隐私,如果与AI代理集成,即使这只是为了给朋友发短信或总结您的传入消息 。
你是专业人士吗?订阅我们的新闻通讯
注册techradar Pro新闻通讯 ,以获取您的业务成功所需的所有首选,意见,功能和指导!取得成功!请与我联系我们的其他未来品牌的新闻 ,并代表我们值得信赖的合作伙伴或Sponsorsby提交您的信息,您同意您同意的条款和隐私政策,并年龄在16岁或超过16岁之间。
惠特克补充说:“这几乎可以肯定被发送到云服务器 ,并在其中处理并寄回了。 ”“因此,这是一个严重的安全和隐私问题,它困扰着围绕代理商的这种炒作 ,这最终威胁要通过与所有这些独立的服务(并]混淆他们的数据(并]混乱的数据,从而打破了应用层和OS层之间的血液障碍。”
通过TechCrunch
您可能还喜欢
查看我们的选择,以查看最佳的VPN提供商 ,以检查我们为Androidapple提供最佳加密消息传递应用程序的建议,以通过后门请求对英国政府采取法律行动
正文
Signal总裁说
文章最后更新时间2025年05月25日,若文章内容或图片失效,请留言反馈!
-- 展开阅读全文 --