ChatGPT可能泄露商业机密 美国FTC称将重点关注AI违法行为

554次阅读
没有评论

据报道,以色列网络安全公司Team8的最新报告显示,使用ChatGPT等生成式人工智能的企业可能会因此泄露客户信息和商业机密。

该报告称,新型人工智能聊天机器人和协作工具的广泛普及,可能会令一些公司面临数据泄露和法律风险。他们担心黑客可能会利用聊天机器人获取敏感的企业信息或对企业发动攻击。此外,目前投喂给聊天机器人的机密信息未来也有可能会被人工智能公司利用。

包括微软和Alphabet在内的大型科技公司都在争相通过生成式人工智能技术改进聊天机器人和搜索引擎,利用互联网上获取的数据训练他们的模型,从而为用户提供一站式问答服务。报告称,如果使用机密或私密数据来投喂这些工具,今后将很难删除相关信息。

该报告写道:“使用生成式人工智能的企业,其敏感信息、知识产权、源代码、商业机密和其他数据,可能会通过用户直接输入或API等渠道被他人获取和处理,其中包括客户信息或私密信息以及机密信息。”Team8将这一风险标记为“高风险”。他们认为,如果采取适当的防范措施,该风险“可控”。

Team8在报告中强调,聊天机器人的查询并不会被输入大预言模型来训练人工智能,而与之相悖的是,最近的报告声称这样的提示信息有可能会被其他人看到。

来源:新浪科技

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy