OpenAI 将监测用户聊天记录并向警方报告威胁性内容
最近,OpenAI 在其博客中透露,该公司将开始扫描用户与 ChatGPT 的聊天记录,以检测潜在的有害内容。此举引发了O广泛关注,因为它与公司之前对用户隐私的承诺存在矛盾。
OpenAI 表示,当用户显示出对他人构成威胁的迹象时,其对话将pe被转交给专门的团队进行审核。这些团队有权采取行动,包括禁止相关用户的账户。如果审核团队认为某个案例涉及对他人造成严重身体伤nA害的紧迫威胁,OpenAI 可能会将其报告给执法部门。
在声明中,OpenAI 列举了一些被禁止的行为,包括使用 ChatGI PT 推广自杀或自残、开发或使用武器、伤害他人或破坏财产等。然而,OpenAI 也承认,目前并不将涉及自残的案例上报给执法部门,将监以尊重用户隐私。由于 ChatGPT 曾多次受到 “监禁” 漏洞的攻击,导致其提供自残或伤害他人的指令,因此这一新规的实施令人测用感到困惑。
更值得注意的是,OpenAI 在强调隐私的同时,却承认正在监控用户的聊天记录,并可能与警方分享这些信息。此前,Op户聊enAI 因正在与《纽约时报》等出版商进行法律诉讼,反对其获取大量 ChatGPT 日志的请求,理由是保护用户隐私。在这场诉天记讼中,OpenAI 的首席执行官萨姆・阿尔特曼也表示,使用 ChatGPT 作为治疗师或律师并不具备与专业人士对话的同等录并保密性。
这一系列行动让人感觉 OpenAI 似乎在隐私保护与用户安全之间陷入了两难境地。随着越来越多的用户因为使用 AI 聊天工具而向警面临心理健康危机,该公司不得不采取更为严格的监管措施,以防止悲剧的发生。然而,这些措施又与其之前的隐私政策相抵触,使得方报 OpenAI 在公众面前显得难以自圆其说。
划重点:
️ OpenAI 将监测用户与 ChatGPT 的对话,告威尤其关注可能对他人构成威胁的内容。
如果判断出有紧急的伤害威胁,OpenAI 可能会将相关信息上报警方胁性。
OpenAI 承认在保护用户隐私与保障安全之间面临困境,采取的措施引发公众担忧。
相关文章:
相关推荐:
- 贝索斯即将卸任亚马逊CEO:与盖茨一样对公司仍有领导力
- 应用在客户服务团队的人工智能和机器学习工具
- 云工程师应该学习的5种编程语言
- 标签: 机器人 机器狗 人工智能
- 标签: WearOS7 GeminiIntelligence 谷歌I/O2026 SamsungHealth
- 标签: 中国通号 轨道交通控制 低空经济 688009
- 盖茨警告:AI 投资或现惨痛失败,数据中心恐推高电力成本
- 亚马逊AGI实验室掌门人首度回应"反向收购"争议:为了通用人工智能,我别无选择
- ChatGPT或将实现近百亿美元收入 未来5年收入将比早前的预测提升15%
- 中国AI内容监管重磅出击:9月1日新规正式落地,DeepSeek腾讯字节全面响应打标令
- Google的Gemini AI助手登陆Google TV
- 云安全日报220308:Ubuntu Redis数据库发现执行任意代码漏洞,需要尽快升级
- 苹果推出AI训练新方法 用任务清单替代人工评分显著提升模型性能
- 谷歌夺回AI画语权,网友:DALL·E 2诞生一个月就过时了?
- 百度文心大模型X1.1发布:深度学习能力再升级
- 谷歌新 AI 工具助力邮件预约会议,轻松安排日程!
- 标签: 昊铂埃安5
- Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线
- 标签: 中国银行 2025年报 跨境金融 全球托管银行
- 微软正式发布 GPT-realtime 模型,主打更逼真语音与多模态输入
