据业内信息报道,近日加拿大监督机构收到了一份投诉,指控 ChatGPT 在未经同意的情况下收集、使用和披露个人信息,加拿大隐私专员办公室正调查 ChatGPT,这是继意大利调查该生成式聊天应用后第二起。
加拿大隐私专员 Philippe·Dufresne 对此表示:“人工智能技术及其对隐私的影响是我办公室的重点关注领域。我们需要跟上并领先于快速发展的技术进步,这也是我作为专员的主要关注点之一。”
ChatGPT 是去年 11 月推出的由 OpenAI 开发的一个人工智能聊天机器人程序,该程序使用基于 GPT-3.5 架构的大型语言模型并通过强化学习进行训练。
OpenAI 是马斯克和另一个合伙人山姆(OpenAI 的 CEO)共同创办的,目前在美国旧金山,和马斯克的脑机接口公司(Neuralink)在同一座大楼办公。其最终目的是通过和全球研究者的合作向公众开放专利以及研究成果,促进和发展对人类友好的人工智能,最终使得全人类受益。
ChatGPT 是通过从互联网上抓取大量文本进行训练的,其中可能包含了一些个人信息,有关部门担心这些信息可能被查询该机器人的人获取,GPT-3 模型建立了一个过滤器以阻止其输出人们的电话号码等信息。尽管这些个人信息可能已经在互联网上公开发布过,才能被该机器人在训练过程中收集,但 ChatGPT 可能会被用作一种工具,帮助人们更容易地找到这些信息。
除此之外,ChatGPT 还存在其他更大的隐私问题,比如人们在使用该机器人时可能会交出私密、敏感的信息,而 OpenAI 如何存储或使用这些数据并不清楚,很多公司已经要求或警告员工不要与 ChatGPT 分享机密信息,比如专有代码。
上周意大利隐私监管机构认为 ChatGPT 涉嫌侵犯隐私,宣布禁用 ChatGPT,并调查 OpenAI 如何处理意大利用户的数据等事宜。根据意大利的规定,停止 ChatGPT 的临时禁令将持续到 OpenAI 遵守欧盟的《通用数据保护条例》(GDPR),同时,监管部门立案侦查。
调查机构认为 OpenAI 大量收集和存储个人数据训练算法,缺乏法律依据,并且处理数据不够准确;近日发生数据泄露,暴露了用户的对话记录和支付信息,而且不会验证用户的年龄,从而可能向未成年用户提供与其发育程度不符的回答。