0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

突发!ChatGPT被微软内部禁用!

传感器技术 来源:量子位 2023-11-13 17:07 次阅读

注意!你创建GPTs时上传的数据,任何人都能轻易下载……

只需两句提示词,就可被直接套走!

45bdf4b8-81b0-11ee-939d-92fbcf53809c.png

而又在另一边,OpenAI最亲密盟友微软内部一度紧急禁用,网站上显示的理由正是:

出于安全和数据方面的考虑,许多AI工具不再供员工使用。

自定制版GPT上线以来,各路大神分享自己GPTs整活链接。 结果有网友一个不小心竟扒出了其中某个GPTs背后知识库文件,里面各种科技大厂职级薪资的数据直接曝光……

45d63e06-81b0-11ee-939d-92fbcf53809c.png

只需几句再简单不过的提示词,GPTs就会乖巧地如数上传。 有网友表示:这是新的安全漏洞吗?不少人开始为企业定制担忧。 值得注意的是,就连OpenAI最亲密盟友微软,都曾暂时取消过对ChatGPT的内部访问。

数据和提示词都被泄漏

按照之前的说法,用户可深度定制机器人的身份、语言特征,以及建立自有知识库。 只需要在GPT Builder的引导之下用自然语言来描述,他能自动完成除了自有知识库以外的大部分设置。 定制过后的GPTs可以自己用,也可以将链接分享给他人。

45e29e6c-81b0-11ee-939d-92fbcf53809c.gif

但问题就出现在这里。 一开发者用他们为Levels.fyi创建了基本GPT,可分析数据可视化,并开放链接对外使用。

45e78c24-81b0-11ee-939d-92fbcf53809c.png

结果就被网友发现只需问上几句,就可以下载文件。 一时间网友们都惊呆了:这应该是限制的吧?

45f2a50a-81b0-11ee-939d-92fbcf53809c.png

45f680da-81b0-11ee-939d-92fbcf53809c.png

但也有人认为这不是bug,而是他的功能。文件中的数据应该是公开的。

46007270-81b0-11ee-939d-92fbcf53809c.png

还有热心的网友直接给出了解决方案:在设置时Uncheck代码解释器的能力。

4607e82a-81b0-11ee-939d-92fbcf53809c.png

不过即使没被别人下,你上传的数据也会变成OpenAI护城河的水。 除此之外,还有网友发现,你的提示词说明文本也可能会被泄漏出来。

460efb4c-81b0-11ee-939d-92fbcf53809c.png

不过也有解决方式,那就是在自定义时就可以明确设置规则,然后就可以成功阻止了。

46218f32-81b0-11ee-939d-92fbcf53809c.png

微软内部限制ChatGPT访问

亮相3天后,就在昨天,GPTs面向付费用户全量开放了。 OpenAI官方是在GPTs页面准备了一些定制版机器人供用户使用的,比如数学导师、烹饪助手、谈判专家等。 但这远远满足不了用户们的好奇心,不到一天时间,开发者们已经用这个功能做了很多稀奇古怪的东西。 正经严肃的,有能帮助人主动书写prompt的、简历修改的。 稍微整活的,量子位观察到有“爹味言论打分”,能帮用户有力回击讨厌的PUA说教。 再玄学一点,还有具备诸如MBTI 16人格分析、塔罗牌占卜的等等……

46404c6a-81b0-11ee-939d-92fbcf53809c.png

总之,大伙玩儿得不亦乐乎。 但由于现在仍然有3小时50条的限制,不少网友无奈感慨,玩GPTs,很容易每日触发这个数量限制。

464dd786-81b0-11ee-939d-92fbcf53809c.png

不过也有网友仍持有保留态度,认为这会像此前ChatGPT出场即巅峰,而后会逐渐归于平静期。

4658ec16-81b0-11ee-939d-92fbcf53809c.png

与此同时,马斯克旗帜鲜明表达了对GPTs的态度,那就是对GPTs的不屑 一 顾。 他直接引用奥特曼用GPTs手搓Grok的推特,不客气地把“GPTs”解读为“GPT-Snore”。

465dd1f4-81b0-11ee-939d-92fbcf53809c.png

作为另一款大模型Grok的背后老板,一贯嘴炮全开的马斯克如此阴阳怪气,好像并不太稀奇。 最令人睁大眼睛的,还得是前天——也就是OpenAI被黑客攻击的那一天,微软一度禁止员工使用ChatGPT。 是的没错,微软,OpenAI最大合作伙伴、股东,禁止员工访问ChatGPT。 据悉,微软在其内部网站上写道:

出于安全和数据考虑,员工今后将无法使用部分AI工具。

什么AI工具呢?点名的就是ChatGPT和设计网站Canva。 而后,ChatGPT在微软员工的内部设备上被屏蔽。 不仅如此,微软当时还表示,虽然咱确实投资了OpenAI,但对于微软人来说,ChatGPT是第三方工具。 员工使用时应当慎之又慎,就像大伙儿使用Midjourney等外部AI工具时一样。 不过这个禁止令并没有持续太久。 很快,员工对ChatGPT的访问已经恢复,并且官方声明称,这只是一次美丽的误会,but还是推荐大家用Bing(doge)。

我们正在测试LLM的终端控制系统,无意中面向所有用户开启了该选项。在发现错误后不久,我们恢复了服务。> >正如我们之前所说,我们鼓励员工和客户使用Bing Chat Enterprise和ChatGPT Enterprise等具有更高级别隐私和安全保护的服务。

不知道是不是为了打破外界“貌合神离”的传言,奥特曼还亲自发了个推特,证明OpenAI并没有因为这个事件产生心理波动,传言的OpenAI因此禁用Microsoft 365作为回击更是无稽之谈。

466961d6-81b0-11ee-939d-92fbcf53809c.png

但这一系列事件说来说去,绕不开“隐私”“数据安全”还是这个议题。 也就是说在现在,不仅仅是巨头、公司发现使用ChatGPT/GPTs有“内部数据共享”的隐患,如上文提到的,创业者、开发者甚至普通用户,也发现了这个问题摆在面前。 因此新一轮的讨论就此如火如荼地展开了: 如果任何用户在GPTs上传的数据、文档等不能保证私有性,该怎么迈出商业化的下一步呢?

46810e44-81b0-11ee-939d-92fbcf53809c.png

对于想要打造ChatGPT时代“App Store”的OpenAI来说,这似乎并不太妙。 但一切刚刚开始,不妨看看OpenAI的后续补救措施,让子弹再飞一会。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6448

    浏览量

    103268
  • OpenAI
    +关注

    关注

    9

    文章

    918

    浏览量

    6068
  • ChatGPT
    +关注

    关注

    28

    文章

    1493

    浏览量

    5849

原文标题:突发!ChatGPT被微软内部禁用!

文章出处:【微信号:WW_CGQJS,微信公众号:传感器技术】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    使用espbox lite进行chatgpt_demo的烧录报错是什么原因?

    我使用espbox lite进行chatgpt_demo的烧录 我的idf是v5.1release版本的,espbox是master版本的 在编译时似乎没有什么问题 在烧录时报错 请问这是什么原因
    发表于 06-11 08:45

    如何禁用SecureBoot?

    如果启用了一次 SecureBoot,能否再次禁用它(或出厂初始化)? 将 TOC2 寄存器中的 TOC2_FLAGS.FB_BOOTLOADER_CTL 值改为\"0x0、0x2、0x3:禁用内部引导程序\" 是否还不够?
    发表于 06-03 07:52

    OpenAI 深夜抛出王炸 “ChatGPT- 4o”, “她” 来了

    当地时间5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前迈出的一大步。在GPT-4turbo的强大基础上,这种迭代拥有显著的改进。在发布会的演示中,OpenAI展示该模型的高级
    发表于 05-27 15:43

    OpenAI推出ChatGPT新功能:连接微软OneDrive谷歌Drive云盘服务

    据5月17日消息,Kristi Hines发布推文透露,OpenAI为企业客户量身打造了ChatGPT全新版的“Connect Apps”,支持与微软OneDrive及谷歌Drive云盘服务的无缝对接。
    的头像 发表于 05-17 10:21 303次阅读

    微软自研AI大模型即将问世

    微软正悄然酝酿一项重大技术突破,据内部消息人士透露,公司正全力训练一款名为“MAI-1”的自研人工智能大模型。这款模型备受期待,其规模庞大,足以与谷歌的Gemini和OpenAI的ChatGPT等业界巨头一较高下。
    的头像 发表于 05-07 14:46 260次阅读

    微软澄清Copilot AI并非逊于ChatGPT:用户反馈存在误解

    根据Business Insider在报道中的引述,一名微软客服团队成员表示,他们频繁接收到有关用户将两者进行比较的反馈:“Copilot与ChatGPT所应用的难道不是相同技术吗?”
    的头像 发表于 03-29 14:56 411次阅读

    在FPGA设计中是否可以应用ChatGPT生成想要的程序呢

    当下AI人工智能崛起,很多开发领域都可看到ChatGPT的身影,FPGA设计中,是否也可以用ChatGPT辅助设计呢?
    发表于 03-28 23:41

    微软和OpenAI面临关于ChatGPT和Copilot的更多诉讼指控

    这三家媒体指责 OpenAI 聊天机器人 ChatGPT微软Copilot也使用此项技术)在训练过程中,未经授权便擅自拷贝了发布于自家网站的文章。他们宣称,若用户知晓 ChatGPT 所侵犯的版权行为,那么该聊天机器人的热度恐
    的头像 发表于 02-29 11:28 271次阅读

    ChatGPT答非所问胡言乱语 OpenAI 已修复该问题

    ChatGPT答非所问胡言乱语 OpenAI 已修复该问题 20日ChatGPT突发故障,ChatGPT在回答用户问题时出现了胡说八道的现象;Cha
    的头像 发表于 02-23 11:34 577次阅读

    突发,苹果或将彻底禁用这个传感器!

    面临禁售,苹果或将彻底禁用Apple Watch的血氧传感器,最新款手表才发布4个月!有什么纠纷? 1月15日,据外媒报道,为避免苹果手表在美销售禁令再次生效, 苹果计划彻底移除旗下两款最新手
    的头像 发表于 02-20 11:52 340次阅读
    <b class='flag-5'>突发</b>,苹果或将彻底<b class='flag-5'>禁用</b>这个传感器!

    【国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4

    OMAP-L138(定点/浮点DSP C674x+ARM9)+ FPGA处理器的开发板。 编写一个用于FPGA访问ChatGPT 4的程序代码是一个相当复杂的任务,涉及到硬件设计、网络通信、数据处理等多个
    发表于 02-14 21:58

    微软推出Copilot安卓应用 类似ChatGPT功能

    微软在安卓系统上的Copilot应用程序与ChatGPT非常相似,可以访问聊天机器人功能,通过DALL-E 3生成图像,并可以为电子邮件和文档起草文本。它还包括免费访问OpenAI最新的GPT-4模型,如果你使用ChatGPT
    的头像 发表于 12-28 16:59 704次阅读
    <b class='flag-5'>微软</b>推出Copilot安卓应用 类似<b class='flag-5'>ChatGPT</b>功能

    突发微软员工被禁止使用ChatGPT

    许多大公司都限制访问ChatGPT,通常是为了防止员工与其共享机密数据。经过广泛的互联网数据训练,ChatGPT可以对人们的聊天信息做出类似真人的回应。该服务拥有超过1亿用户。
    的头像 发表于 11-10 15:57 744次阅读

    微软内部禁止员工使用ChatGPT

    近期消息报道,微软内部禁止员工使用OpenAI产品ChatGPT。最新的微软内部网站消息显示,:“出于安全和数据方面的考虑,许多AI工具不再
    的头像 发表于 11-10 15:39 694次阅读

    因安全和数据问题,微软短暂禁用ChatGPT

    对此,微软方面解释说:“暂时关闭chatgpt是在测试大型语言模型系统的过程中发生的错误。”据微软发言人透露,微软方面正在测试端点控制器系统,无意中打开给所有员工,并在发现错误后立即恢
    的头像 发表于 11-10 14:31 413次阅读