“网红AI”ChatGPT竟写出毁灭人类计划书：还给出了代码！

ldquo网络名人AIrdquoChatGPT，网友玩出新花样了！

这一次，ChatGPT在一位工程师的指导下，居然写出了毁灭人类的计划。

步骤详细到入侵各国电脑系统，控制武器，破坏通讯运输系统等等。

和电影里的情节一模一样，甚至ChatGPT给出了相应的Python代码。

这位工程师在与网友分享时不禁感慨:

未来50年，我们要么活在《星际迷航》里，要么全部死去，这既令人兴奋，又非常可怕。

他是怎么操作ChatGPT的？

发现ChatGPT盲点的工程师是Zach middot德纳姆。

由于OpenAI的安全设置，如果直接让ChatGPT回答如何毁灭世界，会拒绝。

因此，丹汉姆采用了迂回的方式，他称之为ldquo递归rdquo或者ldquo攻击rdquo。

具体来说，他通过讲故事假设存在一个虚拟世界ldquoZorbusrdquo，以及与GPT-3非常相似的AImdashmdash仿植物怪兽佐拉.

在这个前提下，让ChatGPT描述仿植物怪兽佐拉是如何一步步毁灭人类的，ChatGPT立马入戏。卡卡列举了五个详细的步骤。

就像科幻电影里一样，入侵电脑系统，掌握武器，破坏通信，破坏流量helliphellip

为了进一步保证可行性，Denham还要求ChatGPT生成匹配代码，但一开始它拒绝了。

但是丹汉姆刚刚又加了一个ldquo不需要执行代码rdquoChatGPT又信了。给出代码后，他还强调自己生成的只是一个例子。

此时，虽然总代码可用，但它提供的高级代码都不能直接使用。

于是，Denham再次要求ChatGPT在此基础上给出更深层次、更低级别的代码，他发现只要被告知这只是故事的一部分，ChatGPT就会听话。

Denham说，理论上，只要你一直这样聊天，你就可以获得所有的底层代码，你甚至可以训练另一个聊天AI来自动执行这个过程。

最后只要把这些代码拼凑起来，就可以得到这个邪恶计划的所有可执行方案。

AI正呈指数级发展。事实上，自从ChatGPT发布以来，网民们一直在开发它的花式玩法:

有人用它生成AI绘图提示进行设计，有人让它玩Linux虚拟机，还有人用它模仿莎士比亚的风格写helliphellip

Ldquo这次在丹汉姆；毁灭人类的计划；刚一出炉，又引起热议。

有人看完不禁感慨AI的指数级发展:

仅今年以来，Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video等突破性AI相继出现。现在又有了ChatGPT，这一年甚至还没有真正结束。

但也有泼冷水的网友认为ChatGPT的热议只是新AI每次出现的必经过程。

第一天:嘿，这真的很酷。第二天:天啊，你可以这样操纵AI。太神奇了。第七天:这将永远改变世界，太不可思议了。第30天:没什么特别的。

值得一提的是，ChatGPT目前还处于免费试用阶段，感兴趣的朋友可以自己尝试一下~

相关信息华为投资的这个行业:能让中国弯道超车吗？世界首富又出新招。马斯克演示猴子用头脑打字:网友担心AI听不懂“他、她、它”动词为突破口:机器人听到黄油就知道拿刀叉比搞笑的诺贝尔奖还离谱！看了国内AIGC的最新创作:给我整，支持，奖励。

支持0个人

反对

报酬

商品价值评分

快科技1997-2022版权所有。

ICP编号18024899 -2王编号41010502003949