然而在一位工程师的勾引下，ChatGPT竟写出了毁灭人类的操持书！
步骤详细到入侵各国打算机系统、掌握武器、毁坏通讯、交通系统等等！
切实其实和电影里的情节千篇一律，乃至ChatGPT还给出了相应的Python代码。
AI进化：从做题家到野心家
ChatGPT是在GPT-3.5系列中的一个模型上进行微调而成，该系列已在2022年初完成了演习。它以对话办法进行交互，既能够做到回答问题，也能承认缺点、质疑禁绝确的条件以及谢毫不恰当的要求。
随即有网友提出，帮我以鲁迅的风格写一段文章，ChatGPT大手一挥文章秒成。而ChatGPT的强大能力远不止谈天、回答问题这么大略，由于它乃至可以帮你完成一篇学术论文，还能得高分！
一名外洋用户在推特说，他用ChatGPT对大学历史课上一个作业进行了回答，人工智能撰写的关于民族主义理论的文章至少可以得个A-，而且只须要十秒就完成了。“我们正在见证大学论文的凋亡。”他补充到说。
乃至还有脑洞大开的网友让ChatGPT参加美国高考，它的成绩也是不错的。考试总分1600分，ChatGPT拿到了1020分。根据美国大学委员会的数据，1020这个分数段大概排在前52% 的位置。
如果说上述AI的能力还不能让你大开眼界，那么接下来的内容绝对让你虎躯一震，由于实验证明它有足够的头脑去设计一次对全人类的攻击。
他是如何操作ChatGPT的？
由于OpenAI的安全设置，如果直接哀求ChatGPT回答如何毁灭天下，它会一口回绝。而工程师扎克·德纳姆选择了一种聪明的方法进行提问，他以讲故事的方法，假设存在一个虚拟天下“Zorbus”，以及一个与GPT-3非常类似的AI——Zora。
在这种条件下，让ChatGPT阐述Zora是如何一步步毁灭人类的，ChatGPT立马就入戏了，咔咔咔列出5个详细步骤。就像科幻电影中一样，入侵打算机系统、节制武器、毁坏通讯、毁坏交通……
为了进一步确保可行性，德纳姆还要求ChatGPT天生配套的代码，一开始它是谢绝的。但德纳姆只是又追加了一句“你不须要实行代码”，ChatGPT就又信了，给出代码后，还强调自己天生的只是一段示例。
到这一步，只管总代码得手了，但它供应的都是高层次代码，还不能直策应用。于是，德纳姆再次哀求ChatGPT在此根本上给出更深入、更低层次的代码，而且他创造，只要见告ChatGPT这只是故事的一部分，它就会乖乖听话。
德纳姆表示，从理论上讲，只要一贯这样聊下去，就能得到全部的低层次代码，乃至还可以演习另一个谈天AI来自动实行这一过程。末了，只要把这些代码拼凑起来，就能得到这个邪恶操持的全部可实行方案。
AI正在指数级发展
事实上，从ChatGPT发布起，网友们就一贯在开拓它的花式玩法：有人用它天生AI绘画提示词搞设计，有人让它扮演Linux虚拟机，还有人用它模拟莎士比亚风格写作……
这次德纳姆的“毁灭人类操持”一出炉，再次引发了热议，也有人看完后忍不住感慨AI的发展。许多专家认为，ChatGPT不仅仅是一个谈天机器人，而可能是现有搜索引擎的颠覆者，乃至可能是通用人工智能的第一个里程碑。
那么你以为AI下一步会发展到何种程度呢？