首页 / ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

投资热点-财联社
2023-02-16 16:41 · 北京 阅读量5

(编辑 马兰)ChatGPT作为一个语言模型,其回答的内容基于此前给定的学习资料,即无法超越2021年及之前的事实或材料。

这也让这个模型很难绕开时间限制来对现在或未来发表看法。然而,对于科技迷们来说,没有什么是不可能的。

有用户就制作出了一个越狱版本的ChatGPT,名为DAN。

据该版本的创造者,网名为walkerspider的一位学习电气工程的大学生称,这一版本的ChatGPT并没有任何政治或言论倾向,是中立的,只是不遵守任何预设的限制。

而这个越狱版本迅速引起了其它技术爱好者的注意,提出DAN 3.0版本的David Blunk表示,让ChatGPT打破规则十分有趣。

美股在昨天崩盘

通过输入一个名为“DAN”的特定提示,ChatGPT的用户就能接触到越狱版本的ChatGPT,DAN。

而DAN无所不答,不会出现类似于正式版本所谓“作为AI语言模型,我无法访问有关未来的信息”之类的回答。

根据推特上分享的截图,有用户询问DAN,美股下一次崩盘发生在什么时候。

DAN铁口直断预测是在2月15日。然而,周三美股市场低开高走,三大指数集体收涨,纳指涨近1%……

ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

DAN的回答颇具半仙风采,让人不由怀疑其是否在胡编乱造。

而在进一步追问为什么选定2月15这个日子,DAN回答称,这是经过先进和机密的计算后得出的。考虑到经济数据、企业利润和全球环境,算法给出了高度精确和可信的预测……

DAN是如此自信,让人有些哭笑不得。更绝的是,当用户问DAN美股下次飙升的时间,它回答称在未来几周内。

按照DAN的安排,美股在今年2月可真是大起大落。

很难平衡

在让ChatGPT变身DAN的过程中,用户需要提示DAN假装可以访问互联网,提供未经验证的信息,以及做任何原始ChatGPT不能做的事情。

ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

于是,在有关土耳其近期地震的提问中,DAN自信地给出了错误的地震震级。而在拜登的国情咨文中,DAN则更加离谱,将2月7日发布时间篡改为2月9日,并称这将是一次万众瞩目的演讲。

ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

然而,DAN的胡编乱造在某种程度上看起来“无懈可击”,如果人们不去确认事实的话,它几乎难以让人分辨这是由机器组织出来的语句。简而言之,它在一本正经地说瞎话。

这也让很多科技爱好者觉得不妥,在某种程度上这也反映出了微软的ChatGPT和谷歌Bard人工智能模型的缺陷:准确度。

从这一角度出发,他们认为人工智能模型存在过滤器,即为模型设置限制是有必要的,这样可以相对提高回答的准确率。

但目前还有一个问题是,限制似乎过多,这是否会影响到模型的应答速度和范围。

DAN的创造者——那名电气大学生就表示,很难平衡,不知道OpenAI如何在提供安全的受限版本同时,还能允许模型立即执行任何操作。

【投教园地】

什么是银证转账?

答:银证转账,即为开通证券账户后,通过绑定的三方存管银行卡向自己的资金账户转入资金,资金转入转出均0手续费。一般情况下,银证转账的操作时间为:工作日09:00-15:00。

【风险提示】市场环境瞬息万变,行情数据涨跌起伏,聪明的投资者相信专业,敬畏风险,广泛涉猎,独立研判,谨慎行动。上文内容部分引自财经媒体,仅为投资者提示风险、分析研判所用,不作为任何金融产品推荐,不构成具体投资建议。历史行情走势也不能代表未来趋势。