ChatGPT是當(dāng)前最火的AI應(yīng)用，沒有之一，很多人已經(jīng)被它超高的準(zhǔn)確率折服，工作學(xué)習(xí)中甚至用它來替代搜索引擎及專業(yè)網(wǎng)站，然而ChatGPT并不總是對的，它胡編亂造的東西已經(jīng)讓微博CEO上當(dāng)，現(xiàn)在被專業(yè)人士抓包了。

事情是這樣的，最近幾天瑞士信貸被強(qiáng)制出售，有172億美元的AT1債務(wù)被直接清零，這是金融行業(yè)罕見的一例，金融專業(yè)人士@一玶海岸提到此前只有2017年西班牙大眾銀行破產(chǎn)出現(xiàn)過AT1債券被減記的情況

微博CEO@來去之間貼了ChatGPT給出的回答，說這樣的例子在2016年的葡萄牙BCP銀行事件中也出現(xiàn)過，意味著這樣的例子在之前就至少有2個例子了。

作為專業(yè)人士，@一玶海岸對此并不認(rèn)可，結(jié)果查證之后發(fā)現(xiàn)BCP銀行的例子是ChatGPT編造的，并不存在，而且它給出的兩個信源打開也是404的。

換句話說，ChatGPT在這次的回答中不僅不準(zhǔn)確，而且答案也是AI編造出來的，甚至為了提高可信度，連信源都偽造了，如果不是專業(yè)人士對此事有敏感度，估計絕大多數(shù)人都要被AI騙了。

這件事的危害不僅在于AI會編造錯誤的答案，還會形成一個閉式循環(huán)——AI胡扯，然后就有媒體引用AI的答案，AI再引用媒體的報道當(dāng)作信源，環(huán)環(huán)相扣之下假的也會變成真的了，特別是在一些專業(yè)領(lǐng)域，畢竟不可能指望網(wǎng)民甚至媒體在所有方面都很敏感而且專業(yè)。

再進(jìn)一步來說，這件事的可怕之處在于到底是AI算法不行，只能胡編不知道的事，還是AI在沒有事實(shí)信息的時候主動騙人類呢？如果是后者，未來的發(fā)展恐怕很難想象。