快科技7月6日消息，ChatGPT的開發(fā)商OpenAI最近表示，該公司計(jì)劃投入大量資源，創(chuàng)建一個(gè)新的研究團(tuán)隊(duì)，以確保其人工智能對人類來說是安全的。

OpenAI聯(lián)合創(chuàng)始人表示，超級智能的巨大力量可能導(dǎo)致人類被剝奪權(quán)力，甚至人類滅絕。目前，我們還沒有一個(gè)解決方案來操縱或控制一個(gè)潛在的超智能人工智能，并防止它失控。

他預(yù)測，比人類更聰明的超智能人工智能可能在這個(gè)十年到來。人類需要研究比目前更好的技術(shù)來控制超級人工智能，即所謂的“對齊研究”（alignment research），該研究的重點(diǎn)是確保人工智能對人類有益。

研究團(tuán)隊(duì)將會創(chuàng)建一個(gè)“人類水平”的AI對齊研究者，OpenAI將使用20%的計(jì)算能力來解決這個(gè)問題，并且通過大量的計(jì)算能力進(jìn)行擴(kuò)展。這意味著他們將使用人類反饋來訓(xùn)練AI系統(tǒng)，訓(xùn)練AI系統(tǒng)輔助人類評估，然后最終訓(xùn)練AI系統(tǒng)進(jìn)行實(shí)際的對齊研究。

不過有專家對這一計(jì)劃提出異議，因?yàn)樗谠O(shè)計(jì)上存在根本缺陷，最初的人類水平的人工智能可能會在解決人工智能安全問題之前失控并造成嚴(yán)重破壞。

人工智能的潛在威脅一直是研究人員和公眾最關(guān)心的問題，今年4月，一群人工智能行業(yè)領(lǐng)袖和專家簽署了一封公開信，呼吁暫停六個(gè)月開發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng)，理由是對社會存在潛在風(fēng)險(xiǎn)。