熱搜:win11繞過硬件限制安裝 一鍵重裝Win10系統(tǒng) 最干凈的u盤啟動盤 真正純凈版的win7系統(tǒng)
編輯:chenbing 2016-06-23 11:20:26 來源于:互聯(lián)網(wǎng)
據(jù)消息稱,谷歌與OpenAI公司、斯坦福大學(xué)和伯克利大學(xué)猜想研究人員在研發(fā)和使用AI過程中可能遇到的具體問題,而聯(lián)合發(fā)表一篇題為《AI安全的具體問題》的論文。其主要的內(nèi)容闡釋人工智能的五大規(guī)則。
谷歌研究(Google Research)的Chris Olah)周二則在一篇博文中闡述了開發(fā)出更智能、更安全人工智能的五大規(guī)則。
Olah提出的五個規(guī)則是:
避免負(fù)面效應(yīng):AI在完成一組任務(wù)時不應(yīng)該被周圍環(huán)境打擾。
避免獎勵黑客: AI應(yīng)該妥當(dāng)?shù)赝瓿扇蝿?wù),而不是借助一些迂回的方法。
可擴(kuò)展的監(jiān)督: AI不需要接收不斷的反饋或有效的輸入。
安全探索:AI在學(xué)習(xí)時不應(yīng)傷害自身或環(huán)境。
魯棒性到分布式的轉(zhuǎn)變: AI應(yīng)該能夠識別出全新的環(huán)境,并在新環(huán)境中有效地完成任務(wù)。
Olah在博文中指出:“這些都是具有前瞻性的、長期的研究問題——這些現(xiàn)在看起來可能是小問題,但對未來系統(tǒng)則至關(guān)重要。”
“有新的研究總是好的,有新規(guī)則的提出總是好的,未來太遠(yuǎn),對以后是否真正有用,誰也不知,谷歌就喜歡沒事研究這研究那的。”一網(wǎng)友吐槽。
發(fā)表評論
共0條
評論就這些咯,讓大家也知道你的獨(dú)特見解
立即評論以上留言僅代表用戶個人觀點(diǎn),不代表系統(tǒng)之家立場