OpenAI:超智能AI或在這個(gè)十年出現(xiàn),將加大資源應(yīng)對(duì)
OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇茨凱弗(Ilya Sutskever)和AI對(duì)齊負(fù)責(zé)人簡(jiǎn)·萊克(Jan Leike)在官方博客中表示:“超級(jí)智能的巨大能力可能導(dǎo)致人類失去力量甚至滅絕。目前,我們還沒有解決方案來操縱或控制一個(gè)可能的超智能AI,并防止其變成無賴。”
這篇博文預(yù)測(cè),超智能AI,即相比于人類更智能的系統(tǒng),可能會(huì)在未來10年中出現(xiàn)。人類需要比目前更強(qiáng)大的技術(shù)來控制超智能AI,因此需要在“AI對(duì)齊研究”方面取得突破,確保人AI對(duì)人類持續(xù)有益。AI對(duì)齊是AI控制中的主要問題,即要求AI的目標(biāo)和人類的價(jià)值觀與意圖保持一致。
作者寫道,OpenAI將在未來4年內(nèi),將算力的20%專門用于解決這方面問題。此外,該公司將組建新的“超對(duì)齊”團(tuán)隊(duì)來組織這方面的工作。
該團(tuán)隊(duì)的目標(biāo)是開發(fā)達(dá)到“人類水平”,由AI驅(qū)動(dòng)的對(duì)齊研究員,隨后通過龐大的算力推動(dòng)其發(fā)展。OpenAI表示,這意味著將使用人工反饋來訓(xùn)練AI系統(tǒng),通過訓(xùn)練AI系統(tǒng)來協(xié)助人工評(píng)估,最終訓(xùn)練AI系統(tǒng)來進(jìn)行實(shí)際的對(duì)齊研究。
不過,人工智能安全的倡導(dǎo)者康納·萊希(Connor Leahy)表示,OpenAI的計(jì)劃存在根本性缺陷,因?yàn)樽畛醯娜祟愃紸I可能會(huì)失控并造成嚴(yán)重破壞,而這將迫使研究者去解決AI安全問題。他在接受采訪時(shí)表示:“在構(gòu)建人類水平的智能之前,必須先解決對(duì)齊問題,否則默認(rèn)情況下你無法控制它。我個(gè)人認(rèn)為這不是個(gè)特別好的、安全的計(jì)劃。”
AI的潛在危險(xiǎn)一直是AI研究員和公眾最關(guān)心的問題。今年4月,一群AI行業(yè)領(lǐng)袖和專家簽署公開信,呼吁暫停6個(gè)月開發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng),原因是對(duì)社會(huì)存在潛在風(fēng)險(xiǎn)。益普索今年5月的調(diào)查發(fā)現(xiàn),超過2/3的美國人擔(dān)心AI可能產(chǎn)生的負(fù)面影響,61%的人認(rèn)為AI可能威脅人類文明。
網(wǎng)友評(píng)論
智能應(yīng)用排行
- 清華系團(tuán)隊(duì)宣布研發(fā)出千億參數(shù)“制藥版ChatGPT”
- 科大訊飛宣布星火大模型V1.5發(fā)布,知識(shí)問答能力提升24%
- 三星積極推進(jìn)第五代HBM3e:傳輸速度高達(dá)1.228 TB/s
- 我國開源桌面操作系統(tǒng)取得重大進(jìn)展
- 理想汽車純電解決方案官宣 4 月 18 日發(fā)布
- 微軟筆記應(yīng)用 OneNote 下月將引入Copilot
- 消息稱蘋果 iPhone 15 Pro 機(jī)型支持實(shí)時(shí) 4K 錄制功能
- 騰龍新專利 標(biāo)準(zhǔn)變焦三連發(fā)
- 谷歌發(fā)布新AI機(jī)器人模型 搭載大語言模型最新進(jìn)展
- 亞馬遜已在多種工作職能中使用ChatGPT 包括編寫代碼等
延伸閱讀
- OpenAI推出ChatGPT“克星”:可識(shí)別文章是否人工智能代筆
- 游戲聊天社區(qū)Discord整合OpenAI技術(shù) 推出多項(xiàng)新功能
- Zoom引入OpenAI生產(chǎn)力功能 推出數(shù)字助手
- “微軟+OpenAI”聯(lián)手的新一站:網(wǎng)絡(luò)安全
- 日本政府或引入人工智能技術(shù) OpenAI考慮開設(shè)日本辦公室
- 歐盟官員將于6月會(huì)見OpenAI CEO:討論人工智能法規(guī)
- Meta正在開發(fā)更強(qiáng)大的AI系統(tǒng) 對(duì)標(biāo)OpenAI
- 微軟據(jù)悉正自主研發(fā)AI模型 降低對(duì)OpenAI的依賴
- 一段視頻 帶你看一場(chǎng)跨越百年的AI
- 海爾“歐洲版”智慧家庭IFA GPC亮相
最新智能應(yīng)用
- 行業(yè)首本傳感器方向藍(lán)皮書!國創(chuàng)中心牽頭海爾智家
- 訊飛星火3.0宣布發(fā)布,劉慶峰:通用模型對(duì)標(biāo) Ch
- 三星積極推進(jìn)第五代HBM3e:傳輸速度高達(dá)1.228 T
- 百度首個(gè)生成式商業(yè)智能產(chǎn)品宣布發(fā)布:李彥宏:天
- vivo將發(fā)布自研AI大模型矩陣 C-Eval、CMMLU雙榜
- 微軟筆記應(yīng)用 OneNote 下月將引入Copilot
- 百度文心大模型4.0即將發(fā)布,萬卡訓(xùn)練史上最大參
- 谷歌發(fā)布新AI搜索功能:幫助醫(yī)護(hù)人員迅速查找信息
- 鄧邱偉:Home GPT加持下的智家大腦2.0變得更聰明
- 中國科學(xué)院團(tuán)隊(duì)合成新型納米顆粒 實(shí)現(xiàn)高效的原位