29日，特斯拉首席執(zhí)行官馬斯克同人工智能專家與行業(yè)高管發(fā)表聯(lián)名公開信，呼吁暫停開發(fā)比GPT-4更強大的人工智能系統(tǒng)至少6個月，稱其“對社會和人類構(gòu)成潛在風(fēng)險”。信中寫道，近期各人工智能實驗室陷入了失控的研發(fā)競爭，如果不能立即暫停，呼吁政府可以介入。只有在確認現(xiàn)階段人工智能的效果積極，且風(fēng)險可控的情況下，才應(yīng)繼續(xù)開發(fā)更強大的人工智能系統(tǒng)。
馬斯克等千人呼吁暫停人工智能訓(xùn)練，以應(yīng)對潛在風(fēng)險
1000多名人工智能領(lǐng)域?qū)＜遗c行業(yè)高管在公開信中呼吁，暫停訓(xùn)練比現(xiàn)階段GPT-4更強大的人工智能系統(tǒng)。聯(lián)名簽署人還包括人工智能先驅(qū)本吉奧、美國前總統(tǒng)候選人楊安澤等。
信中寫道，具有與人類競爭智能的人工智能系統(tǒng)，可能對社會和人類構(gòu)成重大風(fēng)險。人類必須問自己，是否應(yīng)該把所有工作都自動化，包括那些讓人們有滿足感的工作，又是否應(yīng)該開發(fā)非人類大腦，而它可能比人類聰明、甚或最終會淘汰并取代人類。
公開信指，近期各人工智能實驗室爭相研發(fā)更強大的數(shù)字思維，然而沒有人能準(zhǔn)確預(yù)測或控制進一步研發(fā)的后果。他們主張暫停時長至少6個月，期間人工智能實驗室與獨立專家可共同開發(fā)一套用于進階人工智能研發(fā)的安全協(xié)議。
與此同時，希望研發(fā)者和政策制定者在治理和監(jiān)管機構(gòu)方面共同合作，推進人工智能治理系統(tǒng)開發(fā)進程。從而防止人工智能對人類社會的潛在風(fēng)險，應(yīng)對人工智能可能對人類政治、經(jīng)濟，尤其是民主方面造成的巨大破壞。
同樣簽署聯(lián)名信的紐約大學(xué)教授馬庫斯則在一篇博客文章表示，他更擔(dān)心“普通的人工智能”廣泛被犯罪分子或恐怖分子利用。
歐洲刑警組織27日警告稱，人工智能聊天機器人可能會在網(wǎng)絡(luò)釣魚、虛假信息宣傳和網(wǎng)絡(luò)犯罪中濫用。相關(guān)研發(fā)團隊尚未對公開信有所回應(yīng)。
鳳凰觀察：人工智能和人類的關(guān)系應(yīng)是互補和合作
馬斯克聯(lián)同千名人工智能專家與行業(yè)高管呼吁暫停人工智能訓(xùn)練，對此業(yè)內(nèi)有何觀察？若繼續(xù)訓(xùn)練比GPT-4更強大的AI系統(tǒng)，究竟會對人類與社會帶來怎樣的危機與風(fēng)險？如何看待人工智能與人類的競爭？兩者能夠做到平衡發(fā)展嗎？以下內(nèi)容摘自香港大學(xué)計算機系助理教授孔令鵬先生的分析和點評——
這樣的擔(dān)憂也側(cè)面反映出近期的人工智能，尤其是自然語言處理領(lǐng)域的快速發(fā)展，我們不太會去擔(dān)心一個人工智障系統(tǒng)。
從去年12月以來，ChatGPT發(fā)布到現(xiàn)在短短三四個月的時間，我們其實看到特別多讓人感到興奮的技術(shù)進步以及運用，馬斯克等人的呼吁本身是有積極意義的，它能夠提醒大家去更多地關(guān)注人工智能技術(shù)的發(fā)展。但是呼吁立即停止這件事情，可能是經(jīng)典的“囚徒困境”問題，最后或是不能成型。
人類發(fā)明的很多工具都是“雙刃劍”，比如AI可以用來做一個很好的客服，同時也就說明了它有可能會被用來進行電信詐騙。
而從大的方面來講，AI的發(fā)展可能會對工作勞動所做的內(nèi)容以及結(jié)構(gòu)產(chǎn)生很大影響，也會對人類的倫理價值觀念和看法產(chǎn)生潛在影響。
另外，還有老生常談的，即AI對于隱私以及個人數(shù)據(jù)安全的風(fēng)險，這些是需要通過技術(shù)、通過立法、通過社會廣泛參與，來尋求一個更好更負責(zé)任的解決辦法。
我覺得人工智能與人類應(yīng)該是合作互補關(guān)系，而非競爭關(guān)系。現(xiàn)在的AI系統(tǒng)還是能夠幫我們節(jié)省時間，能夠幫我們在更短的時間去完成更多的事情，我們是能夠從這些東西當(dāng)中獲益的，但我們需要讓AI系統(tǒng)去學(xué)習(xí)更多人類的價值觀和道德觀念，從而讓它能夠更好地為人類服務(wù)，這也是我們現(xiàn)在研究的重點問題之一。只有這樣子才能夠使這些AI系統(tǒng)最后和人類形成合作互補的關(guān)系，從而能夠使整個社會最終受益。
來源：鳳凰衛(wèi)視資訊臺
編輯：木木
版權(quán)聲明：本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容， 請發(fā)送郵件至 舉報，一經(jīng)查實，本站將立刻刪除。