谷歌“AI教父”辭職，并發出警告

今天剛看了這位教父Hinton在MIT做的一個訪問。40分鐘的問答里，這位AI教父反駁了各種“AI智能超不過人類”的說法，不斷告訴聽眾這一刻即將到來，宇宙終極的秘密是數字智慧，碳基生命只是硅基生命的發射基站。

他還說，人類是萬年進化的結果，進化出很多“內設機制”去避免做傷害人類整體利益的事情（大概就是斯蒂芬平克說的人性中的善良天使？），但AI幾乎是一夜長大，沒有進化出”善良“的基因?？礃幼尤祟惣磳⒆兂晒杌筐B在動物園里的觀賞品，我們的希望在于它們像人類一樣學會內斗。

他留給我印象最深的一句話是：好消息是，人類終于創造出永生，但永生又不是留給我們人類自己的。

作為“圖靈三巨頭”之一的Geoffrey Hinton 離開 Google也算是AI圈大事，并且臨走前還警告大家 ChatGPT 趨勢下的 AI 威脅。 Geoffrey Hinton離職其實不意外，之前他就頻頻擔憂谷歌被拖進一場無休止的AI軍備競賽，而目前監管力度相對于發展速度而言過于薄弱，喂給模型的數據集龐雜無序，最終是否會產生異變還未可知。

但目前來說，我倒覺得這種“AI 威脅論”像是給 AI 打了無形的廣告。實際上現在的AI還只是工具層面，但非要說它會帶來“就業威脅”，以此顯示 AI 的強大?？偢杏XHinton對于的AI的看法太悲觀了?，F在ChatGPT類的積極應用案例遠多于消極的，但現在的趨勢是把AI描繪成邪惡的煉金術。這些擔憂是合理的，而我們會學習，我們會糾正它，然后我們會繼續前進。