對話中國科學院王飛躍：過度炒作ChatGPT干擾大眾認知 只是少數人獲利
發布時間：2023-06-19 10:04:18
相信不久ChatGPT就是“白菜價”。
2023年，世界正處于人工智能發展的快車道上，各行各業都在尋求通過人工智能技術實現轉型升級。然而，與此同時，人工智能的安全性問題也受到各方的關注和反思。最近，特斯拉首席執行官埃隆·馬斯克與多位人工智能專家和行業高管聯名發表公開信，呼吁暫停開發比GPT-4更強大的人工智能系統至少6個月。
爭議背后，美國業界對于AI發展的擔憂從何而來？AI的發展是否已來到需要按下“暫停鍵”的轉折點？國內應該如何發展人工智能？帶著這些問題，鳳凰網《AI前哨》在萬里紅主辦的人工智能論壇活動上對話中國科學院自動化所復雜系統管理與控制國家重點實驗室主任、中科慧拓首席科學家王飛躍。
王飛躍主要研究領域為智能系統和復雜系統的建模、分析和控制與管理，是AI和智能控制方面的國際知名學者。作為行業頂尖權威，王飛躍給我們帶來了許多不同的觀點，他指出相較于技術革命，ChatGPT更像是基礎設施，現在存在過度炒作和神化它的現象。這些炒作已經影響到了正常的科研，干擾了大眾正常的認知，最后只是少數人獲利。
“還記得當初阿爾法狗（AlphaGo)出來，大家也都激動的不得了，現在怎么樣？阿爾法狗到現在也不過就是六七年時間，所以沒必要那么激動。相信不久ChatGPT就是‘白菜價’。”王飛躍認為，ChatGPT但離真正的（智能）還早，當下重要的是有序發展。
對于美國業界對AI發展的擔憂，王飛躍表示，“我堅決不信它（ChatGPT）會給人類造成威脅 ，除非人類自己威脅自己。”他認為技術發展不可逆，特斯拉CEO馬斯克呼吁暫停開發比GPT-4更強大的人工智能系統，實質是商業利益問題。
以下為對話內容（原文基礎上有刪減）：
01.過度炒作ChatGPT干擾正常科研和大眾認知 只是少數人獲利
AI前哨：去年底您看到ChatGPT推出后，有什么感受？
王飛躍：沒什么感受，很好，但本該這樣。就是一幫人花錢把它（ChatGPT）做出來展示，是不簡單，幾十年的空談終于“涌現”出一個結果，但離真正的（智能）還早。ChatGPT出來后，大家太激動了，其實現在才剛開始，太激動不好。還記得當初阿爾法狗（AlphaGo)出來，大家也都激動的不得了，現在怎么樣？阿爾法狗到現在也不過就是六七年時間，所以沒必要那么激動。相信不久ChatGPT就是“白菜價”，問題是之后呢？
AI前哨：外界認為，ChatGPT之所以會爆紅是因為它具備了通用性。以往的人工智能應用于人臉識別、學校判卷等垂直場景，做的都是一些“選擇題”。現在GPT能做“簡答題”，這讓人覺得AI已經具備了類似邏輯思考的能力。
王飛躍：但是我問你，工廠生產實時控制敢用它（ChatGPT）嗎？飛機調度排班敢用它(ChatGPT)嗎？所以它還不具備真正的智能性。它是比娛樂版進了一大步，已經非常有用了。最近我讓我所有的學生寫摘要都用它做參考，因為ChatGPT寫的英文摘要至少比大部分人寫的要好。
AI前哨：微軟創始人比爾蓋茨表示，ChatGPT是1980年以來最具革命性的科技進步。您怎么看？ChatGPT是技術革命嗎？
王飛躍：仁者見智，智者見仁，有點亂。誰都可以做論斷，他（比爾蓋茨）當然可以把ChatGPT當作革命性的技術進步。我認為它（ChatGPT）不是革命，它的確把AI以一種很大眾化的形式展現給了世界，確確實實為智業社會提供了一個基礎設施原型，最多就跟工業社會的高速公路、飛機場、火車站、碼頭是一樣的。一個現代化的工業社會，需要這些基礎設施，未來的智業社會，需要許多ChatGPT一樣的基礎設施。
資本和技術創新的結合，最后涌現出（ChatGPT）這么好的結果，這是非常好的事情，做科研的人應該往這條路上來。但不要把它神圣化，不要炒作來炒作去影響正常的科研進程。
AI前哨：現在人工智能存在過度炒作和神話？
王飛躍：對，而且影響到了正常的科研，影響到了大眾正常的認知，其實只是少數人獲利。
AI前哨：影響到了科研的哪方面？
王飛躍：把年輕的科研人員抽走了，特別是還沒有真正成熟的年輕人。本來好好的科研團隊，大家正在認認真真做科研，一陣熱潮來了，Hope（希望）腦洞大開,不但大開口還下生大尾巴，變成Hype（忽悠），隊伍就沒了，影響了正常的科研進程。據我所知，好多科研團隊都面臨這個問題。
其實我非常支持年輕人創業，更支持科研人員加入企業，但過度炒作，就像農藥催化劑一樣，讓十分有希望的年輕人早熟但不可用，最后騙子加忽悠，是社會資源的極大浪費。最近見過幾位過去很有前途的年輕科研人員，成了高管投資人談ChatGPT，這種感覺更強烈了。
AI前哨：那您覺得學界和企業應該如何平衡這種情況？
王飛躍：我也沒有答案，企業和科研必須相互結合，但應該是一種更有序的結合。
02.ChatGPT不會生產數據 我堅決不信它會給人類造成威脅
AI前哨：人工智能每隔幾周就會出現令世界震動的功能拓展，有人興奮有人恐懼。有人擔心 AI 可能對人類構成巨大危險，因為我們不知道一個比我們聰明得多的系統會做什么。您是否也有這種擔憂？
王飛躍：一點沒有！我堅決不信它會給人類造成威脅，我擔心的是人類對人類造成威脅。
AI前哨：但美國業界對AI技術發展表現出了擔憂。特斯拉CEO馬斯克、Yoshua Bengio等數千名來自學術界專家和企業界呼吁至少暫停6個月比GPT-4更強模型的研究，并強調人類需要組織對AI技術進行監管。您怎么看？
王飛躍：歷史潮流，浩浩蕩蕩，順之者昌，逆之者“忘”，技術發展是擋不住的。當年英國人還把機器燒了，還記得盧德運動？工業革命幾百年，機器統治了人類？我們是機器的奴隸？你愿意，或者說，你有資本回到機器前的社會？目前所謂的限制，會把好人的手腳捆住，而讓壞人發展利用新技術。馬斯克呼吁之音還在，自己迫不及待干起來，說明什么？那完全是商業利益在背后驅動，有時他干的事情，與他說的話之相位差180度。
AI前哨：無論是ChatGPT還是國內大模型，都還有一些缺陷，比如編造細節，這是壞事嗎？有沒有辦法控制？
王飛躍：ChatGPT我也試用過，有時候確是在正經的胡說。但你告訴它錯誤，它馬上就改過來了，有時改的無原則，有些回答好的出乎我的意料，對國內大模型我試的不多，也沒有這種感覺。
編造細節這不是什么壞事，因為以后的大模型肯定不是這樣去做。以后可能不會有大問題的大模型，大多數一定是小問題大模型，然后它必須每一道（問題）都能檢查。其實，（大模型）它最后就是把知識工作者都變成快遞小哥，小包裹大系統的后果，就這么簡單。
AI前哨：很多人一邊使用ChatGPT一邊擔心，擔心AI會替代人類工作導致失業，包括我們這些做內容的人也會擔憂。
王飛躍：這就讓所謂“專家”們給忽悠了，真正從事文化創意類的人是最替代不了的。因為數據是生產出來的，它（ChatGPT）沒有生產的手段，只能去網上收集這些數據。
AI前哨：數據很關鍵，ChatGPT等一系列大模型能搜集數據，那我們怎么保證隱私安全？
王飛躍：這是一個大的問題，我們做區塊鏈和智能合約研究就是為了解決這個問題。基于區塊鏈的TRUE DAO，是讓數據可信（T）、可靠（R）、可用（U），最后要產生效益Effective + Efficient（E）。DAO就是要分布自主開放：D是Distributed + Decentralized（分布式+全中心化），A是 Automatic + Autonomous（自主+自動），O是Organizational + Operational（組織+運維），最后基于智能合約變成數字化組織、數字化治理、數字化運維，走上智業社會的科技“真道（TRUE DAO）”。
03.國內大模型與ChatGPT相差一半時間
AI前哨：除了ChatGPT，您有試用過其他一些大模型嗎？
王飛躍：我們長期研發各種業務大模型，整個實驗室就是為此目的創立的。過去5年來，我們試過許多開源閉源大模型，最有意思的是藝術創作方面的。
AI前哨：國內的大模型和GPT相比，使用起來有什么不同？
王飛躍：從有限的例子里，我覺得有差別。
AI前哨：差距多大？
王飛躍：我認為至少差它們一半的時間。
AI前哨：有觀點說我們只差兩個月，也有創業者說我們離GPT3.5還差兩年，還有企業說10月就要趕超ChatGPT了。
王飛躍：現在國外和國內都沒有一個公認標準，以及一個相對對等可判定的環境去評測，不同說法也自然，大家心里都有一本賬，誰也別蒙誰，就別再像ChatGPT一樣一本正經的瞎說了。不過我堅信，不要多久，我們一定會把，也必須把ChatGPT之類的大模型做成“白菜價”，問題還是：之后呢？
AI前哨：通用人工智能發展的三要素，數據、算力和模型在AI發展中分別扮演著什么樣的角色？算力會是中國大模型發展的一大阻礙嗎？
王飛躍：算力不是阻礙，因為必須得有，它是未來社會的標配。一般認為，我們的體制有數據和算力的優勢。
AI前哨：大模型表現性能都較好，我們日常體驗也感覺不錯，卻難以見到大模型大規模的產業化落地。在這方面，它主要面臨的阻礙是哪些？
王飛躍：人的思維、人的認識。固有的產業模式已經培養了一大批既得利益者，他們不會打破原有的流程。然后，他們在宣傳上神話人工智能，把大家說的都越來越怕AI。
技術的進步，確實會對一批人的工作產生影響，但是技術發展是不可逆的，想讓社會發展就必須跨過這一步。我們的政府在這方面有優勢，會做好這個過渡，而不是像今天輿論說的人工智能會導致大部人失業。總之，我們必須規劃好，如何從工業時代的物理自動化，過渡到智業時代的知識自動化。
AI前哨：您認為在科研機構和企業之間進行AI技術轉移和產業化應用時，需要注意哪些問題？
王飛躍：讓正確的人，以正確的方式，做正確的事。
AI前哨：有資金有資源的大廠在大模型研發方面有優勢。那在人工智能領域，會不會出現PC時代巨頭壟斷的現象？
王飛躍：我覺得可能性很大。但不應借此過度“監管”，一個自己都還都弄不清楚的事物如何監管？畢竟目前還只是技術層面的事。
