隨著AI技術發展愈來愈純熟，人們都開始擔憂安全問題，雖然人工智能能帶來方便，但同時亦會有隱憂。近日，Tesla行政總裁馬斯克(Elon Musk)與近千名科技界領袖、專家聯署公開信，呼籲所有人工智能實驗室立即暫停較GPT-4更強大的人工智能系統的訓練至少6個月，亦表示「當確信它們的影響是正面的，並且風險是可控的，才能開發更高級的AI模型。」
近千名行內專家及企業界名人聯署
在公開信的聯署人士有不少學者、企業創辦人等，包括馬斯克、Apple聯合創辦人Steve Wozniak、AI科學家和圖靈獎得主Yoshua Bengio、《人類三部曲》作者與歷史學家Yuval Noah Harari等人，公開信內容指，當代AI系統在一般任務上變得與人類具有競爭力，並提出數個問題：「我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？ 我們應該自動化所有的工作，包括令人滿意的工作嗎？ 我們是否應該發展最終可能超越我們、取代我們的非人類思維？ 我們應該冒險失去對我們文明的控制嗎？」
就例如近日網上流傳的教皇身穿名牌羽絨服的時尚圖片，一度令眾人以為教皇都跟貼潮流，但後來才發現是AI圖片生成軟件所創作的圖片，幾乎以假亂真。
防止AI被濫用應嚴格監督審查
在公開信中亦表示，這並不是代表要暫停AI開發，各專家應利用這次暫停，共同開發和實施一套用於開發高級AI模型的共享安全協議，並由獨立的外部專家進行嚴格監督審查。如果無法快速實施這樣的暫停，政府應該介入並制定暫停期。專家們亦擔心，這些系統可能會遭到濫用，以比過去更快、更高效的方式傳播虛假信息。他們認為，這些系統甚至會被人在網上拿來影響人們的行為。