一位資深人工智慧工程師最近透露了一些令人擔憂的見解,關於人工智慧的發展。根據這位業界內部人士的說法,AI 系統已經達到了遠超大多數人所認知的能力,並且它們越來越多地在最少人類監督的情況下運作。 這位工程師的警告涉及兩個關鍵問題。首先,自動化可能會取代各行各業大量的工作崗位——我們不僅僅是在談論一些零散的工作,而是可能在全球範圍內造成數十億個職位的流失。製造、物流、客戶服務,甚至創意領域都不例外。 但事情變得更為嚴峻的是基礎設施的風險。隨著 AI 系統越來越多地融入關鍵基礎設施——電網、交通網絡、金融系統——災難性失敗的可能性也在增加。無論是由於漏洞、目標偏差,還是未預料到的交互作用,這些自主系統理論上都可能破壞現代社會所依賴的根基。 公眾認知與實際 AI 能力之間的差距持續擴大。儘管大多數討論集中在聊天機器人和圖像生成器上,但真正先進的系統卻在幕後運作,做出影響數百萬人的決策,卻缺乏足夠的透明度。 這已不再是科幻電影中的末日場景。這是科技產業需要公開討論的議題,包括安全協議、監管框架,以及確保 AI 發展符合人類福祉,而不僅僅是追求效率指標。