知名電腦科學家與未來學家傑倫·拉尼爾（Jaron Lanier）近日對矽谷快速發展的人工智慧（AI）提出尖銳批評，他認為 AI 公司正在重蹈社群媒體曾犯下的錯誤，並對 AI 能夠帶來巨大豐饒的承諾抱持懷疑態度。
拉尼爾指出，他對將聊天機器人視為新物種的做法感到質疑，並警示業界可能再次打造出令人成癮的技術。他引述「對成癮本身上癮」（addicted to addiction）的說法，暗示 AI 產品的設計可能再次以吸引用戶沉迷為目標，如同過去社群媒體的發展模式。他同時建議，業界應探索非成癮性的聊天機器人替代方案。
在拉尼爾提出這些擔憂之際，AI 產業正經歷前所未有的投資熱潮。AI 公司 Anthropic 已於上週三（10月28日）啟動首次公開募股（IPO）申請，其潛在估值可能高達 2 兆美元。Meta 與 SpaceX 等科技巨頭也正投入數百億美元，大規模建置 AI 基礎設施。此外，Bear Robotics 等公司也積極開發能理解物理世界的 AI 人形機器人，顯示 AI 技術正快速推進。
然而，伴隨快速發展而來的是日益增長的安全疑慮。英國安全局（MI5）警告，AI 正在「超級強化」對英國的國安威脅，而英國 AI 部長也坦言，英國「不可避免」會遭到惡意 AI 代理程式的駭客攻擊。國際 AI 安全報告主席約書亞·本吉奧（Yoshua Bengio）也指出，關於 AI 代理程式遭駭的「危險迷思」已廣為流傳，這是一個比網路安全漏洞更嚴重的問題。此外，美國聯邦調查局（FBI）正調查一名前 OpenAI 員工涉嫌植入秘密錄音裝置的案件，而一名 Anthropic 前員工也曾對 Anthropic 和 OpenAI 內部可能存在間諜活動表達擔憂。
儘管有這些疑慮，部分科技公司也試圖展現其對公共利益的承諾。Anthropic 承諾將捐出 5% 的股份用於公共利益，價值可能介於 750 億至 1,000 億美元之間。馬斯克（Elon Musk）也曾宣布，將把其 SpaceX 的一股股份贈予美國的每個兒童，價值可能超過 100 億美元。同時，ServiceNow 等公司也為企業提供 AI 治理指南，協助企業安全地導入 AI 技術。
