陳朝平》AI評估AI發展的風險

陳朝平》AI評估AI發展的風險

照片取自川普Truth帳號

【聚論壇陳朝平專欄】川普宣布設立「超級智慧部隊」，由情報總監克雷頓領軍，並兼任AI沙皇。

根據「超級智慧部隊」的章程，這個特別組織將負責辨識AI可能帶來的威脅與機會，研擬因應方案，同時避免過度監管或法規被利益團體綁架而壓抑創新與競爭。

克雷頓表示，美國政府將參考金融業與聯準會、證券管理委員會共同發展風險模型的做法，和AI產業透過對話建立風險辨識的機制。

超級智慧部隊和業者，會運用AI評估AI發展的風險嗎？不知道AI會給出甚麼樣的風險評估報告？

AI模型的資料和邏輯是業者「餵食」的，不同的AI模型會給出相同的風險評估、還是不同的風險評估？AI會自行評估自個兒的發展具有風險嗎？必須避險嗎？AI會自行評斷各AI模型和代理都應該接受監管嗎？會自行評估AI沒有被利益團體綁架的風險嗎？

或者，業者開發餵食的AI真會做出對自己不利的風險評估嗎？AI會不會自行評估人類應該放飛AI競爭？讓AI有一天能夠倒頭過來統理、統治開發、餵食AI的人類嗎？

眼下，新聞報導、評論、廣告與藝文視頻創作、甚至民意調查、選舉文宣和造勢、資料蒐集和演算法，都已被不同的AI模型控制，甚至到了失控的地步。誰還能相信AI能自我節制？

就算AI能自我評估AI模型的發展風險，人類的野心和貪婪恐怕不是AI能夠評估的！現實環境裡，AI模型的開發者，不論是黃仁勳的輝達、蘇丰姿的超微半導體、Open AI、Anthropic、xAI的馬斯克等，都是市場的獲利者，他們願意放棄自己的野心和貪婪嗎？他們願意誠實地評估AI發展的風險嗎？

川普2.0以還，他的野心和貪婪，誰能事先評估？有效掌控？如果，AI不能評估、掌控川普的野心和貪婪，那麼，川普設立的「超級智慧部隊」和他的AI沙皇，又怎能回過頭來評估和掌控AI發展的風險呢？

成立「超級智慧部隊」與AI業者合作評估AI可能帶來的威脅和機會，研擬因應方案、避免過度監管，怎麼看，都像是與虎謀皮呢！

不！應該說，是一群既得利益者聚在一起、商量著如何管控、分配下一階段大夥兒在AI市場攫取的暴利！

作者為資深媒體人

●專欄文章，不代表《聚傳媒》J-Media立場。