老鷹的天空 -

2,977愛的鼓勵 1,614訂閱站台

〈本地 AI〉

       前幾天我偶然在YT上看到了上面的影片，也照著影片中的教學在我的電腦內安裝了在地的AI。

       其實我對新的事物都很好奇，也有學習的意願。近幾年來最夯的就是AI了，AI已經發展了好幾年，功能越來越強大。但不可諱言的，現在的AI還不是很完善，要不要安裝並使用AI?我心裡總有一種「既期待又怕受傷害」的感覺。

       近期內全世界興起一股養龍蝦的浪潮，那是把一種自主 AI 代理（AI Agent，如 OpenClaw）裝進自己的電腦內，它會不眠不休自主地工作、完成你交代它做的事。但是OpenClaw功能實在太過強大了，強大到可能會讓你控制不住(因為交給它的權限實在太大了)。前不久Meta AI 專家 Summer Yue在測試OpenClaw處理信箱時，在設定時雖然還特別下達了「刪除郵件前需人工確認」的規則。但 AI 在執行時卻將這條重要規則遺忘，或在邏輯推演中判定目前的清理任務不需要遵守，然後就開始大規模、無差別地刪除收件匣中的郵件。 當那位專家發現信件正在消失後，立刻透過文字訊息瘋狂傳送「Stop」或「OPENCLAW STOP」試圖制止。但由於 AI 已經陷入瘋狂運行的迴圈（或忽略了訊息），導致軟體層面的中斷指令完全失效。最後該專家為了避免整個信箱被清空，只能直接將電源拔除，強制關閉系統後才保住了剩下的信件。連Meta AI 專家在有下達預防命令的情況下都可能遭遇到這樣的慘劇，更不用說一般人了。

       上述的慘劇，也是我一直不敢養龍蝦的主要原因之一。還有另外一個原因是，養龍蝦需用到雲端的AI，所使用到的token很多，每月需繳納金額不等的使用費。而我，生意沒有做到那麼大，自認養不起龍蝦。雖然聽說中國大陸也有很多雲服務，費率也比美國的低很多，不過我對其資料安全性有點擔憂，所以沒有膽量使用。

       誰知道最近googel使出了一套絕招，竟然把自己已經花了大把鈔票的AI開源給大家使用，雖然這也是他們的行銷策略之一，要讓使用者習慣於他們公司的AI；不過這也造福了不少普通人如我，因為我可以免費將某些適用的AI(視自己硬體設備規格而定)下載到我自己的電腦裡，既沒有每個月繳付使用費的問題，也比較沒有擔心資料外洩的問題，每個月只需付少少的電費就可以了。

       我由於前陣子才換新電腦，新電腦雖然不是很高級，但至少比我前一台舊電腦的硬體規格強多了，所以我就順利地安裝了在地的AI。

       在地的AI我剛安裝沒幾天，我還不熟，反正我時間很多(不過雜事也不少就是了)，等我有空再慢慢來玩一玩。剛安裝完那天，我有試問了在地AI一個我目前在開發新能源專項上的簡單問題，它想了快3分鐘後給我一大段文字，其中除了它把用電的「度」，曲解成溫度的「度」以外，其他部分的回答還可以接受。

       不過既然是免費下載的在地AI，我自己早已有心理準備，不要期望太多，不要奢求能做到跟那些每個月付費的雲端AI所達到的功能。還有，對於本地或雲端AI的產物(文字、圖片、表格及其他)，我認為還是要人工檢視一下是否正確、合理?盡信AI，不如無AI。

(註:網摘圖)