美國陸軍近日因為生成式 AI 使用量暴增,被迫重新收緊原本宣稱「不限量」的 token 配額。根據軍方信件,陸軍戰鬥能力發展司令部(DEVCOM)人員被告知,AI token 消耗速度遠超預期,軍方在 6 月中旬就已經用光了陸軍 CIO 的 token 池。
事實陳述
陸軍於 5 月宣布,每位員工每月至少有 20 萬 token 額度,且若提前用完還會自動補充。然而,陸軍年度企業方案總量為 1 億個 token,每個 token 大約等於 3.7 個字元。短短一個多月,這些 token 就被耗盡,迫使軍方恢復限額,以維持目前的使用水位。
各方反應
美國國防部此前高調宣布,旗下近半數、約 350 萬名員工都能使用 AI。陸軍使用的 Ask Sage 是一個可以串接多種大型語言模型的多模態生成式 AI 平台,包括 Alphabet Gemini、Meta Llama 與 OpenAI ChatGPT。Ask Sage 不僅支援陸軍企業級 LLM 工作區,也獲得了可處理受控非機密資訊的認證。
有匿名軍方人員表示,整個陸軍幾乎為單一單位就燒掉了整年的 token。這種情況下,陸軍不得不在推廣 AI 與管控預算之間重新拿捏平衡。
背景補充
陸軍曾將 Ask Sage 用於重新分類人員職務說明等行政工作,但有員工坦言,實務面不太可靠,甚至出現模型聲稱完成任務卻沒有做到的情況。token 與運算成本已成為各界擴大應用 AI 的主要瓶頸。
從產業面來看,美國陸軍的案例揭示了 AI 推廣過程中的成本與管理挑戰。尽管 AI 技术具有巨大的潜力,但在实际应用中,如何合理控制成本和确保系统的可靠性,仍是亟待解决的问题。建議各機構在引入 AI 時,應先進行詳細的資源規劃和效益評估,避免盲目擴張。
這次限縮也突顯出美軍在推動 AI 實用化過程中面臨的諸多挑戰。未來,陸軍與國防部需要在技術創新與財政管理之間找到更好的平衡點。
行動呼籲
面對 AI 技術的快速發展,各機構和企業都應謹慎評估其應用價值和成本效益。如果你對 AI 在軍事和企業中的應用有興趣,不妨深入研究並分享你的看法,共同探討如何在控制成本的前提下實現技術的創新應用。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
為什麼美國陸軍在 6 月就用光了全年的 AI token 配額?
主要原因是在 5 月宣布「不限量」後,陸軍员工大量使用 AI 工具,导致 token 消耗速度远超预期,仅一个多月就耗尽了全年配额。
Ask Sage 是什麼?
Ask Sage 是一个可以串接多种大型语言模型的多模态生成式 AI 平台,支持陆军企业级 LLM 工作区,并获得了处理受控非机密信息的认证。
陸軍如何解決 AI token 不足的問題?
陸軍選擇重新收緊 token 配額,恢復限額以維持目前的使用水位,並計劃在 10 月 1 日之後再評估是否續補。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。