美國麻省理工學院（MIT）的研究團隊於 2 月 2 日在預印本平台發表研究指出，他們成功利用名為 GPT-6 Astra 的人工智慧模型，來解讀並調整其他神經網路的內部運作機制。這項技術讓研究人員得以窺探長久以來的「黑盒子」內部，並能直接對模型進行修改以提升其效能。
研究發現與技術細節
傳統上，電腦科學家多半透過微幅調整或從頭建構的方式來改善模型。然而，這支來自麻省理工學院的團隊展示了名為 GPT-6 Astra 的模型，能夠解讀其他系統的原始內部數值，進而預測系統中不同部位的功能。該模型隨後能對這些系統進行編輯與改善，包含增強其數學計算能力。
參與研究的麻省理工學院機器學習研究員竹日力也（Rikiya Takehi）表示，現今的前沿人工智慧模型正展現出初步的契機，能夠將神經網路視為檔案來進行閱讀、推理與修改。不過，這項研究結果並不代表由舊金山 OpenAI 開發的 Astra，已經能夠完全解釋或理解特定人工智慧網路的運作原理。
從產業面來看，當通用型 AI 模型開始具備修改其他神經網路的能力時，軟體工程的除錯邏輯將發生根本性的轉變。這就像是不需要徹底讀懂老舊發動機的設計圖，就能透過經驗法則找出問題並完成調校。對一般人來說，這意味著未來 AI 的迭代速度將不再完全受限於人類工程師的開發盲區，而是進入一種自我疊代的高速演化期。不過，這種「黑盒子修黑盒子」的做法是否會引入難以預期的隱性風險，將是技術落地前必須嚴肅面對的課題。
各方專家觀點與後續評估
英國牛津大學的人工智慧安全研究員法茲爾・巴雷斯（Fazl Barez）指出，這份預印本研究顯示將部分「可解釋性」方法自動化是可行的。研究人員期望透過這種方式更深入理解模型，有助於打造更安全的人工智慧系統，但他同時也審慎提醒，這項假設目前「多數尚未經過實證」。巴雷斯認為，目前仍不清楚 Astra 是否超越了其在訓練過程中學習到的資訊與技術，若 Astra 能以超越現有人類能力的方式閱讀與解釋模型，將會令人感到意外。
另一方面，麻州劍橋哈佛大學的電腦科學家暨生物資訊學家瑪琳卡・齊特尼克（Marinka Zitnik）則認為，若能進一步發展，這種重新編程模型的能力將有助於科學領域的人工智慧開發。舉例來說，這能在模型進入真實世界測試之前，協助及早發現其中的錯誤。
背景補充與後續觀察
前沿人工智慧系統的基礎是龐大的神經網路，這是一種模仿大腦架構的系統，由多層處理單元或神經元組成，並透過數十億個「權重」相互連結，這些權重代表模型內部連結的強度。在訓練過程中，每個權重的強度會被緩慢調整，以提升模型預測蛋白質結構或句子中下一個單字等任務的能力。
目前科學界對於這種自動化修復與解碼機制的後續發展仍在持續觀察中，評估其在科學研究與實際應用上的安全界線與實際成效，仍有待更多實證研究來驗證。
在面對人工智慧技術快速演進的時代，我們每個人都應該思考：當機器開始具備修改自身與其他系統的能力時，人類該如何在創新速度與安全防線之間取得平衡？建議讀者持續關注相關技術規範與科學研究的最新進展，並在涉及關鍵決策時諮詢專業人士的意見。
本文改寫整理自公開新聞來源，原始報導由Nature發布。
常見問題 FAQ
什麼是 AI 神經網路的「黑盒子」問題？
「黑盒子」指的是人工智慧模型內部的運作與決策過程過於複雜，連開發者也難以完全理解特定輸入是如何轉換成最終輸出結果的現象。
MIT 團隊的最新研究發現了什麼？
根據 2 月 2 日發布的研究，研究團隊利用名為 GPT-6 Astra 的 AI 模型，成功解讀並預測其他神經網路的內部運作，甚至能直接修改模型以提升數學等能力。
這種自動化修改 AI 模型技術有何應用潛力？
這項技術未來若能進一步發展，有助於在模型進行真實世界測試前及早發現錯誤，並可能在科學領域的人工智慧開發上提供實質助益。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
