Anthropic 公司最新曝光的 AI 模型 Claude Mythos它能在極短時間內找出隱藏數十年的系統漏洞（例如一個存在 27 年的漏洞）由於 Mythos 具備極強的網路攻擊與防禦潛力，Anthropic 擔心被濫用於開發惡意軟體或發動大規模網路攻擊，因此目前暫不向公眾開放-這標誌著一個時代的開始——AI 模型因為「太過強大且危險」而成為受控技術，不再像過去那樣追求全面開源或公開。「為了保護世界」而不釋出模型的做法，可能導致技術權力進一步集中在少數巨頭與政府手中，造成嚴重的資訊不對稱。關於 AI 是否會被用於「主動攻擊」的廣泛討論。"Linux伺服器跟Windows伺服器哪個好？

-
討論 Anthropic 公司最新曝光的 AI 模型 Claude Mythos，以及為什麼 AI 公司開始因為模型「太過強大」而選擇不對外公開。
以下是該影片及相關背景的重點摘要：

1. Claude Mythos：隱藏的最強模型

  • 背景：Anthropic 最近發布了一份關於 Claude Mythos Preview 的系統卡（System Card），揭露了這個效能遠超現有最強模型（如 Claude Opus 4.6）的神祕型號。
  • 強大能力：Mythos 在程式編寫、邏輯推理與資安攻防方面展現了驚人的實力。據稱它能在極短時間內找出隱藏數十年的系統漏洞（例如一個存在 27 年的漏洞）。

2. 為何不對外釋出？

  • 安全風險：由於 Mythos 具備極強的網路攻擊與防禦潛力，Anthropic 擔心被濫用於開發惡意軟體或發動大規模網路攻擊，因此目前暫不向公眾開放。
  • 合作限制：目前僅限於少數合作夥伴（如 AWS、Apple、Google、Microsoft）進行測試，並與美國政府官員討論其潛在的國安風險。

3. AI 發展的新趨勢：資訊不對稱

  • 轉折點：影片創作者「哈利說」指出，這標誌著一個時代的開始——AI 模型因為「太過強大且危險」而成為受控技術，不再像過去那樣追求全面開源或公開。
  • 權力集中：這種「為了保護世界」而不釋出模型的做法，可能導致技術權力進一步集中在少數巨頭與政府手中，造成嚴重的資訊不對稱。

4. 專案背景：Project Glasswing

  • Mythos 的開發與「Project Glasswing」（玻璃翅膀計畫）密切相關，該計畫旨在利用 AI 提升關鍵軟體的安全性，但也引發了關於 AI 是否會被用於「主動攻擊」的廣泛討論。
這段影片反映了 AI 競賽已進入一個效能與安全性極度拉扯的新階段，Claude Mythos 成為了這個轉折點的代表符號。

留言

張貼留言