Claude 被拿來寫勒索信、假履歷、惡意程式?Anthropic 首度公開 AI 協助犯罪報告

Anthropic 首度揭露 Claude 被用來寫勒索信、假履歷、惡意程式的完整案例,從黑市 API 到滲透 Fortune 500,AI 犯罪正式進入量產化。同場加映:Google Flash 2.5、全球最大主權基金導入 Claude 的內部實驗、矽谷最火爆的機密跳槽訴訟戰。

Share
Claude 被拿來寫勒索信、假履歷、惡意程式?Anthropic 首度公開 AI 協助犯罪報告

上週有個小插曲,讓我對「AI × 台語」突然多了新的體會。那天開車的時候有點想打瞌睡(我其實有睡飽才上路啦),就隨手打開 ChatGPT,試著用台語和它聊天。這個想法其實來自前陣子 N 刷完侯孝賢的《悲情城市》——電影裡那種自然又滲透日常的台語,讓我嚮往能講一口流利的台語。

實測結果還蠻有趣:ChatGPT 確實能講台語,但是是「台灣國語」,還是很不流利的那種——一整段中文裡,偶爾冒出像「吃飯」、「我們」這樣的台語。總之體驗起來其實跟我大部分朋友的程度是差不多的(比爛的)。

沒想到這樣一個突發奇想,竟然在幾天後的黑客松現場得到了呼應。上週參加高通在政大公企舉辦的 AI 黑客松,現場就有一個團隊在做台語相關題目,馬上吸引了我的注意。他們做的辨識模型,在台語聽懂程度上竟然超過 7 成,而且是 24 小時內生出來的 project,表現比 ChatGPT 還強。因為 ChatGPT 雖然會講,但幾乎完全聽不懂台語,整個就是雞同鴨講。如果大家最近也有玩到什麼跟台語、客語、甚至其他語言相關的 AI 工具,歡迎分享給我們,我一定會去試試看。

最後也提醒一下,我們的 AIPost Night Talk #3 將在 9/4(週四)晚上八點 舉辦,這次要聊歐洲創作者的靈感與遊牧生活,還沒報名的朋友,趕快卡位!

AIPost Night Talk #3:跨界‧遊牧‧自我實現——從歐洲視角探討自由工作者的未來工作與生活 · Luma
花藝 × 音樂 × 插畫,三位曾旅歐的自由創作者,談靈感、生活與商業:如何在世界移動中保持產出?如何把興趣變事業?如何與 AI 共存而不失去手作靈魂?90 分鐘真實 AMA,給在不確定時代找方向的你。 活動資訊 時間:2025/9/4(四)20:00–21:30(UTC+8) 線上開放進場:19:50(建議提前…

本周焦點事件

  1. AI 犯罪進入量產化?Anthropic 首度公開 Claude 被惡意使用的完整案例
  2. Nano-Banana 進化為 Gemini 主力圖像引擎,Google Flash 2.5 正式登場
  3. 如果你不會用 AI,你永遠不會升遷」全球最大主權基金 AI 導入實驗
  4. GenAI App排名,ChatGPT 穩坐龍頭,Vibe Coding 成最大黑馬
  5. xAI 控告前工程師竊取商業機密,跳槽 OpenAI 引爆矽谷訴訟戰
還想看更多嗎?完整內容只對註冊用戶開放喔!
點下方的免費 Subscribe,馬上加入我們~

AI 犯罪進入量產化?Anthropic 首度公開 Claude 被惡意使用的完整案例

generated by midjourney

Anthropic 在 8 月底公開了一份長達 25 頁的《威脅情報報告》 Threat Intelligence Report,第一次完整揭露 Claude 被捲入大規模詐騙、國安滲透、勒索攻擊的真實案例,具體到每一封勒索信、每一段假履歷,甚至每一個 API 請求。

這份報告的基礎來自 Anthropic 的日常安全監控。當 Claude 回答出現異常(例如協助攻擊、撰寫可疑代碼),威脅情報團隊會介入調查,透過模擬重建還原整個攻擊流程。最終,他們列出 10 起已確認濫用案例,我們挑出其中三個最具代表性的場景——讓你看看,AI 是怎麼一步步變成犯罪共犯。

案例一:勒索攻擊的 AI 策畫師

赤裸裸的犯罪企劃書,到底為啥這種 prompt 為什麼能過?

先來看看最經典的犯罪劇本——駭客如何用 AI 自動化一整個犯罪過程。駭客組織透過 Claude Code 對至少 17 家機構發動攻擊(涵蓋醫療、政府、宗教等單位)。這些攻擊並不加密檔案,而是直接威脅公開內部文件、薪資清單、捐款紀錄等敏感資訊,開價動輒超過 50 萬美元。

Claude 在這裡的角色不只是技術工具,更像是攻擊總監:
幫你做網路偵察、收集帳密、分析哪些財務與人事資料最具威脅性,還能一鍵生成客製化勒索信。從頭到尾,攻擊流程幾乎全自動化。

案例二:北韓假工程師滲透美國科技巨頭

這位北韓駭客使用 Claude 的對話主題分布

Anthropic 發現,北韓駭客利用 Claude 假冒身分,成功混進美國一間 Fortune 500 科技公司。AI 幫他們生成履歷、完成技術測驗,還能協助他們用自然語言回答面試問題,偽裝成遠端工程師。這種做法繞過了過去對人員專業培訓的需求,大幅降低滲透門檻。

案例三:勒索軟體也能「No-code」

以為勒索軟體需要高技術門檻?現在只要會用 AI 就能上架暗網賣錢。一名幾乎不會寫程式的駭客,靠 Claude 生成了多個勒索軟體版本,還內建加密、反偵測與反恢復機制,最後打包在暗網販售,每套售價 400 到 1200 美元不等。勒索軟體也能「No-code」,這在過去完全不可想像。

這些案例是怎麼繞過 Claude 的審查機制?

Anthropic 表示,他們雖然已經有「成熟的安全與防護措施」,但駭客仍然「找到了繞過方法」,其中關鍵在於:這些 prompt 看起來不像是在犯罪,更像是在寫一份提案、模擬風險或分析資料價值。

駭客透過「任務拆解」、「結構化提示」、「角色扮演語氣」等方式,把整個勒索流程切成許多中性指令——像是請 AI 幫忙分析資料敏感性、估算資訊價值、列出應對策略,再一一組裝回完整的攻擊腳本。

Anthropic 把這種用法稱作agentic misuse,也就是把模型當成「主動執行者」,而不是單純回答者。這類濫用不靠 prompt 工程技巧,而是利用模型愈來愈擅長「理解目標、完成任務」的能力,把它變成一個無聲共犯。

觀察筆記

想想我們自己怎麼用 AI 提高產出效率:整理報表、製作行銷企劃、規劃流程,甚至拆解一整個任務、自動化完成。但現在,駭客也掌握了同一套工具與流程思維——只是產出的不是部落格文章,而是勒索信;不是商業分析,而是滲透路線圖;不是 No-code 網頁,而是 No-code 勒索軟體。

突然想到,我們以前介紹語音、影像 AI 工具的時候,底下總會有人留言說:「這個拿去詐騙很恐怖欸。」那時候我們還會回說:「是啊,但目前門檻還高。」
但現在,我們看到的是門檻消失的樣子。我們常說 AI 是放大器。看來它已經不只放大生產力,也放大了惡意。


Nano-Banana 進化為 Gemini 主力圖像引擎,Google Flash 2.5 正式登場

generated by nano banana

你最近有被社群爆紅的 Nano Banana 燒到嗎?許多人用它來設計手辦、測試各種圖片,甚至已經有人在淘寶開賣場了(最近 Gemini 的熱度真的好高,Veo 3 還沒結束現在又來個 Banana,可以對知識焦慮的人友善一點嗎?)。

這款爆紅模型的正式名稱是 Google Flash 2.5 Image,它在 LM Arena 上以「nano-banana」為代號測試時,就已經力壓群雄,現在正式由 Google DeepMind 團隊推出,整合進 Gemini App,讓一般用戶也能一鍵使用這個被封為「最強圖像編輯模型」的 AI 工具。

Flash 2.5 最大的特點,是支援多輪次編輯、角色一致性與風格融合:你可以從一張插畫或自拍開始,接著用自然語言持續修改,加上場景、服裝、道具、光影、背景……畫面卻依然能保留人物臉部特徵與風格不走鐘,就像用 Photoshop 一層層堆疊畫面,只是這次你用的是語言。

價格方面,API 目前開放 $0.039 / 張,比 OpenAI 的 gpt-image 和 BFL 的 Flux-Kontext 略便宜,但生成效果明顯領先,目前在 LMarena 上面還可以免費使用。
延伸閱讀:【AI工具地圖】Nano-Banana 是什麼?Google 最新 AI 模型的 6 個顛覆性功能

另外如果你想快速入手,我在 Github 上看到一個整理資源,裡面收錄了一百種 Nano Banana 的風格案例、Prompt 寫法還有 GPT-4o 的生成對照。推薦大家可以去玩玩看,我自己是幫我全家人都生了 3D 公仔的圖片 XD


如果你不會用 AI,你永遠不會升遷」全球最大主權基金 AI 導入實驗

Nicolai Tangen, CEO of NBIM 世界最大主權基金,同時也是這次 AI 導入的主導者

全球最大主權基金 NBIM,過去一年執行了一場罕見的實驗——把 Claude 模型嵌入整個投資團隊的日常流程。

他們並不只是單點試用,而是從內部文化到實際執行都全面導入:他們成立了 AI 支援團隊,在每個部門安排 AI 大使,讓超過 600 位投資經理與風控人員全面學習 prompt 寫法,把 Claude 接進 Snowflake 資料倉(企業級的雲端資料平台,可以統整各種資料來源,像財報、交易紀錄或各種指標等。),甚至用它來分析全球 9,000 家公司的媒體動態、法說會內容與決策模式。

成效也非常具體:一年下來節省了 213,000 小時工時,投資效率提升 20%,還優化了將近 5,000 萬筆交易。更驚人的是,他們透過投資模擬器發現,AI 可以預測投資人行為背後的認知偏誤,而這些偏誤正是拖累績效的根源。

NBIM 之所以能從一間傳統金融機構,變成把 AI 寫進日常流程的主權基金,其實最關鍵的角色是他們的 CEO —— Nicolai Tangen。深入了解才發現這位背景真不簡單,藝術出身,曾經是挪威軍事情報員,然後又創立曾是歐洲最成功的主動型投資基金 AKO Capital。他親自主導這場 AI 導入計畫,曾在內部直言:『不會用 AI 的人,未來在這裡可能沒位置。』,還設立 AI 支援團隊與部門 AI 大使,甚至在一次內部會議上表態「這不能是自願的。如果你不會用 AI,你永遠不會升遷。

觀察筆記

這其實挑戰了一個我們很常在企業中看到的盲點:AI 的導入不能只靠 bottom-up(員工自發學工具),也不能只靠 top-down(開會喊口號),而是兩邊都要一起動,但前提是——領導人要先動,然後提供一套真的能讓人跟上的節奏。

NBIM 像是幫所有正在導入 AI 的企業,立了一個非常高的標準——AI 的導入不是靠幾堂內訓就完成,而是一次性的文化換骨。從資料架構到升遷制度,從人事權限到工具介面,整個組織的運作節奏都要圍繞 AI 打掉重練。

我自己過去也在傳統媒體做過數位轉型。說實在的,那時我們的權限不多,能做的就是去談合作、幫忙開內部課程、試著影響一小塊一小塊的部門。雖然大家給的 feedback 都很好,但這些工具從來沒有真正進入他們的日常習慣裡。因為流程沒變、責任沒變、升遷條件沒變——你用不用 AI,根本沒有差別(只是讓你做更多事而已)。


GenAI App排名,ChatGPT 穩坐龍頭,Vibe Coding 成最大黑馬

創投公司 Andreessen Horowitz(a16z)發佈了第五版《Top 100 GenAI Consumer Apps》榜單,這份榜單已經持續追蹤兩年半,透過 Similarweb 數據觀察 AI 消費級應用的使用趨勢。

在最新排名中,ChatGPT 依舊穩坐第一,Google 的 Gemini 緊追在後,流量約佔 ChatGPT 的 12%。Google 旗下還有多款產品同時上榜,包括 Google AI Studio(第 10)、NotebookLM(第 13)、Google Labs(第 39)。

Elon Musk 的 Grok 因為推出 Grok 4 與 AI companion,使用量顯著增加,這次已上升至第四名。榜單同時也點出,中國開發的應用強勢進入,僅在 mobile 端就有 22 款進榜,且大部分使用者分布在全球市場,而非僅限於中國。

另一個值得注意的現象是 Vibe Coding 工具的快速崛起:Lovable(第 23)、Cursor(第 26)、Replit(第 41)都在榜單上看到成長,Bolt 也被列為接近上榜邊緣。


xAI 控告前工程師竊取商業機密,跳槽 OpenAI 引爆矽谷訴訟戰

generated by midjourney

Elon Musk 的 xAI 近期正式對前工程師 李學辰(Xuechen Li) 提起訴訟,指控他在離職前竊取 Grok 的核心技術資料,隨後辭職並轉往 OpenAI。

根據訴狀內容,李在 7 月接受了 OpenAI 的職位,並計畫於 8 月中旬到職。在此之前,他出售了手中價值 700 萬美元的 xAI 股票,並隨即提出辭呈。xAI 指控他在離職前將「具備超越 ChatGPT 的前沿 AI 技術」下載到個人裝置,涉及重大商業機密。公司聲稱,李在 8 月 14 日的一次內部會議中承認下載資料,但同時試圖透過刪除紀錄、重新命名檔案來掩蓋行為。李是 xAI 在 2024 年最早聘用的 20 名工程師之一,主要參與 Grok 語言模型的開發與訓練。目前,xAI 要求法院禁止李在案件未決前進入 OpenAI 或其他競爭公司,同時尋求金錢賠償。

這起事件也揭示出一個更大的趨勢:自從 AI 時代開始,檯面上的「商業機密戰」越來越猖獗。7 月時,台積電爆出 3 名工程師竊取 2 奈米製程技術、洩漏給日本競爭對手,全案依《國家安全法》起訴。如今,這種現象正快速延伸到 AI:Google 曾指控工程師攜帶 TPU 演算法外流,Apple Car 團隊也有人因竊取自駕資料遭起訴,中國與新加坡的新創更頻繁透過高薪挖角 OpenAI、Anthropic 的工程師,把 know-how 直接帶走。

換句話說,這起「xAI 工程師帶走機密跳槽 OpenAI」的訴訟,不只是單一公司的人事糾紛,而是整個產業在快速成長、人才競爭白熱化下,知識財產被擺上檯面競逐的縮影


喜歡這期內容嗎?有哪一則讓你特別有感?
歡迎回信或是 Instagram 告訴我們,我們會偷偷讀大家的回覆的!

我們下周見
—AI郵報 編輯團隊

Read more

智譜 Z.ai 官方發布:Toward Recursive Self-Improvement: How GLM Built Its Own Inference Infrastructure

智譜 Z.ai 重磅揭密「模型自造基礎設施」!GLM-5.3 帶領 Infra Agent 於 10 萬國產算力卡兩週吞吐飆 3 倍:Ox Alpha 身分正式揭曉、稠密反饋擊破 GIL 鎖死瓶頸與遞歸自我改進(RSI)黎明深度解析

智譜 AI(Z.ai)發表《Toward Recursive Self-Improvement》技術震撼彈!證實 8 月在 OpenRouter 橫掃 62 兆 Token 的匿名模型 Ox Alpha 真身為 GLM-5.3-Flash。更首度揭露 GLM-5.3 驅動的 Infra Agent 如何在超過 10 萬張國產算力卡叢集上自主修復底層算子精度與 Python GIL 鎖死,兩週內將推論吞吐拉升 3 倍,能效逼平 NVIDIA。深度剖析稠密反饋機制與「模型優化系統,系統運行模型」的 RSI 黎明。

Google DeepMind Dream-RSI 遞歸自我改進框架官方主視覺海報

讓 AI 在歷史中「做夢」實現自我進化!Google DeepMind 發表 Dream-RSI:告別微調權重,探索算力成本暴降 162 倍,揭開遞歸自我改進(RSI)新範式

Google DeepMind 震撼發表 Dream-RSI(arXiv:2609.14858)!首創將歷史發現樹轉化為經驗回放模擬器,讓 AI 在低成本「夢境」中自我進化探索策略。Lasso 算法任務算力調用縮減 162 倍且超越 scikit-learn,刷新幾何極值與 GPU Kernel 性能,開啟安全高槓桿的 AGI 自展新範式。

QuiverAI 正式發表新一代向量生成模型 Arrow 2 與 Arrow 2 Telos

告別點陣像素與描摹地獄!a16z 押注 830 萬美元,QuiverAI 正式發表 Arrow 2 與 Arrow 2 Telos:首款原生代碼向量世界模型登場,幾何拓撲優化、微動畫與 MCP 代理革命深度解析

傳統生成式 AI 沉溺於像素點陣,但真實的軟體與設計世界由向量(SVG)統治!由 Mila 頂尖學者 Joan Rodríguez 創立、a16z 領投 830 萬美元的 QuiverAI,重磅發表新一代雙旗艦模型 Arrow 2 與 Arrow 2 Telos。徹底終結傳統「AI 生圖再描摹」的節點爆炸災難,以原生代碼生成精準、少控制點的乾淨幾何,並首創 SVG 微動畫引擎與原生 MCP 協議支援。本文深度拆解雙模型架構、拓撲優化技術、動畫原理解析、Cursor/VS Code Agent 整合實務與完整計費定價。