Harvard CS2680 課程解析：從使用 AI 代理，到量測成本與部署模型
Harvard CS2680 Modern AI Systems 公開課程資料，從 Claude Code、代理迴圈到模型服務。本文說明背景要求、五個作業的脈絡與自學方式，區分公開教材和正式修課。
Harvard CS2680 的授課者在 2026 年 10 月 10 日於 X 介紹本學期教材，讓 AI 代理與系統最佳化的學習路線受到關注。
這是二〇二六年秋季課程，官方網站早在八月十七日就有開課公告，並非社群貼文當天才推出。
課程從使用現有程式代理開始，再逐步接手代理邏輯與模型部署，讓學生追問一項工作為何慢、為何貴。
公開教材提供了自學入口，但正式選課、旁聽和學校運算資源，有各自的條件。
對已會寫程式的人，最值得參考的是它如何把成功率、延遲與成本放在同一套實作裡。
先看自己的系統背景，再挑一個能完成的學習階段，會比把整門研究所課程當成快速工具教學更有收穫。
Harvard CS2680 在教哪一種 AI 能力？
CS2680 全名是 Modern AI Systems: Agents and System Optimizations，可理解為現代 AI 系統中的代理與系統最佳化。代理是會使用工具、根據結果繼續完成多步工作的軟體。
它聚焦大型語言模型與代理的執行系統。你需要了解模型如何回答，也需要看模型以外的程式、記憶體、工具與排程如何影響工作結果。
從工具使用走到系統控制
CS2680 先使用 Claude Code，再建立自己的代理，接著量測與改善。後半段則接手開放權重模型的服務系統，逐步掌握原本由商業 API 處理的部分。
API 是讓程式呼叫外部服務的介面。使用它時，你能控制問題和工具流程，但通常無法直接改動遠端模型的運算引擎。
改成自己部署模型後，需要負責更多事情，包括如何安排請求、保留可重用的運算資料，以及設備資源不足時怎麼處理。
這條路線讓同一個代理逐步變得可觀察。學習者能看見某次改動是改善模型回答、減少等待，還是只是把工作移到另一個地方。
最佳化先保留成功條件
把答案改短，可能降低費用，卻也可能漏掉任務要求。若完成標準跟著改動，速度變快就難以說明系統是否進步。
因此學習時可以先選一組固定問題與驗收方式，再比較修改前後。這是從課程脈絡延伸的自學方法，不是本文已完成的課堂實測。
例如資料整理需要來源和指定欄位，就把這些要求固定。優化後仍能保留正確資訊，再看模型呼叫次數和完成時間是否下降。
哪些背景適合開始讀這門課？
CS2680 官方將它定位為研究所層級的電腦系統課程，列出 CS61 與至少一門研究所系統課的背景，並預期熟悉 Python 和 PyTorch。
政策頁也說明，電腦系統不等於所有電腦科學知識。課程後半需要理解程序、並行、記憶體、資料庫與網路等執行層概念。
先分清幾個會反覆出現的詞
延遲是完成一次請求需要多久，吞吐量是單位時間能處理多少請求。兩者相關，但把更多工作一起處理，不一定讓每個人都更快得到答案。
快取是把可以重用的資料保留下來，減少再次處理。它是否有效，取決於下一次工作能否使用同樣內容，以及保存需要多少資源。
並行是讓多項工作在時間上重疊。若工具之間有依賴，後一步仍要等待前一步結果，不能只把所有步驟同時送出。
了解這些概念後，讀代理的執行紀錄會更有方向。你會知道某段等待是模型運算、網路回應，還是工作本身必須依序完成。
背景不足時，先補能用到的部分
不必一次記住所有系統名詞，但如果大多數概念都陌生，直接做後半段可能很吃力。CS2680 政策頁提供背景清單，適合當成自己的盤點。
可以先完成一個簡單程式的執行、錯誤處理與紀錄，再接一個模型服務。當你能說明輸入怎麼到輸出，就更容易理解代理多了哪些步驟。
如果只是想學日常提示寫法，公開資料中有可參考的觀念，但完整作業路線並不以短時間學會聊天工具為目標。
對產品或營運人員，則可以先讀量測與成功條件的部分。即使不自己部署，這些概念也能幫你和工程團隊討論「做得好」的實際定義。
五個作業為何沿用同一套系統？
CS2680 作業頁說明，五個作業是一條逐步接管系統的路線。每個階段保留前面建立的經驗，讓後續比較有相同的工作基礎。
先看見代理，再自己寫迴圈
第一階段建立現有代理的網頁介面，觀察工具呼叫與執行過程。這讓學生先以使用者角度，看見代理會成功、失敗或需要繼續處理的地方。
第二階段建立代理迴圈。迴圈可以理解為反覆判斷下一步、使用工具、讀取結果，再決定是否繼續，直到達成任務或遇到停止條件。
自己寫這部分後，就能檢查工具回傳格式不對時會發生什麼。也能決定重試、保留上下文與停止，而不只依賴既有產品的內部邏輯。
自學時可以先從只有一種工具的工作開始，讓結果比較容易核對。工具數量不是目標，能解釋失敗後如何恢復才比較有學習價值。
再最佳化 API，最後接手模型服務
第三階段在模型仍是外部 API 的條件下，改善周邊流程。這讓學習者先思考無法改模型時，還能如何減少不必要的等待與呼叫。
第四階段改成自己服務開放權重模型，再觀察品質與效能變化。第五階段把代理、模型與服務系統放在一起分析，找出跨層改善機會。
這種安排有助於分清改動來源。如果同時換模型、工具和測試題，結果變了，卻難以知道是哪一項造成。
CS2680 每階段有指定規則與交付方式，自學者可以依自己資源縮小工作，但應清楚紀錄與課堂作業不同的條件。
如何把成功率、速度與成本一起量測？
CS2680 公開教材提醒，代理每秒產生更多文字，不一定代表整項工作更快或更省。代理中間還需要讀取工具結果、保存狀態與處理錯誤。
先建立一組可重做的工作
可以選幾項不同難度的任務，固定輸入與期望輸出。每次改動後重跑相同工作，才能區分偶然成功與較穩定的改進。
成功條件要和用途一致。資料查詢不只看句子通順，也看來源與日期；程式任務不只看檔案出現，也看必要行為是否成立。
失敗也要留下，包含卡住、超時、工具錯誤與答案不完整。只保存最好的一次，會讓你在實際使用時對穩定性過於樂觀。
分開看等待位置
可以紀錄整項任務開始與結束，再查看各步驟花費。模型回應慢、外部工具等待久和重試太多，會需要不同修改方式。
如果某項工具結果是後續判斷的依據，就不能為省時間把它跳過。優化要看是否仍完成原本工作，而不是只讓紀錄上的時間縮短。
當兩項工具沒有依賴時，可以研究重疊執行是否有幫助。實際效果仍取決於服務限制與資源，不能僅從「同時做」推論一定更快。
用成功工作分攤成本
模型呼叫費只是成本的一部分。自己的設備、執行環境、儲存和維護，也會影響長期使用，尤其從外部API轉向自架模型後。
如果十次只成功五次，不能只算那五次的費用。把失敗與重做納入，會更接近完成一項可使用工作的平均成本。
人工檢查時間也值得紀錄。一個便宜輸出如果每次都要長時間修改，可能不符合原本想省時間的目的，應把這部分一起比較。
使用 AI 做作業，責任如何保留？
CS2680 政策鼓勵使用 AI，也要求說明用了哪些工具與用途，保留執行紀錄。學生仍要對提交的程式、數據與論述負責。
紀錄要能支持你的結論
如果報告說成本下降，應保存比較條件與原始結果。若說某項程式修改有效，則需要有對應該行為的驗證，而不只貼上一段助手肯定的回覆。
說明工具協助的部分，也能幫助下一位讀者理解過程。例如是用來解釋錯誤、產生候選程式，還是整理實驗紀錄，不必把所有工作混寫成同一層成果。
保留提示與修改過程，有助於找出AI常誤解的條件。它也讓你能解釋最後選擇了什麼，而不只是接收一個看似合理的成品。
看懂提交內容，比完成畫面更重要
當AI寫出程式，學習者應該能說明輸入、輸出與關鍵邏輯。若工具遇到異常，知道為何停止、何時重試，以及哪些部分還未驗證。
讀論文也是同樣道理。摘要中的結論要回到原文條件，不能讓AI把局部實驗擴展成所有情境適用的規則。
自學不必照搬每項課堂評分方式，但可以保留這個要求：每一個重要結論，自己都能找到證據並說明限制。
公開教材、旁聽與正式修課怎麼分？
公開課程網頁、閱讀資料和作業說明，可以提供學習路線。它們不等於任何人自動取得正式學籍、證書或學校計算資源。
CS2680 開課說明指出，旁聽仍需符合學校政策並有教室空間，也沒有為旁聽學生提供運算資源。外部自學者要自行估算環境與費用。
依自己的資源選一個階段
已經會呼叫模型服務的人，可以先做固定任務的成本比較。已有系統背景的人，再研究代理迴圈與部署，逐步增加能自己解釋的部分。
沒有可用GPU時，也可以先讀服務與排程概念，或以較小工作觀察代理行為。不要為了複製課程環境，一開始就購買尚未確定會用到的設備。
公開教材也不意味着所有課堂演講與錄影都可取得。課程政策對訪客演講紀錄與傳播有明確限制，學習和再發布應分別確認。
學習計畫要有可以完成的產出
可以給自己一個階段目標，例如一份能重跑的任務集與比較紀錄。完成後說明成功條件、費用和失敗類型，比只記下讀過幾篇材料更有用。
如果時間有限，先停在能解釋的階段也有價值。看懂一次任務從模型到工具的執行路徑，已經能幫助判斷很多日常AI產品宣傳。
後續換模型或框架時，保留相同任務。學習成果就能延續，不會因為某個工具改版而全部失去比較基礎。
延伸閱讀：AI 程式驗收教學：人工審查、測試與逐步上線，各自能抓到哪些錯誤
延伸閱讀：LangChain 模型分流實驗：Open SWE 成本中位數降低 64%，怎麼做到的？
讀資料時保留版本與日期
CS2680 的課程網頁可能隨學期調整，早期投影片與目前政策也可能不同。讀到作業或資源規則時，先看現行頁面，不要只依流傳截圖安排學習。
自己的練習也可以記下工具版本與測試日期。下次結果改變時，這些資料能幫你區分教材更新、模型變化與自己的程式修改。
Harvard CS2680 常見問題
公開資料等於免費正式修課嗎？
公開教材可作為自學入口，正式修課與旁聽依學校政策。學籍、評分、證書和計算資源不能由網頁公開推論已開放給所有人。
初學者適合直接完成全部作業嗎？
官方定位是研究所系統課程，並有程式與系統背景要求。可以先用背景清單盤點，再挑能完成的階段，逐步補足需要的知識。
學完是否保證代理更快更便宜？
課程提供實作與量測路線，沒有對每個任務保證同樣收益。需要保留成功條件，並用相同工作檢查修改是否改善整體結果。
使用AI後還需要解釋程式碼嗎？
政策鼓勵使用AI，但要求說明工具與保留紀錄，提交者仍需負責。能解釋結果與證據，也是自學時值得保留的標準。
從能解釋的一次任務開始
Harvard CS2680 把AI代理當成可以逐層分析的系統。先保留成功標準，再觀察成本與等待來源，能讓工具使用逐漸變成可驗證的工程判斷。
選一個符合自身背景的階段，留下可重做任務與證據。你不必先完成整門課，才能開始問清楚自己的AI系統為何有效或為何失敗。
免費訂閱 AI 郵報，持續追蹤 AI 學習資源與實作方法。
