上下文工程

望文生義。

上下文工程是一套持續反覆運算的”工程方法”

模型與數據持續變化，須版控提示詞與模型參數

「把提示當作可以反覆運算的工程物件」， 到「通過示例、思維鏈、格式約束等手段提高輸出品質」， 再到「在團隊和產品層面建立提示的文件化與測試機制」。

核心環節

• 明確任務與目標
• 設計初始提示
• 設定模型參數（如溫度、最大輸出長度等）
• 觀察輸出效果
• 根據結果調整提示或參數
• 在產品中集成和維護

決定輸出品質因素

• 提示文字
• 模型本身/ 上下文
• 模型參數

Few-shot

提供多組示例（常見是 3–5 個），整體效果往往顯著更好 少示例分類任務中，示例中各個類別的出現順序應盡量打亂，避免過度依賴”列表順序”

推理模式

• Chain-of-Thought（思維鏈）： 步驟推理
• 提示中明確要求模型”逐步思考”
• Step-back Prompting（後退式思考）： 整體抽象
• 先讓模型總結當前任務的本質要素
• 再基於這些抽象要素來給出方案或回答

輸出格式

• 按段落分結構化回答
• 使用項目符號清單（bullet points）
• 嚴格遵守某種範本
• 輸出符合 JSON 或 XML 的結構化數據

模型參數

• 需要穩定、可復現答案的任務（如分類、解析、規則型回答）

  溫度設得較低，使輸出更確定

• 多樣性和創造性的任務（如文案生成、創意內容）

  適當提高溫度或調整 Top-P，讓模型有更多探索空間

• 同時要限制最大輸出長度，避免出現過長、不聚焦的回答，也能節省資源

---

如果你覺得這篇文章很棒，請你不吝點讚 (ﾟ∀ﾟ)