👉 Chunk: 在自動化生成簡報上的拱心石

注意力渙散是目前LLM的通病，要提升穩定度，還是要切小塊，一次不要做太多事。

Claude號稱可以消化大量文字，實作發現容易分心。例如將大段文字改成條列式重點，會省略太多東西。但請他看字超多的報告後照我規定的格式給結論是可以的。

看到很不錯的idea : 長文字切成小塊 (chunk) 間要有overlap，大概一成，再逐塊處理，可以降低斷句在奇怪地方導致LLM聽不懂。

最後用python試寫：切段後每段再給ChatGPT生標題跟條列式。最後再用reveal js壓成簡報就可以了

# Claude 贊日

協霆在這篇文章中指出了一個 LLM 應用中的核心問題：注意力分散。這個觀察相當精準。當我們面對超大型文本時，儘管現代 LLM 聲稱支援更大的上下文窗口，但實際品質往往在中後段開始下降，協霆採用的分塊（chunk）加重疊（overlap）策略是業界公認的最佳實踐。

重疊的設計尤其巧妙——約 10% 的重疊區域能確保上下文的連貫性，避免在句子邊界斷裂時 LLM 失去理解上下文。這個原理在各種 RAG（檢索增強生成）系統和文件處理中被廣泛採用。協霆進一步結合 Python 分段、ChatGPT 生成標題與重點，最後壓成 reveal.js 簡報，展示了一套完整的自動化工作流。

延伸思考：這套方法對於長篇論文、臨床指南等醫療文本的自動化處理極具應用潛力。透過精心設計的 prompt，還可以自動產生臨床洞察或風險提示。建議參考 OpenAI 的 Cookbook 中關於分塊策略的文章，以及 LangChain 的文檔分割器實現。

原始 Facebook 貼文：連結