大型語言模型（LLM）是經過海量文字與程式碼資料訓練而成的人工智慧模型，目的是理解人類語言並產生自然語言內容。GitHub 的文章指出，LLM 採用 Transformer 架構，內部擁有數十億個參數，能分析遠比早期規則式或統計式模型更複雜的語言模式，是自然語言處理技術的一次根本性進展。
訓練過程分為幾個階段：先用網頁、書籍與程式碼庫等龐大資料做預訓練，再用特定領域的文字進行微調，最後透過指令調校與「人類回饋強化學習」（RLHF）讓模型更貼近使用者的實際需求。運作時，模型會先把文字切成詞元（token）並轉換成向量嵌入，再透過多頭注意力機制與前饋神經網路層層運算，最後輸出預測結果。
文章列舉 LLM 可以做到文字生成、摘要、對話、問答、程式碼生成、多語言翻譯與多模態處理等七種能力，實際應用從客服機器人、文件自動化、企業內部搜尋，到加速軟體開發與行銷內容產生都有。文中也提到像 OpenAI ChatGPT、GitHub Copilot、Google Gemini、Anthropic Claude 與 Meta LLaMA 這類常見的 LLM 工具，並坦言偏見、幻覺、運算成本與環境永續性仍是目前公認的挑戰。
對正在學程式的孩子來說，這篇文章比較偏向產業科普，說明的是 LLM 背後的技術原理，而不是教怎麼寫程式。不過理解「電腦怎麼學會讀懂文字並產生回應」，有助於孩子更有自覺地使用 GitHub Copilot 這類 AI 輔助工具，知道它是根據訓練資料做預測，而不是真的「懂」，使用時仍需要自己判斷與驗證結果。
AI大型語言模型開發工具