上下文窗口(Context Window)是大型語言模型(Large Language Models,LLM)和自然語言處理(NLP)領域中的一個核心概念,指的是模型在處理或生成文本時,能夠同時考慮的最大資訊範圍。換句話說,上下文窗口決定了模型可以「看到」多少文字或詞元(token),進而理解上下文、捕捉語義關聯和生成連貫內容的能力。
大型語言模型(Large Language Models,簡稱LLM)是一種基於深度學習技術的人工智慧系統,專門用於理解和生成類似人類語言的文本。這類模型通過對海量文本數據進行預訓練,學習語言的結構、語義以及上下文關係,因而能夠執行多種自然語言處理任務,如文本生成、翻譯、問答、摘要及對話等。LLM的出現是人工智慧在語言理解領域的一次重大突破。