标签 | Context Engineering
共计3篇博客
理解大模型：训练上下文 vs 推理上下文 vs 有效上下文这三个概念
模型标称支持100万上下文，不代表它用100万长度训练。实际上训练上下文、推理上下文、有效上下文是三个完全不同的概念。这篇文章从Llama 3、GPT-4、Gemini的真实技术细节出发，聊聊这三者的区别，以及为什么你的AI在长文档中间会开始胡编。
#AI 工具- AI知识
- 大模型
- Context Engineering
上下文窗口：为什么 AI 会「忘事」
上下文窗口就是AI的工作桌面。从4K到1M，桌子扩大了250倍，但AI真正能「看见」的只有开头和结尾那一小块。这篇文章聊聊Lost in the Middle现象，为什么即便有百万token的窗口，AI还是会忘事，以及你能怎么应对。
#AI 工具- 大模型
- RAG
- Context Engineering
Prompt Engineering，用自然语言给AI编程的技术
Prompt Engineering不是那些满天飞的万能模板，而是一种用自然语言给AI编程的能力。五个核心原则、Context Engineering的进化、以及为什么你说话的方式决定了AI能帮你到什么程度。
#AI 工具- AI知识
- 大模型
- Prompt Engineering
- +1