Jacob Palmers

可能大家都错了，看到过Claude，cursor的系统提示词都长达几万字，我们是不是需要扩展自己的提示词系统，而不是随便写提示词了？ YC重磅揭秘：顶级AI公司是如何“驯服”LLM的？6页+提示词、XML、元提示只是冰山一角！ 想让你的AI助手不再“人工智障”，真正成为得力干将？ YC最新分享了那些估值上亿的AI初创公司都在用的高级提示工程秘诀。核心思路：把写提示词当成开发核心IP来对待！ 深度挖掘顶尖玩家的“提示词秘笈”： 1，顶尖AI公司普遍采用“经理式”提示词。这不再是三言两语的简单指令，而是长达6页以上的详尽文档！ 内容细致入微，全面涵盖任务描述、LLM所需扮演的角色、具体限制条件、预期输出格式，甚至包括需要避免的常见错误。这就像为AI“新员工”量身打造的入职培训材料，确保它从一开始就深刻理解目标与边界。 2，“角色扮演”是灵魂：精准定位LLM的言行举止： 明确的角色提示是锚定LLM输出风格和行为模式。一个清晰、具体的人设能让LLM的表现与任务需求高度统一。例如，当你指示LLM扮演一位“经验丰富的客户支持经理”，它会自然地调整语气、采用更专业的措辞，并优先考虑解决用户问题，而不是仅仅给出冰冷的技术回复。 3，拆解复杂任务，引导LLM“步步为营”： 面对复杂的工作流程，不要让LLM一步到位。应该预先定义好任务，并清晰地规划出执行路径，将大任务分解为一系列可管理、可预测的小步骤。通过明确引导LLM逐步完成每一个子任务，可以显著提升其逻辑推理的准确性和整体任务的完成质量。 4，用结构化标签规范输出，告别“格式混乱”： 为了确保LLM输出内容的一致性和可用性，使用Markdown、XML风格的标签或者JSON格式来定义输出结构至关重要。例如，Parahelp公司就巧妙运用了像 这样的自定义标签，来强制LLM按照预设的格式和规范生成响应，便于后续处理和验证。 5，“元提示”：让LLM成为你提示词的“优化大师”： 这是一种非常强大的技巧——利用LLM自身来迭代和优化你的提示词。具体做法是：将你当前的提示词、LLM基于该提示词生成的输出、以及你期望的理想输出（如果有的话）一同提供给另一个（或同一个）LLM实例，然后要求它分析差异、找出问题并提出改进建议。只要给予足够的上下文信息，LLM在自我优化和调试提示词方面能展现出惊人的能力。 6， “少样本学习”的力量：真实案例塑造卓越行为： 通过提供少量高质量的示例（Few-shot prompting），特别是那些包含了挑战性或边缘情况的真实案例，可以极大地提升LLM在特定任务上的准确性和鲁棒性。例如，初创公司Jazzberry会将一些棘手的软件bug报告作为样本喂给LLM，以此来“训练”LLM学习如何更有效地识别和处理类似问题。 7， “提示词折叠”技巧，优雅管理多步骤AI代理： 对于需要多个步骤、多个LLM调用才能完成的复杂AI代理或工作流，可以使用“提示词折叠”技术。这意味着一个初始的、概括性的提示词可以触发生成一系列更深层、更具体的子提示词，每一个子提示词对应工作流中的一个特定环节。这种分层管理方式，让复杂AI系统的构建和维护更加有序和高效。 8，设置“逃生舱口”，让LLM学会“认怂”： 在提示词中明确指示LLM，当它对某个问题不确定或无法找到可靠答案时，应该主动承认自己的局限性，而不是强行编造（即“幻觉”）。这不仅能有效避免错误信息的传播，更能显著提升用户对AI系统的信任感。 9，重视“思维链”与调试信息，洞察LLM的“内心戏”： 要求LLM输出其推理过程的日志（即“思维链”或Thinking Traces）以及相关的调试信息，这对于理解模型是如何一步步得出结论至关重要。这些“内心戏”是诊断问题、优化提示词、以及进行模型迭代的宝贵资料。 10， “评估体系”才是王道：比提示词本身更珍贵的资产： 精心设计的提示词固然重要，但一套完善的评估体系（Evals）——即针对提示词的全面测试用例集合——其价值往往更高。这些测试用例应该覆盖各种常规及边缘场景，用于持续衡量和基准测试提示词在不同情况下的可靠性和稳定性。它们是确保AI应用质量的核心保障。 11， “大小模型协同”策略：兼顾质量与成本效益： 一个非常实用的工程实践是：在提示词的开发和调试阶段，可以充分利用能力更强的大型语言模型进行精细打磨和优化；一旦提示词达到理想效果，再尝试将其“蒸馏”或适配到规模更小、运行成本更低的模型上，用于实际的生产环境。这样可以在保证输出质量的同时，有效控制运营成本，实现效率与效果的最佳平衡。 不能再把提示词当成简单的指令了！像顶级AI公司那样，系统化、工程化地构建和优化你的提示词体系，才能真正释放LLM的巨大潜力，让AI为你创造更大价值！