เคร ื่อง มือ LL M เก ร ด ผล ิต
วิธี การ เขียน โปร แก รม
เน ื่อง จาก ความ เข้าใจ และ ความ สามารถ ในการ ผล ิต ที่ แข็ง แก ร ่ง ของ LL Ms ค ล ื่น นี้ การ เขียน โปร แก รม คํา สั่ง ที่ ให้ ความ สําคัญ กับ ราย ละ เอ ียด ดูเหมือน จะไม่ จําเป็น อีก ต่อไป และ การ เขียน โปร แก รม แบบ ประ กาศ ที่ ม ุ่ง เน ้น ไปที่ กระ บ วน การ หรือ ความ สามารถ ของ ท ่อ สําหรับ การ จัด เร ียง ต รร ก ะ ทาง ธุ รก ิจ ได้ กลายเป็น วิธี การ " เขียน โปร แก รม " กระ แ ส หลัก ดัง นั้น เรา จึง เห็น ว่า มือ ใหม่ รวม ถึง L CE L , D SP y และ Sem an tic - k ern el เ ริ ่ม ให้ ความ สนใจ กับ " ขึ้น " และ ม ุ่ง เน ้น ไปที่ ความ สามารถ ในการ จัด เร ียง ต รร ก ะ ทาง ธุ รก ิจ ซึ่ง อาจ บ ่ง ช ี้ ถึง วิธี การ DA G ที่ คล ้าย กับ Air f low จะ กลายเป็น กระ บ วน ท ัศ น์ การ เขียน โปร แก รม ร ุ่น ใหม่ หรือไม่ ?
โดย รวม แล้ว
เคร ื่อง มือ แจ้ง เตือน
Lang Sm ith หรือ Azure Prom pt F low
ภาษา การ เขียน โปร แก รม
Python หรือ Ja vas cript
ก รอบ การ พ ัฒ นา / เคร ื่อง มือ จัด เร ียง
Lang chain หรือ เค อร์ เน ล Sem it ic
ก รอบ API / ส ถ า ป ัต ยก รรม กล ่อง บริ การ
Fast API หรือ Next . js
ผู้ จัด จํา หน ่าย ค ลา วด ์ โ ฮ ส ติ ้ง
การ แสดง ผล (A WS Lam ada) หรือ Ver cel
การ สร้าง แอ ป พ ลิ เค ช ัน LL M
| 分类 | Name | Star数量 | 备注 | 学习 |
|---|---|---|---|---|
| 框架 | LangChain | 77 | 【必学】 | * |
| LlamaIndex | 29 | 【必学】专注于RAG，Python，JS SDK比较差 | * | |
| Semantic-kernel | 17 | 【不确定？】C#，Python，Java | ? | |
| haystack | 13 | 有了LangChain可能就不需要这个了 | ||
| DSPy | 7 | 太学术了？The framework for programming—not prompting—foundation models | ||
| Agent | SuperAgent | 4 | 这个感觉很专业，有时间再学习 | ? |
| Rift | 3 | 专门针对程序员 | ||
| AutoGen | 22 | |||
| Camel | 4 | |||
| GPTs | OpenGPTs | 6 | LangChain出品 | |
| 低代码 | LangFlow | LangChain可视化 | ||
| LiteLLM | ||||
| Flowise | 21 | |||
| Langflow | 14 | |||
| PromptChainer | 商业 | 感觉做的很专业 | ||
| RAG | vectara | 闭源 | 非常专业的RAG商业软件；也有开源项目；用户可以将PDF、Word、PPT、RTF等文件数据上传至Vectara平台中，构建数据搜索引擎。 |
การ เก็บ และ การ สัง เก ต
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| 观察 | Obsidian Copilot | 一个有趣的方法，用于如何使用语义搜索和 OpenSearch 的 BM25 实现 | |
| Tanuki | 一个使用装饰器进行数据验证的 LLM 框架 | ||
| griptape | 1.5 | 一个具有稍微更好的内部编码标准的 langchain 替代品 | |
| guidance | 16 | 比传统的提示或链接更有效地控制现代语言模型 | |
| intructor | 3.6 | ||
| Llmflows | 0.5 | langchain 的另一个替代品，但在定义工作流程方面有一个有趣的方法 | |
| txtai | 6.5 | 有用于聊天、医学/科学论文工作流程、开发者语义搜索以及标题和故事文本语义搜索的衍生产品 | |
| LiteLLM | 5.7 | 一个简单、轻量级的 LLM 封装器 | |
| 归档 | Chidori | 1.2 | |
| AutoChains | 已经3个月没更新 | ||
| MiniChain | 1.2 | 已经3个月没更新 | |
| SimpleAIChat | 3.3 | 已经7个月没更新 |
การ ตรวจ สอบ และ การ วิ เค ราะ ห์
บริ การ LL M ใน ระ ดับ การ ผล ิต ต้องการ :
-
การ แก้ ไข จุด บ ก พร ่อง พร้อม ท์
-
การ จัดการ เว อร์ ช ัน พร้อม ท์
-
ตัว ช ี้ ว ัด ที่ เกี่ยว ข ้อง กับ ระบบ การ ทด สอบ / การ ตรวจ สอบ
-
การ บริ หาร จัดการ ช ุด ข้อมูล
-
การ ตรวจ สอบ และ สถ ิ ติ ตัว ช ี้ ว ัด ต่างๆ : การ เข้า ชม , ระ ยะ เวลา ในการ ตอบ สน อง , ค ่า ใช้ จ่าย ของ โท เค ็น ฯ ล ฯ
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| SaaS | LangSmith | N/A | |
| 开源 | LangFuse | 2 | |
| 开源 | Prompt Flow | 7 | |
| Helicone | 1.2 |
แ พล ต ฟ อร์ ม การ บ ํา ร ุง รักษา แอ พ พ ลิ เค ช ัน LL M ระ ดับ การ ผล ิต
- ** L ang Smith ** : แ พล ต ฟ อร์ ม อย่าง เป็น ทาง การ ของ Lang C hain , บริ การ Saa S , ** **
- ** [ L ang F use ] (htt ps ://git hub . com/lang f use/lang f use) ** : ** + Saa S , Lang Smith , สามารถ บู ร ณ าการ Lang C hain , Open AI API (2. 1 K)
- ** [ P rom pt F low ] (htt ps ://github.com/microsoft/promptflow? tab = read me - ov - file) ** : ** + Azure AI พร ้อม การ บู ร ณ าการ Sem an tic Kern el (7. 4 K)
การ ไ หล ของ โปร แก รม
เร ียน รู้
https://microsoft.github.io/promptflow/how-to-guides/quick-start.html
ส่วน ประ ก อบ ของ UI
LangUI(1.6K)
agentlabs(0.5K)
อ ื่น ๆ
| 分类 | Name | Star数量 | 备注 |
|---|---|---|---|
| LCEL | |||
| Python 模板语言 | Jinja2 | ||
อ้างอิง
| 分类 | Name | Star数量 | 备注 | |
|---|---|---|---|---|
| 框架 | Obsidian Copilot | 一个有趣的方法，用于如何使用语义搜索和 OpenSearch 的 BM25 实现 | ||
| Tanuki | 个使用装饰器进行数据验证的 LLM 框架 | |||
| LiteLLM | 5.7 | 一个简单、轻量级的 LLM 封装器 | ||
| AutoChain | 1.7 | langchain 的另一个替代品 | ||
| griptape | 1.5 | 一个具有稍微更好的内部编码标准的 langchain 替代品 | ||
| txtai | 6.5 | has spinoffs for chat, workflows for medical/scientific papers, semantic search for developers and semantic search for headlines and story text 有用于聊天、医学/科学论文工作流程、开发者语义搜索以及标题和故事文本语义搜索的衍生产品 | ||
| Llmflows | 0.5 | langchain 的另一个替代品，但在定义工作流程方面有一个有趣的方法 | ||
| guidance | 16 | 比传统的提示或链接更有效地控制现代语言模型 | * | |
| 库 | intructor | 3.6 | * |
** E 2 B : ก รอบ และ เครื่อง มือ สําหรับ ผล ิต ภ ั ณ ฑ ์ AI **
| Category | Tools/Platforms |
|---|---|
| Monitoring, Observability, Analytics | Langsmith, Helicone, langfuse, context |
| Frontend | AgentLabs |
| Runtime for LLMs | E2B |
| Building frameworks & platforms | Langchain, Haystack by deepset, Superagent, Poe, GenWorlds, LiteLLM, Rift by Morph, AutoGen, Vercel AI SDK, OpenGPTs, Huggging Face Agents, Fixie |
| Data integration, memory management | vectara, LlamaIndex, ABACUS.AI, cadea, SID Memory |
| API and routers for LLMs | Genoss GPT, Martian, OpenRouter |
| Libraries for building AI products | CAMEL, ChatterBot（5年没更新了） |
| Orchestration | AGIXT |
| Building & deploying LLMs | BANANA |
