使用大模型实现一个聊天机器人思路以及困难点
实现简单但复杂的是聊天机器人功能。使用大模型服务商提供的SDK或API接口即可快速启动；主要通过system和user角色定义对话，并利用会话记录确保上下文理解；应用场景广泛，但需解决知识不足和技术准确性的挑战。
AI探索时代
讨论一个技术问题，大模型流式返回
最近在对接GPT实现一个功能过程中遇到流式返回的问题，并介绍了从后端到前端如何适配流式返回的方案。文中提到websocket和SSE协议的区别以及使用Flux处理大模型流式返回的技术细节。
大模型超长窗口上下文与检索增强生成——RAG
本文介绍了大模型窗口与检索增强技术的关系及其重要性，并讨论了如何解决长对话问题。强调了大模型窗口的重要性以及其限制条件，指出大模型窗口并不是越大越好，更不可能无限大。同时探讨了上下文窗口和RAG技术在医疗等特殊场景中的应用及准确性保证问题。
关于两次大模型文本生成的尝试，以及由此带来的思考
最近通过对比大模型和普通工具写公众号文章的效果发现，大模型在内容质量上有显著提升。实验表明大模型不仅能写出高质量的文章，还能带来更高的阅读量。作者借此强调人工智能技术的发展是一个循序渐进的过程，并鼓励人们尽早学习和应用人工智能技术。