大模型

使用大模型实现一个聊天机器人思路以及困难点

作者

实现简单但复杂的是聊天机器人功能。使用大模型服务商提供的SDK或API接口即可快速启动；主要通过system和user角色定义对话，并利用会话记录确保上下文理解；应用场景广泛，但需解决知识不足和技术准确性的挑战。

京东公布10款 AI 营销应用产品，目前已训练最高810亿参数大模型｜

作者

京东发布基于AI大模型技术的智能营销平台，涵盖客服、导购、视频混剪、数字人等多种产品。可帮助80万商家每天完成上千万次智能交互，转化率提升30%。京东云言犀已在内部调用59%，训练了从30亿到810亿规模的大模型。大模型发展仍处于早期阶段，多模态潜力仍未完全释放。

大模型超长窗口上下文与检索增强生成——RAG

作者

本文介绍了大模型窗口与检索增强技术的关系及其重要性，并讨论了如何解决长对话问题。强调了大模型窗口的重要性以及其限制条件，指出大模型窗口并不是越大越好，更不可能无限大。同时探讨了上下文窗口和RAG技术在医疗等特殊场景中的应用及准确性保证问题。