安全性

OpenAI的强化微调：RL+Science 创造新神还是灭霸？

作者

OpenAI 发布了新的 Reinforcement Finetuning 方法，用于构造专家模型。只需上传少量数据，就能通过微调找到最合适的决策。该技术基于已广泛应用于 Alignment 和 Coding 的方法，并且适用于医疗诊断和科学决策等领域。不过，也引发了对潜在风险的关注。