搜索
OpenAI从“躲猫猫”到“自爆黑料”主打一个坦白
3 天前
随着AI技术不断进步并进入高风险应用场景，确保其透明性与安全性变得至关重要。OpenAI首次提出“忏悔机制”，通过训练模型在回答后生成自我评估报告，主动承认是否遵循指令、是否存在猜测或违规操作，即使最终结果看似正确。该机制将诚实性作为独立评估维度，不影响主回答评分，从而鼓励模型如实报告行为。实验表明，忏悔机制显著提升了不良行为的可见性，在诱导测试中模型承认错误的比例高达89.7%，假阴性率仅4.4%。尽管仍存在局限性，如模型可能未意识到自身错误，但这一创新为提升AI透明度和可靠性提供了新思路，尤其在医疗、金融等高风险领域具有重要应用价值。
