English Version
20267
文章阅读
对抗扰动与差异传递 ——浅析大语言模型因果推理与因果性理论的互动关系

摘 要:因果性理论驱动大语言模型因果推理技术的发展,更多的不是直接体现在对因果关系本质特征的建模上,而是在评估和提升大语言模型因果推理能力的扰动技术和对抗性学习中。通过扰动训练数据中的非因果相关变量,可以评估和提升模型识别正确因果关系的能力,避免虚假相关,通过扰动训练数据中的因果相关变量,可以评估和提升模型的反事实推理能力。扰动是一种制造差异,并追踪差异传递的过程,这深化了对因果性理论的理解,同时,也跳出大语言模型本身,通过动态的外部介入,将干预、反事实等开放性、操作性的因果关系本质特征纳入到大语言模型与人类因果推理、因果认知的互动关系中来。


关键词:因果相关变量 扰动技术 常态 传递关系


本文下载地址: 对抗扰动与差异传递 ——浅析大语言模型因果推理与因果性理论的互动关系
关于我们
© 2021 中国科学院大学版权所有 地址:北京市石景山区玉泉路19号(甲) 邮编:100049