
摘 要:作为唯一能够通过内在机制直接引导和塑造大语言模型输出的新兴技术角色,提示工程师在大语言模型全生命周期中承担着需求对齐、输出精准调控及人机交互架构设计的核心职能。随着技术介入方式从传统参数调优转向大语言模型认知架构塑造,提示工程师的职能边界已从技术实践延伸至伦理治理维度。这种转变要求提示工程师必须正视提示工程特有的伦理挑战,包括生成毒性内容、恶意提示注入攻击、系统性偏见强化及自动化提示工程工具失控等风险。因此,提示工程师需实现技术执行者与伦理治理者的双重角色融合,通过负责任地编写提示、治理恶意提示操控、检测和治理偏见及对自动提示工程师实施有意义的人类控制,确保大语言模型技术的稳健发展与良性应用。
关键词:提示工程师 伦理责任 大语言模型 伦理治理