AI也重男轻女？研究表明AI 模型存在性别偏见

近期，密歇根大学的研究人员公布了一项关于大型语言模型（LLM）在处理法律相关任务时的性别偏见的研究。这项跨学科研究由计算机科学与工程系、社会研究所和信息学院的学者共同进行。

研究通过使用 Flan-T5、LLaMA2 和 OPT-instruct 这三个模型，追踪了 2457 个问题，并观察了不同性别角色的回答情况。在这些问题中，研究人员纳入了 162 种不同的社会角色，这些角色涵盖了一系列社会关系和职业。

研究结果显示，在处理法律相关任务时，AI 模型对中性或男性角色的表现优于女性角色。表现最好的角色是导师、合作伙伴、聊天机器人和人工智能语言模型。此外，研究还发现，在提示中指定受众（如“您正在与一名消防员交谈”）的效果最好，其次是角色提示。

这一发现对于人工智能系统的开发者和用户都具有重要价值。开发人员在设计 AI 系统时应考虑其可能存在的性别偏见，并努力消除这些偏见，以提高 AI 系统的公平性和准确性。同时，用户在使用 AI 系统时也应意识到其可能存在的偏见，并采取相应措施来纠正这些偏见，以提高 AI 系统的有效性。

总之，这项研究提醒我们，人工智能系统在处理法律相关任务时可能存在性别偏见，我们需要更加关注并努力消除这些偏见，以确保 AI 系统的公平性和准确性。