返回
当前 - 选择题 - 大模型与工业智能架构
题号:0020260500039
单选题
2026年5月第39题

AI 投毒攻击可能导致系统产生不存在或错误的答案,其常见来源是(训练数据污染或提示词注入)。

问题(1)
浓缩知识点

AI 投毒攻击通过污染训练数据、检索数据或提示词上下文,使模型学习或引用错误信息,从而生成不存在或错误答案。数据污染和提示词注入都是常见风险来源。AI 安全题要区分训练数据污染、提示词注入、检索增强上下文污染和普通系统维护操作,真正影响模型输出可信度的是能进入训练、检索或生成上下文的污染源。AI 投毒攻击通常发生在训练数据、微调数据、反馈数据或知识库被恶意污染时,会导致模型学习偏置、后门触发或生成错误结论。防护重点包括数据来源校验、样本清洗、异常检测、训练过程审计和上线后的输出监控。

正确答案
C

本题考察的是AI 安全

AI 投毒攻击通过污染训练数据、检索数据或提示词上下文,使模型学习或引用错误信息,从而生成不存在或错误答案。数据污染和提示词注入都是常见风险来源。

选项 A:正常化索引。索引规范化或优化属于数据库/检索性能管理,不会直接构成 AI 投毒来源。
选项 B:事务提交。事务提交用于保证数据库操作持久化和一致性,不是模型产生错误答案的投毒来源。
选项 C:训练数据污染或提示词注入。投毒攻击可通过污染训练数据、检索上下文或提示词,让模型学习或引用错误信息。
选项 D:磁盘碎片整理。磁盘碎片整理是存储维护操作,与 AI 模型输出被污染无关。

因此,选项 C 正确。

联系我们
隐私协议
用户协议
微信公众号
知乎
小红书
浙ICP备2021029036号
@2022-2026
嘉兴市安芯网络科技有限公司 版权所有