【DS検定対策】AIの「教育」を裏から歪める！データポイズニング（データ汚染）の脅威
AIモデルの性能や賢さは、学習させる「データの質」で決まります。もし、その学習データの中に、最初から悪意ある偽データや罠が仕込まれていたらどうなるでしょうか？ AIの教育プロセスそのものを汚染する攻撃、それが「データポイズニング」です。
1. 【 問題 】
機械学習モデルの構築段階において、攻撃者がトレーニングデータ（学習データ）の中に、意図的に誤分類を誘発するような不正データや特定のパターン（バックドア）を混入させ、学習後のモデルの予測精度を低下させたり、特定の条件下で攻撃者の意図通りの誤判定を起こさせたりするセキュリティ上の脅威を何と呼ぶでしょうか？
① データの蒸留（Distillation）
② データポイズニング（Data Poisoning）
③ モデル転移（Transfer）
④ Adversarial Examples（敵対的サンプル）
2. 【 解答 】
3. 整理：データポイズニングの2大手法
データポイズニングは、攻撃者が「モデルをどう壊したいか」によって、大きく2つのアプローチに分類されます。試験でもこの目的の違いが問われます。
| 攻撃のタイプ | 目的と仕組み | 具体的な被害例 |
|---|---|---|
| 可用性攻撃 （全体的な破壊） |
モデル全体の予測精度をガタガタに低下させ、AIシステムそのものを使い物にならなくする攻撃。 | スパムフィルターの学習データに大量の正常なメールを「スパム」として誤学習させ、フィルターの機能を崩壊させる。 |
| 整合性攻撃 （バックドアの設置） ★試験で頻出！ |
普段は高い精度で正常に動いているように見せかけ、特定の「特定のマーク（トリガー）」を見た時だけ、狙った誤判定を起こさせる罠（バックドア）を仕込む攻撃。 | 自動運転の画像認識AIに「右下に小さなシールが貼られた一時停止標識」を「制限速度60km」と誤学習させる。シールがない標識は正しく認識するため、開発者が気づきにくい。 |
4. なぜ防ぐのが難しいのか？（DS実務との繋がり）
現代の大規模なAI（LLMや画像生成AI、高度な予測モデル）は、インターネット上の膨大なWebスクレイピングデータや、ユーザーから収集した大量のログデータを元に学習しています。
数千万〜数十億件にのぼる膨大なデータの中から、「数件〜数十件だけ巧妙に混ぜられた、人間が見ても違和感のない汚染データ」を完璧に検出し、排除（データクレンジング）することは技術的に極めて困難です。そのため、データの取得元（データサプライチェーン）の信頼性を担保することや、学習前のアノテーション（ラベル付け）の監査が、現代のデータエンジニアリングにおいて極めて重要視されています。
5. DS検定形式：実戦4択クイズ
問：機械学習のセキュリティにおいて、データポイズニングのように「学習フェーズ（Training Phase）」のデータを操作する攻撃に対し、すでに学習が完了した既存のモデルに対して、人間の目には判別できないほどの微小なノイズを加えた入力データを与えることで、意図的に誤判定を誘発させる「推論フェーズ（Inference Phase）」の攻撃手法を何と呼ぶか。
① バックプロパゲーション（誤差逆伝播法） ② サポートベクトルマシン ③ 敵対的サンプル（Adversarial Examples） ④ バッチ正規化
【 正解： ③ 】
解説： 推論時の入力データを細工する**「敵対的サンプル（Adversarial Examples）」**です。 試験対策として、「学習データを汚染する ＝ データポイズニング」、「完成したモデルへの入力を細工する ＝ 敵対的サンプル」という、攻撃フェーズの違いによる分類を確実に整理しておきましょう！
6. まとめ
DS検定やG検定において「学習データに悪意あるデータを混入させ、モデルに脆弱性を埋め込む」という主旨の問題が出たら、正解は「データポイズニング」一択です。AIのセキュリティは、システムのコードだけでなく、データそのものの信頼性まで守る必要があるという、データサイエンス特有の防御の難しさを理解しておきましょう！
