AI Security

AI Security adalah cabang keamanan siber yang berfokus pada melindungi sistem kecerdasan buatan dari ancaman dan serangan. Seiring adopsi AI yang masif di berbagai industri, keamanan AI menjadi prioritas utama karena sifat unik dari kerentanannya.

Ancaman pada AI/ML:

• Adversarial Attacks - Input yang dimanipulasi untuk mengelabui model AI. Contoh: menambahkan noise kecil pada gambar yang tidak terlihat manusia tetapi menyebabkan model salah klasifikasi.
• Data Poisoning - Data training dikotori dengan sampel berbahaya sehingga model belajar pola yang salah. Dapat terjadi pada fase training atau saat fine-tuning.
• Model Inversion - Menyerang model untuk mengekstrak data training yang sensitif. Risiko tinggi untuk model yang dilatih dengan data PII.
• Model Stealing - Mencuri model dengan mengirimkan query berulang dan merekonstruksi parameter model.
• Supply Chain Attacks - Menyerang melalui komponen pihak ketiga seperti pre-trained model dari hub publik.

Framework Keamanan AI:

• NIST AI Risk Management Framework (AI RMF) - Framework untuk mengelola risiko AI
• OWASP ML Top 10 - Daftar 10 risiko keamanan ML teratas
• MITRE ATLAS - Knowledge base adversarial attacks terhadap AI

Mitigasi: Validasi input, adversarial training, differential privacy, model monitoring, secure development lifecycle untuk AI.