Laporan pertengahan tahun 2026 daripada firma keselamatan siber KELA menunjukkan landskap keselamatan AI kini memasuki fasa baharu. AI bukan lagi sekadar alat yang membantu penyerang, malah model AI sendiri kini menjadi sasaran serangan.
Antara risiko yang semakin meningkat ialah:
- Prompt injection terhadap AI agent.
- Kecurian model dan data latihan.
- Penyalahgunaan AI untuk menghasilkan serangan siber yang lebih canggih.
- Manipulasi output AI bagi menyebarkan maklumat palsu.
Laporan itu turut menegaskan bahawa organisasi yang membangunkan atau menggunakan AI perlu memberi perhatian yang sama kepada keselamatan AI seperti mereka melindungi aplikasi dan pelayan tradisional.