Beberapa insiden terbaru menggambarkan bagaimana kelalaian kecil dalam keamanan AI dapat berujung bencana. Pada 2023, satu tautan berbagi Azure yang salah konfigurasi di repositori riset AI milik Microsoft mengekspos 38 terabita file internal dan lebih dari 30.000 pesan Teams.

Pada tahun yang sama, Samsung sempat melarang penggunaan perangkat AI generatif setelah para insinyurnya menyalin desain cip rahasia ke dalam ChatGPT, yang berisiko menimbulkan kebocoran sensitif.

Bahkan penyedia AI sendiri pun rentan. Pada Maret 2023, bug di layanan ChatGPT milik OpenAI sempat mengekspos beberapa alamat pembayaran dan sebagian detail kartu milik beberapa pengguna.

Meski sudah ada peringatan semacam itu, 87 persen perusahaan masih belum memiliki kebijakan atau proses tata kelola untuk memitigasi risiko AI, walau kompromi rantai pasokan telah memicu hampir sepertiga dari kebocoran terkait AI.

Untuk mengatasi celah-celah tersebut, para analis menekankan bahwa keamanan dimulai dengan identitas. Organisasi harus menerapkan manajemen kredensial yang ketat untuk staf dan algoritma, merotasi kunci secara berkala, dan mengenkripsi semua data yang digunakan untuk melatih atau memberi perintah pada model AI.

"Pemeriksaan rutin AI" (AI health checks) secara kuartalan yang melibatkan para pemimpin bisnis dan keamanan dapat mengidentifikasi proyek yang tidak sah, sementara platform pendeteksian ancaman otomatis membantu tim keamanan yang kekurangan staf membedakan ancaman nyata dari alarm palsu.

Laporan tersebut menyimpulkan bahwa "AI untuk keamanan dan otomatisasi menurunkan biaya, sementara AI bayangan menaikkannya." Organisasi dengan (sistem) kontrol yang matang berhasil mengurangi biaya kebocoran hingga hampir 40 persen.

Laporan itu menyebutkan bahwa dengan rata-rata kebocoran di AS yang kini menelan biaya 10,22 juta dolar serta regulator dari Brussel hingga Washington yang sedang merancang aturan baru untuk algoritma yang haus data, dewan memiliki motif finansial yang jelas untuk memperlakukan setiap model, catatan, dan antarmuka obrolan sebagai aset penting yang dilindungi oleh autentikasi multifaktor, tautan berbagi terbatas waktu, dan audit berkelanjutan sebelum gelombang mesin pintar berikutnya tiba.