Di tengah adopsi masif agen AI dalam operasional perusahaan, IBM resmi meluncurkan solusi perangkat lunak pertama di industri yang mengintegrasikan keamanan dan tata kelola AI secara terpadu. Solusi ini dirancang untuk membantu perusahaan menjaga sistem AI, termasuk Agentic AI, agar tetap aman, patuh regulasi, dan bertanggung jawab dalam skala besar.
Peluncuran ini menandai integrasi antara dua produk unggulan IBM, yakni watsonx.governance dan Guardium AI Security, yang kini bekerja bersama untuk memberikan pandangan risiko menyeluruh dalam pengelolaan AI perusahaan.
“Ketika sistem otonom seperti agen AI tidak dikelola atau diamankan dengan baik, konsekuensinya bisa sangat besar,” ungkap Ritika Gunnar, General Manager, Data and AI, IBM.
IBM memperkuat kapabilitas IBM Guardium AI Security melalui integrasi penuh dengan watsonx.governance, menjadikannya solusi pertama yang memungkinkan pengguna mengelola risiko keamanan dan tata kelola AI dalam satu platform. Sistem ini kompatibel dengan 12 kerangka regulasi global, termasuk EU AI Act dan ISO 42001.
Dalam kolaborasi dengan AllTrue.ai, IBM kini juga menghadirkan kemampuan mendeteksi penggunaan AI baru di berbagai lingkungan, termasuk cloud, repositori kode, dan sistem tertanam, serta secara otomatis memicu alur kerja tata kelola melalui watsonx.governance.
Fitur baru lainnya:
- Automated red teaming untuk mendeteksi kerentanan dan kesalahan konfigurasi AI.
- Analisis input-output untuk mencegah injeksi kode, kebocoran data, hingga eksposur informasi sensitif.
- Kebijakan keamanan custom yang bisa disesuaikan sesuai konteks operasional pengguna.
Semua kemampuan ini telah tersedia dalam Guardium AI Security, sementara integrasi penuhnya akan diluncurkan secara bertahap sepanjang 2025.
Melalui pembaruan watsonx.governance, IBM kini memungkinkan pengguna untuk memantau performa agen AI secara menyeluruh, mulai dari pengembangan hingga implementasi. Beberapa fitur baru yang akan tersedia mulai 27 Juni meliputi:
- Evaluation node untuk metrik relevansi jawaban dan konteks data.
- Penilaian risiko onboarding agen.
- Audit trail dan katalog alat agentik.
IBM juga menghadirkan Compliance Accelerators, fitur tambahan pada watsonx.governance yang menyediakan referensi regulasi dan standar global secara siap pakai. Termasuk di dalamnya:
- EU AI Act
- SR 11-7 (Federal Reserve)
- UU NYC Local Law 144
- ISO/IEC 42001 dan NIST AI RMF
Fitur ini membantu pengguna memetakan kewajiban hukum mereka terhadap skenario AI yang digunakan.
Sebagai pelengkap solusi teknis, IBM Consulting Cybersecurity Services juga meluncurkan layanan khusus untuk membantu klien mengembangkan AI secara secure-by-design. Layanan ini mencakup:
- Penemuan potensi kerentanan AI
- Implementasi praktik keamanan AI dari awal
- Panduan tata kelola sesuai regulasi terbaru
IBM telah mendukung berbagai perusahaan besar secara global, termasuk Nationwide Building Society dan e&, dalam mengadopsi AI dengan tata kelola yang solid.
“Menyatukan keamanan dan tata kelola AI memberikan konteks yang dibutuhkan perusahaan untuk mengukur dan memprioritaskan risiko,” jelas Jennifer Glenn, Research Director di IDC Security and Trust Group.
