IMDA Singapura Tekankan Pentingnya Kontrol Manusia dalam Penggunaan AI Agentic

DAVOS, LELEMUKU.COM - Otoritas pengembangan media dan infokom Singapura menekankan pentingnya menjaga kontrol dan pengawasan manusia yang bermakna dalam penerapan kecerdasan buatan agentic. Hal ini menjadi salah satu pilar utama dalam Model AI Governance Framework for Agentic AI yang diluncurkan pada 22 Januari 2026.

Kerangka kerja yang diumumkan Menteri Josephine Teo di Forum Ekonomi Dunia ini menyoroti bahwa meskipun AI agentic memiliki kemampuan tinggi untuk bekerja secara otonom, manusia harus tetap menjadi pihak yang pada akhirnya bertanggung jawab. IMDA menekankan perlunya organisasi mendefinisikan titik-titik penting di mana persetujuan manusia diperlukan sebelum agen AI mengambil tindakan tertentu.

Salah satu tantangan utama yang diidentifikasi adalah bias otomasi, yaitu kecenderungan untuk terlalu mempercayai sistem otomatis yang telah berkinerja andal di masa lalu. Untuk mengatasi hal ini, kerangka kerja merekomendasikan organisasi untuk merancang pengawasan manusia yang efektif, termasuk memicu persetujuan manusia pada titik-titik kritis dan secara teratur mengaudit efektivitas persetujuan tersebut.

Kerangka kerja ini juga menekankan alokasi tanggung jawab yang jelas di antara berbagai pihak dalam siklus hidup agen. Organisasi harus menerapkan tata kelola adaptif dengan mempersiapkan diri untuk memahami perkembangan baru dan memperbarui pendekatan seiring teknologi berkembang.

Dalam aspek kontrol teknis, IMDA merekomendasikan organisasi untuk menerapkan kontrol selama tahap desain dan pengembangan, melakukan pengujian dasar keamanan dan keselamatan sebelum penerapan, serta melakukan peluncuran bertahap dengan membatasi pada pengguna atau fitur tertentu terlebih dahulu. Pemantauan dan pengujian berkelanjutan juga harus dilakukan setelah penerapan.

April Chin, Co-Chief Executive Officer Resaro, menyambut baik kerangka kerja ini sebagai sumber otoritatif pertama yang menangani risiko spesifik AI agentic. Menurutnya, kerangka kerja ini mengisi kesenjangan kritis dalam panduan kebijakan untuk AI agentic dan membantu organisasi mendefinisikan batasan agen, mengidentifikasi risiko, dan menerapkan mitigasi seperti pagar pembatas agentic.

IMDA menegaskan bahwa ini adalah dokumen yang terus berkembang dan menyambut masukan dari semua pihak yang berkepentingan untuk menyempurnakan kerangka kerja tersebut. (evu)