KONTAN.CO.ID - JENEWA. Badan PBB untuk teknologi digital pada hari Kamis (9/7) mengumumkan inisiatif baru untuk meningkatkan kepercayaan pada agen kecerdasan buatan, karena sistem AI yang semakin otonom menimbulkan kekhawatiran tentang akuntabilitas dan pengawasan manusia.

Agen AI adalah generasi baru sistem kecerdasan buatan yang dirancang untuk bertindak secara independen atas nama pengguna, menjalankan tugas mulai dari penjadwalan dan pembelian hingga proses bisnis yang kompleks.

Baca Juga: Micron Gelontorkan Investasi US$ 3 Miliar demi Perkuat Pasokan Semikonduktor AS

Meskipun dapat meningkatkan produktivitas, agen AI juga berisiko meniru manusia dan mengambil keputusan tanpa izin, menurut Uni Telekomunikasi Internasional (ITU).

Untuk mengatasi risiko tersebut, ITU menyatakan pada KTT AI untuk Kebaikan di Jenewa bahwa mereka akan membentuk Kelompok Fokus.

Kelompok ini akan mengembangkan kerangka kerja yang bertujuan untuk memastikan agen AI tetap dapat diidentifikasi, dapat dipercaya, dan tunduk pada kendali manusia yang berarti, khususnya di bidang-bidang sensitif seperti transaksi keuangan dan infrastruktur penting.

"Agen AI akan segera bernegosiasi, bertransaksi, dan membuat keputusan atas nama kita," kata Ketua Bersama Kelompok Fokus, Debora Comparin, menambahkan bahwa landasan internasional bersama diperlukan untuk menetapkan siapa agen tersebut dan bagaimana serta kapan mereka dapat dipercaya.

Kelompok ini akan terdiri dari para ahli teknis, kebijakan, dan hukum, dan akan mengadakan pertemuan pertamanya di Paris pada bulan November dan pertemuan keduanya di Jenewa pada bulan Januari.

Baca Juga: PepsiCo Lampaui Ekspektasi Pendapatan Berkat Minuman Tanpa Gula dan Produk Sehat