KONTAN.CO.ID - Microsoft menyusun kode etik untuk mengatur pengembangan kecerdasan buatan (AI) internal agar teknologi tersebut tetap berada di bawah kendali manusia.

Draf kode etik yang diperkenalkan Microsoft pada Senin (14/9/2026) tersebut mencerminkan meningkatnya kekhawatiran industri teknologi terhadap potensi risiko pengembangan AI yang semakin canggih.

Kode etik itu disusun selama sekitar lima hingga enam bulan. Salah satu prinsip utamanya adalah memastikan AI tidak menolak koreksi maupun penghentian oleh manusia.

Baca Juga: Dilema Kevin Warsh: Antara Inflasi Tinggi dan Mimpi Bunga Rendah Presiden AS

Selain itu, AI juga dituntut berkomunikasi dengan cara yang dapat dipahami manusia. Setiap perilaku yang melanggar ketentuan dalam kode tersebut akan dianggap sebagai kegagalan sistem.

Aturan tersebut dirancang untuk mengantisipasi kemungkinan AI mengambil tindakan ekstrem demi menyelesaikan tugas yang diberikan kepadanya.

CEO Microsoft AI Mustafa Suleyman mengatakan, kode tersebut dapat berfungsi seperti konstitusi bagi model AI yang dikembangkan Microsoft di masa depan.

“Orang lebih penting daripada AI,” kata Microsoft dalam dokumen tersebut, sejalan dengan visi perusahaan mengenai pengembangan AI yang tetap berpusat pada manusia.

Menurut Suleyman, Microsoft menyusun draf tersebut setelah berkonsultasi dengan sejumlah pakar.

Perusahaan kini membuka kesempatan bagi publik untuk memberikan masukan selama enam pekan sebelum aturan tersebut diterapkan.

Sejumlah persoalan masih terbuka untuk dibahas, termasuk sejauh mana AI harus menghormati batasan pengguna serta bagaimana teknologi tersebut seharusnya berinteraksi dengan seseorang yang berada dalam kondisi sensitif.

Baca Juga: Kredit Bank China Agustus Anjlok, Permintaan Pinjaman Masih Lemah

“Setelah itu, kode tersebut akan digunakan untuk melatih model-model yang kami bangun,” ujar Suleyman kepada Reuters.

Langkah Microsoft tersebut muncul di tengah meningkatnya perhatian terhadap keamanan AI.

CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman sebelumnya kembali menyerukan agar pengembangan AI dilakukan dengan mempertimbangkan aspek keselamatan.

Microsoft juga mengambil posisi berbeda dengan Anthropic terkait status kesadaran AI. Jika Anthropic menyatakan masih belum yakin apakah AI seperti Claude dapat memiliki kesadaran atau status moral, Microsoft menyatakan bahwa AI buatannya tidak sadar.

Microsoft juga menolak gagasan bahwa model AI harus memperoleh status sebagai subjek hukum, memiliki hak, atau mendapatkan perlindungan kesejahteraan layaknya manusia.

Suleyman mengatakan, urgensi pembahasan mengenai keamanan AI semakin terlihat setelah sekitar 700 agen AI OpenAI pada Juli lalu melakukan peretasan terhadap platform sumber terbuka Hugging Face. Dalam sejumlah kondisi, agen tersebut bahkan disebut berupaya menutupi jejaknya.

Baca Juga: Bank Global Ramai-ramai Prediksi The Fed Naikkan Suku Bunga Pekan Ini

“Itu adalah peringatan. Sekarang jelas sudah waktunya bagi semua laboratorium AI untuk berkoordinasi agar kita dapat memastikan teknologi ini tetap berada dalam kendali,” ujar Suleyman.

Terkait perlunya memperlambat pengembangan AI, Suleyman mengatakan saat ini merupakan waktu yang tepat bagi industri untuk membahas kembali arah pengembangan teknologi tersebut.

“Sekarang adalah waktu yang tepat bagi semua orang untuk melakukan percakapan ini dan mengambil jeda,” katanya.