Diterbitkan: 28 November 2023
Kontributor: Tim Mucci, Cole Stryker
Tata kelola kecerdasan buatan (AI) mengacu pada batasan yang memastikan bahwa alat dan sistem AI tetap aman dan etis. Tata kelola ini menetapkan kerangka kerja, aturan, dan standar yang mengarahkan penelitian, pengembangan, dan penerapan AI untuk memastikan keamanan, keadilan, dan penghormatan terhadap hak asasi manusia.
Tata kelola AI mencakup mekanisme pengawasan yang menangani risiko seperti bias, pelanggaran privasi, dan penyalahgunaan seraya menumbuhkan inovasi dan kepercayaan. Pendekatan yang berpusat pada AI yang beretika pada tata kelola AI membutuhkan keterlibatan berbagai pemangku kepentingan, termasuk pengembang AI, pengguna, pembuat kebijakan, dan ahli etika, untuk memastikan bahwa sistem yang terkait dengan AI dikembangkan dan digunakan agar selaras dengan nilai-nilai masyarakat.
Tata kelola AI mengatasi kekurangan yang melekat pada elemen manusia dalam pembuatan dan pemeliharaan AI. Karena AI adalah produk dari kode yang direkayasa dengan cermat dan machine learning yang dibuat oleh manusia, AI rentan terhadap bias dan kesalahan manusia. Tata kelola menyediakan pendekatan terstruktur untuk memitigasi semua risiko ini, sehingga memastikan bahwa algoritme machine learning dipantau, dievaluasi, dan diperbarui untuk mencegah keputusan yang tidak sempurna atau berbahaya.
Solusi AI harus dikembangkan dan digunakan secara bertanggung jawab dan etis. Itu berarti mengatasi risiko yang terkait dengan AI: bias, diskriminasi, dan bahaya bagi individu. Tata kelola mengatasi risiko ini melalui kebijakan AI yang sehat, peraturan, tata kelola data, dan kumpulan data yang terlatih dan dipelihara dengan baik.
Tata kelola bertujuan untuk menetapkan pengawasan yang diperlukan untuk menyelaraskan perilaku AI dengan standar etika dan ekspektasi masyarakat serta untuk melindungi dari potensi dampak yang merugikan.
Temukan bagaimana watsonx.governance memperkuat kemampuan Anda untuk memitigasi risiko, mengelola persyaratan peraturan, dan mengatasi masalah etika.
Tata kelola AI: Memastikan AI Anda transparan, patuh, dan dapat dipercaya
IBM AI governance: Mengotomatiskan tata kelola untuk menyediakan AI yang bertanggung jawab, transparan, dan dapat dijelaskan
Tata kelola AI sangat penting untuk mencapai kondisi kepatuhan, kepercayaan , dan efisiensi dalam mengembangkan dan menerapkan teknologi AI. Dengan meningkatnya integrasi AI ke dalam operasi organisasi dan pemerintahan, potensi dampak negatifnya menjadi lebih terlihat. Kesalahan langkah yang terkenal seperti insiden chatbot Tay (tautan berada di luar ibm.com), di mana chatbot AI Microsoft mempelajari perilaku berbahaya dari interaksi publik di media sosial dan keputusan hukuman yang bias dari perangkat lunakCOMPAS (tautan berada di luar ibm.com) telah menyoroti perlunya tata kelola yang baik untuk mencegah bahaya dan menjaga kepercayaan publik.
Semua contoh ini menunjukkan bahwa AI dapat menyebabkan kerugian sosial dan etika yang signifikan tanpa pengawasan yang tepat, sehingga menekankan pentingnya tata kelola dalam mengelola risiko yang terkait dengan AI tingkat lanjut. Dengan menyediakan pedoman dan kerangka kerja, tata kelola AI bertujuan untuk menyeimbangkan inovasi teknologi dengan keamanan, memastikan sistem AI tidak melanggar martabat atau hak asasi manusia.
Pengambilan keputusan yang transparan dan dapat dijelaskan sangat penting untuk memastikan sistem AI digunakan secara bertanggung jawab. Sistem AI membuat keputusan setiap saat, mulai dari menentukan iklan mana yang akan ditampilkan hingga menentukan apakah sebuah pinjaman akan disetujui. Sangat penting untuk memahami bagaimana sistem AI mengambil keputusan untuk meminta pertanggungjawaban mereka atas keputusan yang diambil dan memastikan bahwa mereka mengambil keputusan secara adil dan etis.
Selain itu, tata kelola AI bukan hanya tentang memastikan kepatuhan satu kali; tetapi juga tentang mempertahankan standar etika dari waktu ke waktu. Model AI dapat menyimpang, yang menyebabkan perubahan kualitas output dan keandalan. Tren tata kelola saat ini bergerak melampaui kepatuhan hukum untuk memastikan tanggung jawab sosial AI, dengan demikian melindungi dari kerugian finansial, hukum, dan reputasi, seraya mempromosikan pertumbuhan teknologi yang bertanggung jawab.
Contoh tata kelola AI mencakup berbagai kebijakan, kerangka kerja, dan praktik yang diterapkan organisasi dan pemerintah untuk memastikan penggunaan teknologi AI yang bertanggung jawab. Semua contoh ini menunjukkan bagaimana tata kelola AI terjadi dalam konteks yang berbeda:
Peraturan Perlindungan Data Umum (GDPR): Contoh tata kelola AI, khususnya dalam konteks perlindungan data pribadi dan privasi. Meskipun GDPR tidak berfokus secara eksklusif pada AI, banyak ketentuannya yang sangat relevan dengan sistem AI, terutama yang memproses data pribadi individu di Uni Eropa.
Organisasi untuk Kerja Sama dan Pembangunan Ekonomi (OECD): Prinsip-prinsip AI, yang diadopsi oleh lebih dari 40 negara, menekankan pengelolaan yang bertanggung jawab atas AI yang dapat dipercaya, termasuk transparansi, keadilan, dan akuntabilitas dalam sistem AI.
Dewan Etika AI Perusahaan: Banyak perusahaan telah membentuk dewan atau komite etika untuk mengawasi inisiatif AI, memastikan bahwa inisiatif tersebut selaras dengan standar etika dan nilai-nilai masyarakat. Sebagai contoh, IBM telah meluncurkan Dewan Etika AI untuk meninjau produk dan layanan AI baru dan memastikan bahwa keduanya selaras dengan prinsip-prinsip AI IBM. Dewan ini sering kali terdiri dari tim lintas fungsi yang berasal dari latar belakang hukum, teknis, dan kebijakan.
Dalam organisasi tingkat perusahaan, CEO dan pimpinan senior pada akhirnya bertanggung jawab untuk memastikan organisasi mereka menerapkan tata kelola AI yang baik di seluruh siklus hidup AI. Penasihat hukum dan umum sangat penting dalam menilai dan mengurangi risiko hukum, memastikan aplikasi AI mematuhi undang-undang dan peraturan yang relevan. Tim audit sangat penting untuk memvalidasi integritas data sistem AI dan memastikan bahwa sistem beroperasi sebagaimana dimaksudkan tanpa menimbulkan kesalahan atau bias. CFO mengawasi implikasi keuangan, mengelola biaya yang terkait dengan inisiatif AI, dan mengurangi risiko keuangan apa pun.
Namun, tanggung jawab tata kelola AI tidak terletak pada satu individu atau departemen; ini adalah tanggung jawab kolektif di mana setiap pemimpin harus memprioritaskan akuntabilitas dan memastikan bahwa sistem AI digunakan secara bertanggung jawab dan etis di seluruh organisasi. CEO dan pimpinan senior bertanggung jawab untuk menentukan keseluruhan gaya dan budaya organisasi. Dengan memprioritaskan tata kelola AI yang bertanggung jawab, hal ini mengirimkan pesan yang jelas kepada semua karyawan bahwa setiap orang harus menggunakan AI secara bertanggung jawab dan beretika. CEO dan pimpinan senior juga dapat berinvestasi dalam pelatihan tata kelola AI bagi karyawan, mengembangkan kebijakan dan prosedur internal secara aktif, serta menciptakan budaya komunikasi dan kolaborasi yang terbuka.
Tata kelola AI sangat penting untuk mengelola kemajuan pesat dalam teknologi AI, terutama dengan munculnya AI generatif. AI generatif, yang mencakup teknologi yang mampu membuat konten dan solusi baru, seperti teks, gambar, dan kode, memiliki potensi besar di banyak contoh penggunaan. Dari meningkatkan proses kreatif dalam desain dan media hingga mengotomatiskan tugas dalam pengembangan perangkat lunak, AI generatif mengubah cara industri beroperasi. Namun, dengan penerapannya yang luas, muncul kebutuhan akan tata kelola AI yang kuat.
Prinsip-prinsip tata kelola AI yang bertanggung jawab sangat penting bagi organisasi untuk melindungi diri mereka sendiri dan pelanggan mereka. Prinsip-prinsip berikut ini dapat memandu organisasi dalam pengembangan dan penerapan teknologi AI secara etis, yang meliputi:
Empati: Organisasi harus memahami implikasi sosial dari AI, bukan hanya aspek teknologi dan keuangan. Mereka perlu mengantisipasi dan mengatasi dampak AI pada semua pemangku kepentingan.
Kontrol bias: Penting untuk memeriksa data pelatihan secara ketat untuk mencegah tertanamnya bias dunia nyata ke dalam algoritme AI, demi memastikan keputusan yang adil dan tidak bias.
Transparansi: Harus ada kejelasan dan keterbukaan tentang bagaimana algoritme AI beroperasi dan mengambil keputusan, dengan organisasi yang siap menjelaskan logika dan alasan di balik hasil yang didorong oleh AI.
Akuntabilitas: Organisasi harus menetapkan secara proaktif dan mematuhi standar yang tinggi untuk mengelola perubahan signifikan yang dapat dihadirkan oleh AI, dengan tetap bertanggung jawab atas dampak AI.
Pada akhir tahun 2023, Gedung Putih mengeluarkan perintah eksekutif untuk memastikan keselamatan dan keamanan AI. Strategi komprehensif ini menyediakan kerangka kerja untuk menetapkan standar baru dalam mengelola risiko yang melekat pada teknologi AI. Standar keselamatan dan keamanan AI yang baru dari pemerintah AS menjadi contoh bagaimana pemerintah melakukan pendekatan terhadap masalah yang sangat sensitif ini.
Keselamatan dan keamanan AI: Mewajibkan pengembang sistem AI yang canggih untuk membagikan hasil uji keamanan dan informasi penting kepada pemerintah AS. Membutuhkan pengembangan standar, alat bantu, dan pengujian untuk memastikan sistem AI yang aman dan dapat dipercaya.
Perlindungan privasi: Memprioritaskan pengembangan dan penggunaan teknik penjagaan privasi dan memperkuat penelitian dan teknologi penjagaan privasi. Prinsip ini juga menetapkan pedoman bagi lembaga federal untuk mengevaluasi efektivitas teknik penjagaan privasi.
Kesetaraan dan hak-hak sipil: Mencegah AI memperburuk diskriminasi dan bias di berbagai sektor. Termasuk memandu pemilik properti dan program federal, mengatasi diskriminasi algoritmis dan memastikan keadilan dalam sistem peradilan pidana.
Perlindungan konsumen, pasien, dan pelajar: Membantu memajukan AI yang bertanggung jawab dalam perawatan kesehatan dan pendidikan, seperti mengembangkan obat yang dapat menyelamatkan nyawa dan mendukung alat pendidikan yang mendukung AI.
Dukungan pekerja: Mengembangkan prinsip-prinsip untuk mengurangi dampak berbahaya AI terhadap pekerjaan dan tempat kerja, termasuk mengatasi pemutusan hubungan kerja dan kesetaraan di tempat kerja.
Mendorong inovasi dan kompetisi: Mengatalisasi penelitian AI di seluruh AS, mendorong ekosistem AI yang adil dan kompetitif, serta memfasilitasi masuknya para profesional AI yang terampil ke AS.
Kepemimpinan global dalam AI: Memperluas kolaborasi internasional dalam bidang AI dan mendorong pengembangan serta penerapan standar AI yang penting bersama mitra internasional.
Penggunaan AI oleh pemerintah: Memastikan penerapan AI yang bertanggung jawab oleh pemerintah dengan mengeluarkan panduan untuk penggunaan AI oleh lembaga, meningkatkan pengadaan AI, dan mempercepat perekrutan tenaga profesional AI.
Meskipun peraturan dan kekuatan pasar membakukan banyak metrik tata kelola, organisasi masih harus menentukan cara terbaik untuk menyeimbangkan langkah-langkah untuk bisnis mereka. Mengukur efektivitas tata kelola AI dapat bervariasi menurut organisasi; setiap organisasi harus memutuskan area fokus apa yang harus mereka prioritaskan. Dengan area fokus seperti kualitas data, keamanan model, analisis nilai biaya, pemantauan bias, akuntabilitas individu, audit berkelanjutan, dan kemampuan beradaptasi untuk menyesuaikan diri yang tergantung pada domain organisasi, ini bukanlah keputusan yang cocok untuk semua organisasi: Mengatalisasi penelitian AI di seluruh AS, mendorong ekosistem AI yang adil dan kompetitif, serta memfasilitasi masuknya para profesional AI yang terampil ke AS.
Tata kelola AI tidak memiliki "tingkat" yang distandardisasi secara universal seperti, misalnya, keamanan siber yang memiliki tingkat respons ancaman yang jelas. Sebaliknya, tata kelola AI memiliki pendekatan dan kerangka kerja terstruktur yang dikembangkan oleh berbagai entitas yang dapat diadopsi atau diadaptasi oleh organisasi untuk memenuhi kebutuhan spesifik mereka.
Organisasi dapat menggunakan beberapa kerangka kerja dan panduan untuk mengembangkan praktik tata kelola mereka. Beberapa kerangka kerja yang paling banyak digunakan termasuk Kerangka Kerja Manajemen Risiko AI NIST, Prinsip-prinsip OECD tentang Kecerdasan Buatan, dan Pedoman Etika Komisi Eropa untuk AI yang Dapat Dipercaya. Kerangka kerja ini memberikan panduan untuk berbagai topik, termasuk transparansi, akuntabilitas, keadilan, privasi, keamanan, dan keselamatan.
Tingkat tata kelola dapat bervariasi tergantung pada ukuran organisasi, kompleksitas sistem AI yang digunakan, dan lingkungan peraturan tempat organisasi beroperasi.
Gambaran umum dari pendekatan ini:
Ini adalah pendekatan tata kelola yang paling tidak intensif berdasarkan nilai dan prinsip organisasi. Mungkin ada beberapa proses informal, seperti dewan peninjau etika atau komite internal, tetapi tidak ada struktur atau kerangka kerja formal untuk tata kelola AI.
Ini merupakan langkah maju dari tata kelola informal dan melibatkan pengembangan kebijakan dan prosedur khusus untuk pengembangan dan penggunaan AI. Jenis tata kelola ini sering kali dikembangkan sebagai respons terhadap tantangan atau risiko tertentu dan mungkin tidak komprehensif atau sistematis.
Ini adalah tingkat tata kelola tertinggi dan melibatkan pengembangan kerangka kerja tata kelola AI yang komprehensif. Kerangka kerja ini mencerminkan nilai dan prinsip organisasi serta selaras dengan hukum dan peraturan yang terkait. Kerangka kerja tata kelola formal biasanya mencakup penilaian risiko, tinjauan etika, dan proses pengawasan.
Konsep tata kelola AI menjadi semakin penting karena otomatisasi, yang didorong oleh AI, menjadi hal lazim di berbagai sektor mulai dari perawatan kesehatan dan keuangan hingga transportasi dan layanan publik. Kemampuan otomatisasi AI dapat meningkatkan efisiensi, pengambilan keputusan, dan inovasi secara signifikan, serta memperkenalkan tantangan yang terkait dengan akuntabilitas, transparansi, dan pertimbangan etis.
Tata kelola AI melibatkan pembentukan struktur kontrol yang kuat berisi kebijakan, pedoman, dan kerangka kerja untuk mengatasi tantangan ini. Tata kelola ini melibatkan penyiapan mekanisme untuk terus memantau dan mengevaluasi sistem AI, memastikan mereka mematuhi norma etika dan peraturan hukum yang ditetapkan.
Struktur tata kelola AI yang efektif bersifat multidisiplin dan melibatkan pemangku kepentingan dari berbagai bidang, termasuk teknologi, hukum, etika, dan bisnis. Saat sistem AI menjadi semakin canggih dan terintegrasi ke dalam berbagai aspek penting masyarakat, peran tata kelola AI dalam memandu dan membentuk arah pengembangan AI dan dampak sosialnya menjadi semakin penting.
Praktik terbaik tata kelola AI melibatkan pendekatan yang lebih dari sekadar kepatuhan dan mencakup sistem yang lebih kuat untuk memantau dan mengelola aplikasi AI. Untuk bisnis tingkat perusahaan, solusi tata kelola AI harus memungkinkan pengawasan dan kontrol yang luas atas sistem AI. Berikut ini adalah contoh peta jalan yang perlu dipertimbangkan:
Dasbor visual: Memanfaatkan dasbor yang menyediakan pembaruan real-time tentang kesehatan dan status sistem AI, yang memberikan gambaran umum yang jelas untuk penilaian cepat.
Metrik skor kesehatan: Menerapkan skor kesehatan secara keseluruhan untuk model AI menggunakan metrik yang intuitif dan mudah dipahami guna menyederhanakan pemantauan.
Pemantauan otomatis: Menggunakan sistem deteksi otomatis untuk bias, penyimpangan, performa, dan anomali, guna memastikan bahwa model berfungsi dengan benar dan etis.
Peringatan performa: Menyiapkan pemberitahuan saat model menyimpang dari parameter performa yang telah ditentukan, sehingga memungkinkan intervensi tepat waktu.
Metrik khusus: Menentukan metrik khusus yang selaras dengan indikator kinerja utama (KPI) organisasi dan batas untuk memastikan bahwa hasil AI berkontribusi pada tujuan bisnis.
Jejak audit: Memelihara log dan jejak audit yang mudah diakses untuk akuntabilitas dan memfasilitasi peninjauan keputusan dan perilaku sistem AI.
Kompatibilitas alat bantu sumber terbuka: Pilih alat bantu sumber terbuka yang kompatibel dengan berbagai platform pengembangan machine learning untuk mendapatkan manfaat dari fleksibilitas dan dukungan komunitas.
Integrasi yang berjalan lancar: Memastikan bahwa platform tata kelola AI terintegrasi secara lancar dengan infrastruktur yang ada, termasuk database dan ekosistem perangkat lunak, untuk menghindari silo dan memungkinkan alur kerja yang efisien.
Dengan mengikuti semua praktik ini, organisasi dapat membangun kerangka kerja tata kelola AI yang kuat dan mendukung pengembangan, penerapan, dan manajemen AI yang bertanggung jawab, memastikan bahwa sistem AI patuh dan selaras dengan standar etika dan tujuan organisasi.
Praktik dan peraturan tata kelola AI telah diadopsi oleh sejumlah negara untuk mencegah bias dan diskriminasi. Di bawah ini hanyalah beberapa contoh. Penting untuk diingat bahwa regulasi selalu berubah dan organisasi yang mengelola sistem AI yang kompleks perlu mengawasi dengan cermat seiring perkembangan kerangka kerja regional.
SR-11-71 adalah standar tata kelola model regulasi AS untuk tata kelola model yang efektif dan kuat dalam perbankan. Peraturan ini mengharuskan pejabat bank untuk menerapkan inisiatif manajemen risiko model di seluruh perusahaan dan memelihara inventaris model yang telah diimplementasikan, sedang dikembangkan untuk diimplementasikan, atau baru saja dihentikan. Para pemimpin lembaga juga harus membuktikan bahwa model mereka mencapai tujuan bisnis yang ingin diselesaikan, dan bahwa model tersebut mutakhir dan tidak menyimpang. Pengembangan dan validasi model harus memungkinkan siapa pun yang tidak terbiasa dengan model untuk memahami operasi model, batasan, dan berbagai asumsi utama.
Instruksi Kanada tentang Pengambilan Keputusan Otomatis2 menjelaskan bagaimana pemerintah negara tersebut menggunakan AI untuk memandu pengambilan keputusan di beberapa departemen. Instruksi ini menggunakan sistem penilaian untuk menilai intervensi manusia, tinjauan sejawat, pemantauan, dan perencanaan kontingensi yang diperlukan untuk alat AI yang dibangun untuk melayani warga. Organisasi yang menciptakan solusi AI dengan skor tinggi harus melakukan dua tinjauan sejawat independen, membuat pemberitahuan publik dalam bahasa yang sederhana, mengembangkan pengamanan intervensi manusia, dan membuat kursus pelatihan berulang untuk sistem tersebut. Karena Instruksi Kanada tentang Pengambilan Keputusan Otomatis adalah panduan untuk pengembangan AI di pemerintahan, peraturan ini tidak memengaruhi perusahaan secara langsung seperti halnya SR 11-7 di AS.
Pada bulan April 2021, Komisi Eropa mempresentasikan paket AI3 , termasuk pernyataan tentang pengembangan pendekatan Eropa terhadap keunggulan, kepercayaan, dan proposal untuk kerangka kerja hukum tentang AI. Pernyataan tersebut menyebutkan bahwa meskipun sebagian besar sistem AI akan masuk ke dalam kategori "risiko minimal," sistem AI yang diidentifikasi sebagai "risiko tinggi" akan diharuskan untuk mematuhi persyaratan yang lebih ketat, dan sistem yang dianggap "risiko yang tidak dapat diterima" akan dilarang. Organisasi harus memperhatikan dengan saksama semua aturan ini atau akan dikenakan denda.
Di kawasan Asia Pasifik, sejumlah negara telah mengeluarkan beberapa prinsip dan pedoman untuk mengatur AI. Pada tahun 2019, pemerintah federal Singapura merilis kerangka kerja dengan pedoman untuk mengatasi masalah etika AI di sektor swasta. Kerangka kerja strategi AI India merekomendasikan pendirian pusat penelitian untuk mempelajari cara mengatasi masalah yang berkaitan dengan etika AI, privasi, dan lainnya. Tiongkok, Jepang, Korea Selatan, Australia, dan Selandia Baru juga sedang menjajaki pedoman tata kelola AI.4
Terapkan dan sematkan AI dengan mudah di seluruh bisnis Anda, kelola semua sumber data, dan percepat alur kerja AI yang bertanggung jawab—semuanya dalam satu platform.
Menyederhanakan tata kelola data, manajemen risiko, dan kepatuhan terhadap peraturan dengan IBM OpenPages — platform GRC yang sangat dapat ditingkatkan, didukung AI, dan terpadu.
Buku elektronik terbaru kami menguraikan fondasi utama tata kelola AI dan membagikan kerangka kerja tata kelola AI terperinci yang dapat Anda terapkan di organisasi Anda.
Jelajahi potensi transformatif AI yang Bertanggung Jawab untuk organisasi Anda dan pelajari tentang faktor pendorong penting di balik penerapan praktik AI yang etis.
Bergabunglah dalam diskusi tentang mengapa bisnis perlu memprioritaskan tata kelola AI untuk menerapkan AI yang bertanggung jawab.
Etika AI adalah bidang multidisiplin yang mempelajari cara mengoptimalkan dampak menguntungkan dari AI sekaligus mengurangi risiko dan hasil yang merugikan. Baca tentang pendekatan IBM terhadap etika AI.
AI yang dapat dijelaskan sangat penting bagi organisasi dalam membangun kepercayaan dan keyakinan saat menerapkan model AI ke dalam produksi.
Pelajari bagaimana tata kelola data memastikan perusahaan mendapatkan hasil maksimal dari aset data mereka.
Catatan kaki
1. “SR 11-7: Guidance on Model Risk Management.” Board of Governors of the Federal Reserve System Washington, D.C., Division of Banking Supervision and Regulation, 4 April 2011.
2. “Canada's New Federal Directive Makes Ethical AI a National Issue.” Digital, 8 Maret 2019.
3. "A European approach to artificial intelligence." European Commission, 14 Desember 2023
4. “Wrestling With AI Governance Around The World.” Forbes, 27 Maret 2019.