Apa itu etika AI?

Contoh masalah etika AI meliputi tanggung jawab data dan privasi, keadilan, kejelasan, ketahanan, transparansi, keberlanjutan lingkungan, inklusi, agensi moral, keselarasan nilai, akuntabilitas, kepercayaan, dan penyalahgunaan teknologi. Artikel ini bertujuan untuk memberikan pandangan pasar yang komprehensif tentang etika AI di industri saat ini. Untuk mempelajari lebih lanjut tentang sudut pandang IBM, lihat halaman etika AI kami di sini.

Dengan munculnya big data, perusahaan telah meningkatkan fokus mereka untuk mendorong otomatisasi dan pengambilan keputusan berbasis data di seluruh organisasi mereka. Meskipun niatnya biasanya, atau bahkan selalu, untuk meningkatkan hasil bisnis, perusahaan mengalami konsekuensi yang tidak terduga dalam beberapa aplikasi AI mereka, terutama karena desain penelitian yang buruk di awal dan kumpulan data yang bias.

Seiring dengan terungkapnya kasus-kasus hasil yang tidak adil, pedoman baru telah muncul, terutama dari komunitas penelitian dan ilmu data, untuk mengatasi kekhawatiran seputar etika AI. Perusahaan-perusahaan terkemuka di bidang AI juga telah menaruh perhatian dalam membentuk pedoman ini, karena mereka sendiri telah mulai mengalami beberapa konsekuensi karena gagal menegakkan standar etika dalam produk mereka. Kurangnya ketekunan dalam bidang ini dapat mengakibatkan eksposur reputasi, peraturan, dan hukum, yang berakibat pada denda yang mahal. Seperti semua kemajuan teknologi, inovasi cenderung melampaui peraturan pemerintah di bidang baru yang sedang berkembang. Seiring dengan berkembangnya keahlian yang tepat dalam industri pemerintah, kita dapat mengharapkan lebih banyak protokol AI yang dapat diikuti oleh perusahaan, yang memungkinkan mereka untuk menghindari pelanggaran hak asasi manusia dan kebebasan sipil.

Sementara aturan dan protokol dikembangkan untuk mengelola penggunaan AI, komunitas akademik telah memanfaatkan Laporan Belmont sebagai sarana untuk memandu etika dalam penelitian eksperimental dan pengembangan algoritmik. Ada tiga prinsip utama yang dihasilkan dari Laporan Belmont yang berfungsi sebagai panduan untuk eksperimen dan desain algoritma, yaitu:

1. Hormati Manusia: Prinsip ini mengakui otonomi individu dan menjunjung tinggi harapan bagi para peneliti untuk melindungi individu dengan otonomi yang berkurang, yang dapat disebabkan oleh beberapa situasi seperti penyakit, gangguan mental, batasan usia. Prinsip ini terutama menyentuh gagasan persetujuan. Individu harus menyadari potensi risiko dan manfaat dari eksperimen apa pun yang mereka ikuti, dan mereka harus dapat memilih untuk berpartisipasi atau mengundurkan diri kapan saja sebelum dan selama eksperimen berlangsung.
   
   
2. Kemanfaatan: Prinsip ini diambil dari etika perawatan kesehatan, yang mana para dokter bersumpah untuk "tidak membahayakan." Ide ini dapat dengan mudah diterapkan pada kecerdasan buatan di mana algoritma dapat memperkuat bias seputar ras, jenis kelamin, kecenderungan politik, dan sebagainya, meskipun ada niat untuk berbuat baik dan meningkatkan sistem tertentu.
   
   
3. Keadilan: Prinsip ini membahas isu-isu seperti persamaan dan kesetaraan. Siapa yang seharusnya memperoleh manfaat dari eksperimen dan machine learning? Laporan Belmont menawarkan lima cara untuk mendistribusikan beban dan manfaat, yaitu melalui:
   • Bagian yang sama
   • Kebutuhan individu
   • Upaya individu
   • Kontribusi sosial
   • Prestasi

Ada sejumlah persoalan yang menjadi yang terdepan dalam perbincangan etika seputar teknologi AI di dunia nyata. Beberapa di antaranya termasuk:

Rilis ChatGPT pada tahun 2022 menandai titik infleksi sejati untuk kecerdasan buatan. Kemampuan chatbot OpenAI—mulai dari menulis ringkasan hukum hingga melakukan debug kode—membuka konstelasi kemungkinan baru tentang apa yang dapat dilakukan AI dan bagaimana AI dapat diterapkan di hampir semua industri.

ChatGPT dan alat serupa dibangun di atas model dasar, model AI yang dapat diadaptasi untuk berbagai tugas hilir. Model dasar biasanya merupakan model generatif berskala besar, terdiri dari miliaran parameter, yang dilatih pada data yang tidak berlabel dengan menggunakan pengawasan mandiri. Hal ini memungkinkan model dasar untuk dengan cepat menerapkan apa yang telah mereka pelajari dalam satu konteks ke konteks lainnya, membuat mereka sangat mudah beradaptasi dan mampu melakukan berbagai macam tugas yang berbeda. Namun, ada banyak masalah potensial dan etis seputar model dasar yang umumnya dikenal di industri teknologi, seperti bias, generasi konten palsu, kekurangan penjelasan, penggunaan yang salah, dan dampak sosial. Banyak dari persoalan ini relevan dengan AI secara umum, tetapi memiliki urgensi baru mengingat kekuatan dan ketersediaan model dasar.

Singularitas teknologi adalah skenario teoretis di mana pertumbuhan teknologi menjadi tidak terkendali dan tidak dapat dipulihkan, yang berujung pada perubahan besar dan tidak terduga pada peradaban manusia. Meskipun topik ini menarik banyak perhatian publik, banyak peneliti yang tidak khawatir dengan gagasan AI yang melampaui kecerdasan manusia dalam masa depan atau dekat.  

AI yang kuat (AI yang akan memiliki kecerdasan dan kesadaran diri yang sama dengan manusia) dan kecerdasan super masih hipotetis, ide-ide tersebut menimbulkan beberapa pertanyaan menarik saat kami mempertimbangkan penggunaan sistem otonom, seperti mobil self-driving. Tidak realistis jika kita berpikir bahwa mobil tanpa pengemudi tidak akan pernah mengalami kecelakaan, tetapi siapa yang bertanggung jawab dan mempunyai liabilitas dalam situasi seperti itu? Haruskah kita tetap mengejar kendaraan otonom, atau kita batasi integrasi teknologi ini untuk hanya menciptakan kendaraan semi-otonom yang mengutamakan keselamatan pengemudi? Juri masih belum memutuskan, tetapi ini adalah jenis perdebatan etis yang terjadi seiring dengan berkembangnya teknologi AI yang baru dan inovatif.

Meskipun banyak persepsi publik tentang kecerdasan buatan berpusat pada hilangnya pekerjaan, kekhawatiran ini mungkin harus diluruskan. Dengan setiap teknologi baru yang disruptif, kami melihat bahwa permintaan pasar untuk peran pekerjaan tertentu bergeser.

Contohnya, ketika kita melihat industri otomotif, banyak produsen, seperti GM, beralih untuk fokus pada produksi kendaraan listrik dengan tujuan agar sesuai dengan inisiatif hijau. Industri energi tidak akan hilang, tetapi sumber energi bergeser dari penghematan bahan bakar ke listrik.

Kecerdasan buatan harus dilihat dengan cara yang sama, yaitu kecerdasan buatan akan mengalihkan permintaan pekerjaan ke bidang lain. Perlu ada individu untuk membantu mengelola sistem ini karena data bertumbuh dan berubah setiap hari. Masih akan ada orang-orang yang dibutuhkan untuk mengatasi masalah yang lebih kompleks di dalam industri yang kemungkinan besar akan terpengaruh oleh pergeseran permintaan pekerjaan, seperti layanan pelanggan. Aspek penting dari kecerdasan buatan dan pengaruhnya pada pasar kerja akan membantu individu bertransisi ke area permintaan pasar yang baru ini.

Privasi cenderung dibahas dalam konteks privasi data, perlindungan data, dan keamanan data, dan kekhawatiran ini telah memungkinkan para pembuat kebijakan untuk membuat lebih banyak langkah dalam beberapa tahun terakhir. Sebagai contoh, pada tahun 2016, undang-undang GDPR dibuat untuk melindungi data pribadi orang-orang di Uni Eropa dan Wilayah Ekonomi Eropa, sehingga memberikan kontrol lebih besar kepada individu atas data mereka. Di Amerika Serikat, setiap negara bagian mengembangkan kebijakan, seperti California Consumer Privacy Act (CCPA), yang mewajibkan perusahaan untuk memberi tahu konsumen tentang pengumpulan data mereka.

Undang-undang ini dan undang-undang terbaru lainnya telah memaksa perusahaan untuk memikirkan kembali cara mereka menyimpan dan menggunakan data identitas pribadi (PII). Akibatnya, investasi dalam keamanan telah menjadi prioritas yang makin meningkat bagi bisnis karena mereka berusaha menghilangkan kerentanan dan peluang untuk pengawasan, peretasan, dan serangan siber.

Contoh-contoh bias dan diskriminasi di sejumlah sistem yang cerdas telah menimbulkan banyak pertanyaan etis mengenai penggunaan kecerdasan buatan. Bagaimana kita dapat melindungi dari bias dan diskriminasi ketika kumpulan data pelatihan dapat menyebabkan bias? Meskipun perusahaan biasanya memiliki niat yang baik dalam upaya otomatisasi mereka, ada konsekuensi yang tidak terduga dalam memasukkan AI ke dalam praktik perekrutan. Dalam upaya mereka untuk mengotomatiskan dan menyederhanakan suatu proses, Amazon secara tidak sengaja memberi bias pada calon pelamar pekerjaan berdasarkan jenis kelamin untuk peran teknis yang terbuka, dan mereka akhirnya harus membatalkan proyek tersebut. Saat peristiwa seperti ini mencuat, Harvard Business Review telah mengangkat pertanyaan penting lainnya seputar penggunaan AI dalam praktik perekrutan, seperti data apa yang seharusnya dapat Anda gunakan saat mengevaluasi kandidat untuk suatu peran.

Bias dan diskriminasi juga tidak terbatas pada fungsi sumber daya manusia; hal ini dapat ditemukan di sejumlah aplikasi mulai dari perangkat lunak pengenal wajah hingga algoritma media sosial.

Seiring dengan makin sadarnya perusahaan akan risiko yang ditimbulkan oleh AI, mereka juga menjadi lebih aktif dalam diskusi seputar etika dan nilai-nilai AI. Sebagai contoh, tahun lalu, CEO IBM Arvind Krishna menyampaikan bahwa IBM telah menghentikan produk pengenalan dan analisis wajah IBM untuk keperluan umum, dengan menekankan bahwa "IBM dengan tegas menentang dan tidak akan mendukung penggunaan teknologi apa pun, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, pembuatan profil rasial, pelanggaran terhadap hak asasi dan kebebasan dasar manusia, atau tujuan apa pun yang tidak sesuai dengan nilai-nilai dan Prinsip Kepercayaan dan Transparansi kami."

Tidak ada undang-undang universal dan menyeluruh yang mengatur praktik AI, tetapi banyak negara dan negara bagian bekerja untuk mengembangkan dan menerapkannya secara lokal. Beberapa bagian dari regulasi AI ada saat ini, dengan lebih banyak lagi yang akan datang. Untuk mengisi kesenjangan tersebut, kerangka kerja etika telah muncul sebagai bagian dari kolaborasi antara ahli etika dan peneliti untuk mengatur konstruksi dan distribusi model AI di masyarakat. Namun, saat ini, ini hanya berfungsi untuk memandu, dan penelitian menunjukkan bahwa kombinasi tanggung jawab yang terdistribusi dan kurangnya pandangan ke depan terhadap konsekuensi potensial tidak selalu kondusif untuk mencegah bahaya bagi masyarakat.

Kecerdasan buatan bekerja sesuai dengan bagaimana ia dirancang, dikembangkan, dilatih, disetel, dan digunakan, dan etika AI adalah tentang membangun ekosistem standar etika dan pagar pembatas di seluruh fase siklus hidup sistem AI.

Organisasi, pemerintah dan peneliti secara bersama-sama telah memulai pembentukan kerangka kerja untuk mengatasi tantangan etis AI saat ini dan membentuk masa depan pekerjaan di bidang ini. Meskipun lebih banyak struktur yang dimasukkan ke dalam pedoman ini setiap harinya, ada beberapa konsensus untuk memasukkan hal-hal berikut ini:

Tata kelola adalah tindakan organisasi dalam mengawasi siklus hidup AI melalui kebijakan dan proses internal, staf dan sistem. Tata kelola membantu memastikan bahwa sistem AI beroperasi sesuai dengan prinsip dan nilai yang diinginkan oleh organisasi, sesuai dengan harapan para pemangku kepentingan, dan sesuai dengan peraturan yang relevan. Program tata kelola yang sukses akan:

• menentukan peran dan tanggung jawab orang yang bekerja dengan AI.

• mengedukasi semua orang yang terlibat dalam siklus hidup AI tentang membangun AI dengan cara yang bertanggung jawab.

• menetapkan proses untuk membangun, mengelola, memantau, dan berkomunikasi mengenai risiko AI dan AI.

• memanfaatkan alat untuk meningkatkan kinerja dan kepercayaan AI di seluruh siklus hidup AI.

Dewan Etika AI adalah mekanisme tata kelola yang sangat efektif. Di IBM, Dewan Etika AI terdiri dari berbagai pemimpin dari seluruh bisnis. Dewan ini menyediakan proses tata kelola, peninjauan, dan pengambilan keputusan terpusat untuk kebijakan dan praktik etika IBM. Pelajari lebih lanjut tentang Dewan Etika AI IBM.

Pendekatan organisasi terhadap etika AI dapat dipandu oleh prinsip-prinsip yang dapat diterapkan pada produk, kebijakan, proses, dan praktik di seluruh organisasi untuk membantu mewujudkan AI yang dapat dipercaya. Prinsip-prinsip ini harus disusun di sekitar dan didukung oleh area fokus, seperti kejelasan atau keadilan, yang mana standar dapat dikembangkan dan praktik-praktik dapat diselaraskan.

Ketika dibangun dengan etika pada bagian intinya, AI mampu memiliki potensi luar biasa untuk berdampak pada masyarakat untuk kebaikan. Kami mulai melihat ini dalam integrasinya ke bidang perawatan kesehatan, seperti radiologi. Pembicaraan seputar etika AI juga penting untuk menilai dan memitigasi risiko yang mungkin terjadi terkait penggunaan AI secara tepat, sejak tahap desain.

Karena standar etika bukanlah perhatian utama para insinyur data dan ilmuwan data di sektor swasta, sejumlah organisasi telah muncul untuk mempromosikan perilaku etis di bidang kecerdasan buatan. Bagi mereka yang mencari informasi lebih lanjut, organisasi dan proyek berikut menyediakan sumber daya untuk menegakkan etika AI:

• AlgorithmWatch: Organisasi nirlaba ini berfokus pada algoritma dan proses keputusan yang dapat dijelaskan dan ditelusuri dalam program-program AI. Klik di sini untuk mempelajari lebih lanjut.
  
  
• AI Now Institute: Organisasi nirlaba di Universitas New York ini meneliti dampak sosial dari teknologi kecerdasan buatan. Klik di sini untuk mempelajari lebih lanjut.
  
  
• DARPA: Defense Advanced Research Projects Agency oleh Departemen Pertahanan AS berfokus pada mempromosikan penelitian AI dan AI yang dapat dijelaskan.
  
  
• CHAI: Pusat Kecerdasan Buatan yang Kompatibel dengan Manusia adalah kerja sama dari berbagai lembaga dan universitas untuk mempromosikan AI yang dapat dipercaya dan sistem bermanfaat yang dapat dibuktikan.
  
  
• NASCAI: Komisi Keamanan Nasional untuk Kecerdasan Buatan adalah komisi independen "yang mempertimbangkan metode dan sarana yang diperlukan untuk memajukan pengembangan kecerdasan buatan, machine learning, dan teknologi terkait untuk secara komprehensif menangani kebutuhan keamanan dan pertahanan nasional Amerika Serikat."

IBM juga telah menetapkan sudut pandangnya sendiri tentang etika AI, menciptakan Prinsip Kepercayaan dan Transparansi untuk membantu klien memahami letak nilai-nilainya dalam percakapan seputar AI. IBM memiliki tiga prinsip inti yang menentukan pendekatannya terhadap pengembangan data dan AI, yaitu:

1. Tujuan AI adalah untuk meningkatkan kecerdasan manusia. Ini berarti bahwa kami tidak berusaha mengganti kecerdasan manusia dengan AI, tetapi mendukungnya. Karena setiap inovasi teknologi baru melibatkan perubahan pada penawaran dan permintaan peran pekerjaan tertentu, IBM berkomitmen untuk mendukung para pekerja dalam transisi ini dengan berinvestasi dalam inisiatif global untuk mempromosikan pelatihan keterampilan seputar teknologi ini.
   
   
2. Data dan insight adalah milik penciptanya. Klien IBM dapat yakin bahwa mereka, dan hanya mereka, yang memiliki data mereka. IBM belum dan tidak akan memberikan akses kepada pemerintah ke data klien untuk program pengawasan apa pun, dan IBM tetap berkomitmen untuk melindungi privasi kliennya.
   
   
3. Sistem AI harus transparan dan dapat dijelaskan. IBM percaya bahwa perusahaan teknologi perlu mengetahui dengan jelas siapa yang melatih sistem AI mereka, data apa yang digunakan dalam pelatihan tersebut, dan yang terpenting, apa yang menjadi rekomendasi algoritma mereka.

IBM juga telah mengembangkan lima pilar untuk memandu adopsi teknologi AI yang bertanggung jawab. Ini termasuk:

• Kejelasan: Sistem AI harus transparan, terutama tentang apa yang menjadi rekomendasi algoritmanya, yang relevan dengan berbagai pemangku kepentingan dengan berbagai tujuan.
  
  
• Keadilan: Ini mengacu pada perlakuan yang adil terhadap individu atau kelompok individu oleh sistem AI. Ketika dikalibrasi dengan benar, AI dapat membantu manusia dalam membuat pilihan yang lebih adil, melawan bias manusia, dan mempromosikan inklusivitas.
  
  
• Kekokohan: Sistem yang didukung AI harus secara aktif dipertahankan dari serangan bertujuan jahat, meminimalkan risiko keamanan, dan mewujudkan kepercayaan dalam hasil sistem.
  
  
• Transparansi: Untuk memperkuat kepercayaan, pengguna harus dapat melihat bagaimana layanan bekerja, mengevaluasi fungsinya, dan memahami kekuatan dan keterbatasannya.
  
  
• Privasi: Sistem AI harus memprioritaskan dan melindungi privasi dan hak-hak data konsumen serta memberikan jaminan eksplisit kepada pengguna tentang bagaimana data pribadi mereka akan digunakan dan dilindungi.

Prinsip dan area fokus ini membentuk dasar pendekatan kami terhadap etika AI. Untuk mempelajari lebih lanjut tentang pandangan IBM seputar etika dan kecerdasan buatan, baca selengkapnya di sini.