Etika penggunaan Generative Artificial Intelligence (GAI) merupakan salah satu topik yang dibahas dalam acara Transform 2023. Diskusi ini dipimpin oleh Philip Lawson, AI Policy Lead di Armilla AI | Schwartz Reisman Institute for Technology and Society. Dia menyebutkan, arsitektur AI berbasis Transformer sebenarnya telah ada sejak beberapa tahun lalu. Namun, beberapa bulan belakangan, teknologi itu kembali menarik perhatian masyarakat, berkat kemunculan ChatGPT.
Dua pembicara dalam diskusi tentang etika penggunaan Generative AI antara lain Jen Carter, Global Head of Technology, Google.org dan Ravi Jain, Chair of the Association for Computing Machinery, kelompok kerja untuk Generative AI.
“Hype akan Generative AI sangat tinggi,” kata Jain, dikutip dari VentureBeat. “Dan untuk pertama kalinya, saya rasa, hype tentang AI tidak salah.” Dia mengatakan, dalam satu tahun terakhir, teknologi AI berkembang dengan sangat cepat. “Saya belum pernah melihat fenomena seperti ini di industri. Dan tren ini sangat menarik.”
Generative AI tidak hanya berkembang dengan cepat, teknologi itu pun diterapkan di berbagai bidang, mulai dari penulisan sampai pembuatan gambar dan video. Sayangnya, penggunaan teknologi Generative AI juga memunculkan masalah baru, seperti hak cipta atau copyright. Selain itu, Generative AI juga memiliki berbagai risiko lain, baik untuk masyarakat maupun bagi perusahaan.
Risiko Generative AI
“Menurut saya, saat mengembangkan Generative AI, kita harus memastikan bahwa keuntungan yang didapat akan lebih banyak dari kerugian yang mungkin muncul,” kata Jain. Dia menjelaskan, dalam mengembangkan Generative AI, transparansi diperlukan. “Sebagai contoh, jika seseorang sedang mengobrol dengan chatbot, dia harus diberitahu bahwa dia sedang berbicara dengan AI,” ujar Jain.
Selain transparansi, ada beberapa hal penting lain yang harus harus diperhatikan, baik oleh kreator Generative AI, pengguna, maupun pemerintah. Beberapa hal itu antara lain privasi dan kerahasiaan data, isu kepemilikan data yang digunakan untuk melatih AI, dan juga keamanan data.
Jain percaya, semua masalah ini tidak bisa diatasi oleh satu perusahaan atau ditangani oleh pemerintah sendiri. Semua pihak yang terlibat dalam industri Generative AI harus duduk bersama dan mengadakan diskusi terbuka. Sayangnya, dia merasa, diskusi itu belum muncul.
Sementara itu, Carter menganggap, Generative AI memang bisa memberikan banyak keuntungan untuk lembaga nirlaba. Namun, dia juga tahu bahwa Generative AI juga punya risiko tersendiri. Menurutnya, bahaya Generative AI yang paling nyata adalah bias pada AI itu sendiri.
Carter mengakui, Generative AI memang bisa meminimalisir bias para pengguna. Namun, tidak tertutup kemungkinan, GAI justru memperkuat stereotipe yang sudah ada. Dia bercerita, sebagai divisi filantropi dari Google, Google.org biasanya melayani kelompok minoritas. Dan jika menggunakan Generative AI justru memperkuat stereotipe akan golongan minoritas, hal ini akan membahayakan mereka.
Carter menjadikan sistem analisa kriminal sebagai contoh. Data tentang perilaku kriminal sudah memiliki bias. Jadi, jika AI dilatih menggunakan data tersebut, maka output yang dihasilkan oleh AI juga akan tetap memiliki bias. Dan hal itu akan merugikan kelompok minoritas.
Selain itu, Carter juga mengatakan bahwa walau Generative AI bisa memperlebar jurang kesenjangan digital: membantu perusahaan besar, tapi menyulitkan lembaga nirlaba atau komunitas minoritas.
“Kita harus memastikan bahwa teknologi baru ini bisa digunakan dan memberikan manfaat pada semua orang, sehingga kita semua akan bisa mendapatkan keuntungan dari Generative AI,” kata Carter. Dia menambahkan, proses mengumpulkan data membutuhkan dana yang besar. Karena itu, biasanya, tidak ada data yang mencerminkan perilaku masyarakat di negara-negara dengan pemasukan rendah dan menengah.
Tak hanya masyarakat, korporasi yang ingin mengintegrasikan AI ke dalam perusahaan juga harus mempertimbangkan risiko yang muncul. Jain mengatakan, hal pertama yang harus perusahaan lakukan sebelum mereka menggunakan AI adalah membuka diskusi internal untuk menentukan tujuan dan prinsip perusahaan. Mereka juga harus mempertimbangkan konsekuensi yang akan muncul ketika mereka menggunakan teknologi baru tersebut.
Peran Pemerintah untuk Membuat Regulasi
Usaha untuk meminimalisir risiko AI tidak lepas dari peran pemerintah. Jain mengatakan, tugas pemerintah adalah untuk membuat kerangka regulasi terkait pengembangan dan penggunaan Generative AI. Dia menjelaskan, alasan mengapa pemerintah harus membuat regulasi terkait AI adalah untuk memastikan bahwa proses pengembangan dan pengadopsian teknologi Generative AI bisa dilakukan dengan cepat, tapi tetap dengan tanggung jawab.
Selain itu, pemerintah juga harus membuat badan pengembangan AI. Pasalnya, sejumlah topik penelitian jangka panjang terkait AI tidak bisa ditangani oleh swasta. Contohnya, riset tentang bagaimana menggunakan AI untuk bidang keamanan nasional.
Carter merasa, AI memiliki dampak besar, sehingga para regulator harus segera membuat regulasi yang komprehensif terkait teknologi tersebut. Lebih lanjut, dia menyebutkan, langkah pertama untuk melibatkan pemerintah dalam sektor AI adalah edukasi.
“Tujuan dari edukasi adalah untuk membuat para regulator tahu akan ide dan prinsip kita,” kata Carter. “Tak hanya itu, edukasi juga berfungsi untuk membantu regulator akan manfaat dan risiko dari teknologi AI.”
Sumber header: Pexels
