Perkembangan teknologi artificial intelligence (AI) berjalan dengan sangat cepat. Sebagian orang bahkan menilai perkembangannya terlalu cepat, dan harus ada tindakan yang diambil demi mencegah atau meminimalkan potensi bahaya yang dapat ditimbulkan. Mereka adalah organisasi nirlaba Center for AI and Digital Policy (CAIDP), yang baru-baru ini melayangkan keluhan ke Komisi Perdagangan Federal (FTC) Amerika Serikat, dan meminta badan hukum tersebut untuk menyetop pengembangan AI GPT-4 yang dilakukan oleh OpenAI.
Dalam proposalnya, CAIDP meminta FTC untuk menginvestigasi OpenAI terkait tindakannya yang dianggap melanggar undang-undang perlindungan konsumen. Menurut CAIDP, language model GPT-4 yang diluncurkan baru-baru ini merupakan ancaman terhadap privasi dan keselamatan publik karena punya kecenderungan untuk menipu dan penuh bias.
CAIDP juga menjabarkan sejumlah potensi ancaman yang bisa ditimbulkan oleh GPT-4, seperti misalnya kemampuan GPT-4 untuk menghasilkan kode pemrograman yang berbahaya dan propaganda yang terstruktur. Tidak kalah mengkhawatirkan adalah data pelatihan yang bias yang dapat menanamkan stereotip-stereotip tertentu ke language model tersebut.
Saat meluncurkan GPT-4, OpenAI mengklaim bahwa AI versi terbarunya itu punya kecenderungan 40% lebih tinggi untuk memberikan tanggapan yang faktual. Pun begitu, GPT-4 tetap tidak luput dari kecenderungan untuk mengarang jawaban alias berhalusinasi, dan CAIDP menilai ini sebagai bentuk penipuan.
CAIDP turut menggarisbawahi kegagalan OpenAI dalam melindungi privasi penggunanya, seperti contohnya ketika baru-baru ini sebuah bug memungkinkan pengguna ChatGPT untuk melihat riwayat percakapan maupun informasi pembayaran yang dimiliki pengguna lain. Kasus tersebut cukup serius sampai-sampai OpenAI sempat mematikan akses ke ChatGPT sepenuhnya.
CAIDP menilai FTC harus segera mengambil tindakan karena OpenAI dengan sengaja merilis GPT-4 ke publik meski mereka sepenuhnya sadar akan segala risikonya. Tindakan yang dimaksud mencakup penghentian perilisan versi-versi GPT yang selanjutnya, serta penetapan syarat bahwa peluncuran sebuah AI language model haruslah menjalani asesmen dari pihak independen terlebih dulu.
📢 We’re calling on AI labs to temporarily pause training powerful models!
Join FLI’s call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who’ve signed: https://t.co/3rJBjDXapc
A short 🧵on why we’re calling for this – (1/8)
— Future of Life Institute (@FLIxrisk) March 29, 2023
Komplain yang dilayangkan CAIDP ini datang hanya sehari setelah publikasi sebuah surat terbuka yang meminta OpenAI dan perusahaan-perusahaan lain untuk menghentikan pengembangan sistem AI yang lebih canggih lagi daripada GPT-4. “Sistem AI yang kuat harus dikembangkan hanya setelah kita yakin bahwa efeknya akan positif dan risikonya dapat ditangani,” tulis surat tersebut.
Sama seperti proposal CAIDP, isi surat tersebut juga menuntut adanya protokol keamanan yang jelas terkait pengembangan AI, sekaligus asesmen dari pihak independen dan pengawasan yang lebih ketat dari pihak pemerintah. Surat tersebut ditandatangani oleh sejumlah sosok ternama, mulai dari co-founder Apple Steve Wozniak sampai Elon Musk. Presiden CAIDP, Marc Rotenberg, juga merupakan salah satu yang menandatangani surat tersebut.
FTC sejauh ini belum memberikan respons apa-apa terhadap komplain CAIDP. Namun seandainya mereka memutuskan untuk bertindak dan menetapkan sejumlah batasan, hal ini tentu berpotensi menghambat laju perkembangan teknologi AI secara menyeluruh — meski itu juga berarti peningkatan dari sisi akuntabilitas.
Sumber: Engadget dan The Verge. Gambar header: Emiliano Vittoriosi via Unsplash.
