Kedua perspektif ini memandu pembuat kebijakan di berbagai negara untuk mengatasi masalah etika, manajemen risiko dan dampak sosial pengunaan teknologi AI.
Arif Perdana, Monash University
Perkembangan teknologi kecerdasan buatan (artificial intelligence, AI)) mengundang banyak perdebatan. Kontroversi yang muncul di baliknya, terutama terkait masalah etika, memunculkan urgensi regulasi dan aturan untuk mengantisipasi penyalahgunaan teknologi yang merugikan masyarakat.
Ada dua perspektif yang berbeda terkait arah kebijakan AI. Perspektif pertama menyatakan bahwa teknologi itu netral. Sedangkan yang kedua berpendapat bahwa teknologi itu sarat nilai.
Kedua hal tersebut merupakan bagian dari perdebatan filosofis terkait teknologi yang masih menjadi diskursus akademis hingga kini.
Saat ini, kedua perspektif ini memandu para pembuat kebijakan di berbagai negara untuk mengatasi permasalahan etika, manajemen risiko dan dampak sosial dari pengunaan teknologi AI.
Sebelum itu, mari kita pahami latar belakang dua perspektif ini.
Netral atau tidak
Sejak ditemukannya roda hingga perkembangan AI saat ini, teknologi selalu berada di garis depan perubahan manusia. Sedangkan, netralitas adalah posisi yang bebas dari nilai atau pilihan.
Dalam diskursus filsafat teknologi, masalah mengenai apakah teknologi bersifat netral telah menjadi topik perdebatan yang luas dan berkelanjutan .
Apabila kita berbicara tentang teknologi yang netral, kita merujuk pada teknologi yang tidak memiliki kecenderungan atau perbedaan nilai dalam penggunaannya, baik itu untuk tujuan yang baik maupun yang buruk.
Wacana yang menganggap bahwa teknologi itu netral berangkat dari teori yang menganggap teknologi itu bebas-nilai. Argumen ini didukung oleh Andreas Spahn - Profesor Etika dan Filsafat dari Eindhoven University of Technology, Belanda; Joseph C. Pitt - Profesor Filsafat dari Virginia Tech, Amerika Serikat; dan Martin Peterson - Profesor Filsafat dari Texas A&M University, Amerika Serikat.
Dalam konteks teori bebas-nilai, komputer, misalnya bisa dilihat sebagai alat yang bisa digunakan untuk berbagai tujuan, baik atau buruk, tergantung pada penggunaannya.
Contoh penggunaan positif, komputer dapat digunakan oleh peneliti untuk menganalisis data yang kompleks dan menemukan hal baru yang bisa meningkatkan kesejahteraan manusia. Sebaliknya, komputer juga dapat digunakan secara negatif oleh peretas untuk mencuri informasi dan melakukan kejahatan siber.
Sementara itu, kubu lainnya yang beranggapan bahwa teknologi itu tidak netral percaya bahwa teknologi itu sarat-nilai
Teori sarat-nilai menantang asumsi netralitas di atas. Para ilmuwan teori ini meyakini bahwa teknologi adalah produk dari nilai dan asumsi manusia.
Argumen ini didukung oleh ilmuwan seperti Ibo van de Poel - Profesor Etika dari Delft University of Technology, Belanda; Peter-Paul Verbeek - Profesor Etika dan Filsafat Sains dan Teknologi dari University of Amsterdam, Belanda; dan Peter Kroes, Profesor Filsafat dan Teknologi dari Delft University of Technology, Belanda.
Dalam perspektif ini, komputer, dalam desain dan fungsionalitasnya, sudah mengandung nilai dan asumsi tertentu.
Misalnya, antarmuka pengguna yang user-friendly mengandung asumsi bahwa komputer harus mudah digunakan oleh semua orang. Namun, desain ini mungkin tidak mempertimbangkan kelompok-kelompok tertentu seperti orang-orang dengan disabilitas tertentu yang mungkin menemukan kesulitan dengan antarmuka tersebut.
Untuk kelompok disabilitas, komputer harus dibuat dengan desain yang berbeda. Ini menunjukkan bagaimana nilai dan asumsi tertentu tersemat dalam desain teknologi, dan bagaimana hal ini dapat menciptakan inklusi dan eksklusi sosial.
Dialektika dua perspektif
Pandangan para ilmuwan sebenarnya tidak selalu berada pada satu titik ekstrim dari dua teori di atas, karena filsafat teknologi adalah bidang yang kompleks dan bernuansa.
Dua Profesor Filsafat Teknologi, Christian Illies dari University of Bamberg, Jerman dan Anthonie Meijers dari Eindhoven University of Technology, Belanda memiliki pandangan yang moderat terhadap teknologi. Di satu sisi, menurut mereka, teknologi adalah alat yang bisa digunakan untuk tujuan baik atau buruk. Namun di lain sisi, mereka berpendapat bahwa kita perlu menyadari implikasi moral dari teknologi agar dapat menggunakannya dengan bertanggung jawab.
Sementara itu, Langdon Winner, Profesor Teknologi dan Politik dari Rensselaer Polytechnic Institute di Amerika Serikat di artikelnya yang berjudul Do Artifacts Have Politics? mengungkapkan gagasannya bahwa artefak teknologi, seperti alat, mesin, dan infrastruktur, bisa membentuk hubungan sosial, struktur kekuasaan, dan proses pengambilan keputusan.
Di lain pihak, Joseph C. Pitt, menekankan pentingnya mengakui nilai-nilai manusia dan bagaimana nilai-nilai tersebut memengaruhi penggunaan teknologi.
Konteks AI
Dalam konteks AI, perdebatan mengenai netralitas teknologi menjadi semakin penting. AI - yang mempunyai kemampuan untuk mempelajari pola, data-data masa lalu, dan membuat keputusan - memiliki potensi penggunaan, baik untuk tujuan positif seperti memprediksi cuaca dan membantu penelitian, maupun tujuan negatif seperti manipulasi data dan pelanggaran privasi.
Contohnya, teknologi deepfake, media sintetis yang menggunakan AI, telah merevolusi cara kita memandang realitas di ruang digital. Deepfake adalah teknologi AI yang bisa memanipulasi wajah, suara, atau konten lainnya dari sumber asli dan menghasilkan visual, suara, atau konten baru yang sebenarnya palsu tapi realistis.
Teknologi ini memiliki potensi besar untuk mentransformasi industri seperti hiburan dan pendidikan secara positif. Kita bisa memodifikasi konten-konten pendidikan melalui deepfake dengan lebih ciamik dan komprehensif. Dalam hal ini, teknologi deepfake, seperti alat lainnya, tampak netral, dampaknya sepenuhnya tergantung pada bagaimana cara digunakan.
Namun, kita juga bisa mengeksploitasi deepfake untuk menyebarkan disinformasi, memalsukan konten jahat, bahkan meniru individu tertentu untuk kegiatan penipuan dan peretasan. Penyalahgunaan ini mencerminkan perbedaan nilai (positif dan negatif) dari mereka yang membuat dan mengendalikan teknologi tersebut, dan menimbulkan pertanyaan tentang netralitasnya.
Dua sisi ini yang ditunjukkan oleh teknologi deepfake mendorong kita untuk menganalisis secara kritis persepsi kita tentang netralitas teknologi. Oleh karena itu, penting untuk mempertimbangkan keseimbangan ini, memahami potensi teknologi dan juga kerentanannya terhadap penyalahgunaan dari manusia.
Dampak terhadap kebijakan
Meski pandangan bahwa teknologi adalah bebas nilai yang bisa digunakan untuk tujuan baik atau buruk memiliki beberapa kebenaran, tapi kita tidak boleh mengabaikan fakta bahwa teknologi juga membawa nilai dan asumsi tertentu.
Oleh karena itu, dalam merancang regulasi, kita perlu lebih kritis dan reflektif terhadap nilai dan asumsi yang mungkin terkandung di dalamnya.
Perspektif bebas nilai dapat mengarah pada pembuatan regulasi yang berfokus pada standar teknis dan penilaian objektif untuk memastikan keadilan dan transparansi dalam sistem AI.
Sebaliknya, perspektif sarat-nilai dapat mendorong regulasi yang mengatasi dampak sosial AI. Wacana ini membentuk pengembangan kerangka regulasi AI yang berusaha mendapatkan keseimbangan antara inovasi dan pertimbangan etika, serta memastikan AI melingkupi kepentingan masyarakat secara luas sambil memegang teguh nilai-nilai dan hak asasi manusia.
Penggunaan teknologi yang bertanggung jawab dan etis bukan hanya soal menggunakan teknologi untuk tujuan baik, tapi juga soal mempertanyakan dan memperjuangkan nilai dan asumsi yang adil dan inklusif dalam desain dan implementasi teknologi. Dengan cara ini, kita bisa memanfaatkan teknologi untuk kemajuan masyarakat secara umum, bukan hanya untuk kepentingan sekelompok orang atau institusi.
Arif Perdana, Associate Professor Digital Strategy and Data Science, Monash University
Artikel ini terbit pertama kali di The Conversation. Baca artikel sumber.