SAN FRANCISCO - OpenAI, perusahaan di balik ChatGPT, mengatakan telah mengganggu (disrupsi) lima operasi pengaruh rahasia selama tiga bulan terakhir yang berupaya menggunakan model kecerdasan buatannya untuk aktivitas yang menipu.
Dalam postingan blognya, Kamis (30/5), OpenAI mengatakan kampanye yang ter-disrupsi tersebut berasal dari Russia, Tiongkok, Iran, dan sebuah perusahaan swasta yang berbasis di Israel.
Pelaku ancaman berusaha memanfaatkan model bahasa OpenAI yang kuat untuk tugas-tugas seperti menghasilkan komentar, artikel, profil media sosial, dan men-debug kode untuk bot dan situs web.
Perusahaan yang dipimpin oleh CEO Sam Altman ini mengatakan operasi tersebut "tampaknya tidak mendapatkan manfaat dari peningkatan keterlibatan atau jangkauan audiens yang signifikan sebagai hasil dari layanan kami."
Perusahaan seperti OpenAI berada di bawah pengawasan ketat karena kekhawatiran bahwa aplikasi seperti ChatGPT atau pembuat gambar Dall-E dapat menghasilkan konten yang menipu dalam hitungan detik dan dalam volume tinggi.
Hal ini menjadi kekhawatiran mengingat pemilu yang akan berlangsung di seluruh dunia, dan negara-negara seperti Russia, Tiongkok, dan Iran diketahui menggunakan kampanye media sosial terselubung untuk memicu ketegangan menjelang hari pemungutan suara.
Salah satu operasi yang gagal, yang dijuluki "Tata Bahasa Buruk", adalah kampanye Russia yang sebelumnya tidak dilaporkan yang menargetkan Ukraina, Moldova, negara-negara Baltik, dan Amerika Serikat.
Mereka menggunakan model dan alat OpenAI untuk membuat komentar politik singkat dalam bahasa Russia dan Inggris di Telegram.
Operasi "Doppelganger" Russia yang terkenal menggunakan kecerdasan buatan OpenAI untuk menghasilkan komentar di seluruh platform seperti X dalam berbagai bahasa termasuk Inggris, Prancis, Jerman, Italia, dan Polandia.
OpenAI juga menghapus operasi pengaruh "Spamouflage" Tiongkok yang menyalahgunakan modelnya untuk meneliti media sosial, menghasilkan teks multi-bahasa, dan men-debug kode untuk situs web seperti openscum.com yang sebelumnya tidak dilaporkan.
Sebuah kelompok di Iran, "Persatuan Media Virtual Internasional," diganggu karena menggunakan OpenAI untuk membuat artikel, berita utama, dan konten yang diposting di situs web yang terhubung dengan negara Iran.
Selain itu, OpenAI mengganggu perusahaan komersial Israel bernama STOIC, yang tampaknya menggunakan modelnya untuk menghasilkan konten di Instagram, Facebook, Twitter, dan situs web afiliasinya.
Kampanye ini juga ditandai oleh pemilik Facebook, Meta, awal pekan ini.
Operasi tersebut diposting di berbagai platform seperti Twitter, Telegram, Facebook dan Medium, "tetapi tidak ada yang berhasil melibatkan banyak orang," kata OpenAI.
Dalam laporannya, perusahaan menguraikan tren pemanfaatan AI seperti menghasilkan volume teks/gambar yang tinggi dengan lebih sedikit kesalahan, menggabungkan AI dan konten tradisional, dan memalsukan interaksi melalui balasan AI.
OpenAI mengatakan kolaborasi, pembagian intelijen, dan perlindungan yang dibangun dalam modelnya memungkinkan terjadinya gangguan.
