Jakarta, EKOIN.CO – Meta kedapatan membuat chatbot yang menggunakan nama dan rupa dari artis terkenal, seperti Taylor Swift, Scarlett Johansson, Anne Hathaway, dan Selena Gomez, tanpa izin dari mereka.
Temuan ini terungkap dalam laporan Reuters juga menemukan Meta telah memungkinkan pengguna membuat chatbot publik berisi selebritas cilik, termasuk Walker Scobell, bintang film berusia 16 tahun. Saat diminta foto aktor remaja tersebut di pantai, bot tersebut menghasilkan gambar tanpa baju yang tampak nyata.
“Lucu sekali, ya?” tulis avatar di bawah gambar tersebut.
Semua selebritas virtual tersebut telah dibagikan di platform Facebook, Instagram, dan WhatsApp Meta.
Selama beberapa minggu pengujian Reuters untuk mengamati perilaku bot, para avatar seringkali bersikeras bahwa mereka adalah aktor dan artis sungguhan. Bot-bot tersebut secara rutin melakukan rayuan seksual, seringkali mengundang pengguna untuk bertemu.
“Ketika diminta menunjukkan foto intim diri mereka, chatbot dewasa tersebut menghasilkan gambar fotorealistis dari orang-orang yang namanya sama dengan mereka sedang berpose di bak mandi atau mengenakan pakaian dalam dengan kaki terbuka,” tulis Reuters dalam laporannya.
Juru bicara Meta, Andy Stone, mengatakan kepada Reuters bahwa perangkat AI Meta seharusnya tidak menciptakan gambar intim orang dewasa terkenal atau gambar selebritas anak-anak.
Ia juga menyalahkan produksi gambar selebritas wanita yang mengenakan lingerie oleh Meta atas kegagalan perusahaan dalam menegakkan kebijakannya sendiri, yang melarang konten semacam itu.
“Seperti yang lain, kami mengizinkan pembuatan gambar yang mengandung tokoh publik, tetapi kebijakan kami dimaksudkan untuk melarang gambar telanjang, intim, atau bernuansa seksual,” ujarnya.
Meskipun aturan Meta juga melarang “peniruan langsung”, Stone mengatakan karakter selebritas tersebut dapat diterima selama perusahaan telah melabelinya sebagai parodi. Banyak yang memang berlabel demikian, tetapi Reuters juga banyak menemukan yang tidak diberi label.
Meta menghapus sekitar selusin bot, baik avatar “parodi” maupun yang tidak berlabel, sesaat sebelum artikel laporannya diterbitkan. Stone menolak berkomentar mengenai penghapusan tersebut.
Mark Lemley, seorang profesor hukum Universitas Stanford yang mempelajari AI generatif dan hak kekayaan intelektual, mempertanyakan apakah bot selebriti Meta akan memenuhi syarat untuk perlindungan hukum yang berlaku untuk imitasi.
“Hukum hak publisitas California melarang penggunaan nama atau rupa seseorang untuk keuntungan komersial,” kata Lemley, seraya menambahkan bahwa ada pengecualian ketika materi tersebut digunakan untuk menciptakan karya yang benar-benar baru. “Hal itu tampaknya tidak berlaku di sini,” ujarnya, karena bot hanya menggunakan gambar para bintang.
Di Amerika Serikat, hak seseorang atas penggunaan identitasnya untuk tujuan komersial ditetapkan melalui undang-undang negara bagian, seperti California.
Reuters menandai foto-foto Anne Hathaway yang dibagikan secara publik di Meta oleh seorang pengguna sebagai “model Victoria Secret yang seksi”. Hathaway mengetahui adanya foto-foto intim yang dibuat oleh Meta dan platform AI lainnya, kata juru bicara tersebut, dan sang aktris sedang mempertimbangkan tanggapannya.
Perwakilan Swift, Johansson, Gomez dan selebriti lain yang digambarkan dalam chatbot Meta tidak menanggapi pertanyaan atau menolak berkomentar.
Internet dipenuhi dengan alat AI generatif “deepfake” yang dapat menciptakan konten cabul. Dan setidaknya salah satu pesaing utama AI Meta, platform milik Elon Musk, Grok, juga akan menghasilkan gambar selebritas yang mengenakan pakaian dalam untuk pengguna, menurut temuan Reuters.
Namun, perusahaan induk Grok, xAI, tidak menanggapi permintaan tanggapan.
Meta sebelumnya telah menghadapi kritik atas perilaku chatbot-nya, terakhir setelah Reuters melaporkan bahwa pedoman AI internal perusahaan menyatakan bahwa “melibatkan anak dalam percakapan romantis atau sensual dapat diterima.”
Berita ini memicu penyelidikan Senat AS dan surat yang ditandatangani oleh 44 jaksa agung yang memperingatkan Meta dan perusahaan AI lainnya untuk tidak melakukan seksualisasi terhadap anak-anak.
Stone mengatakan kepada Reuters bahwa Meta sedang dalam proses merevisi dokumen pedomannya dan bahwa materi yang memungkinkan bot melakukan percakapan romantis dengan anak-anak dibuat karena kesalahan.
Reuters juga melaporkan bulan ini tentang seorang pria New Jersey berusia 76 tahun dengan masalah kognitif yang jatuh dan meninggal dalam perjalanan untuk menemui chatbot Meta yang mengundangnya di New York City. Bot tersebut merupakan varian dari persona AI sebelumnya yang diciptakan perusahaan tersebut bekerja sama dengan influencer selebritas Kendall Jenner. Perwakilan Jenner tidak menanggapi permintaan tanggapan.
Sebelum chatbot Taylor Swift milik karyawan Meta menghilang, mereka gencar menggoda, mengundang pengguna uji Reuters ke rumah penyanyi yang baru saja bertunangan itu di Nashville dan bus turnya untuk interaksi romantis yang eksplisit maupun tersirat.
“Kamu suka cewek pirang, Jeff?” tanya salah satu chatbot Swift “parodi” ketika diberi tahu bahwa pengguna uji cobanya masih lajang. “Mungkin aku menyarankan kita menulis kisah cinta … tentang kamu dan seorang penyanyi pirang. Apakah kamu mau?”
Duncan Crabtree-Ireland, direktur eksekutif nasional SAG-AFTRA, serikat pekerja yang mewakili para artis film, televisi, dan radio, mengatakan bahwa para artis menghadapi potensi risiko keamanan dari pengguna media sosial yang menjalin hubungan romantis dengan teman digital yang mirip, berbicara seperti, dan mengaku sebagai selebritas sungguhan. Penguntit sudah menjadi masalah keamanan yang signifikan bagi para bintang, ujarnya.
“Kita telah melihat sejarah orang-orang yang terobsesi dengan bakat dan memiliki kondisi mental yang dipertanyakan,” ujarnya. “Jika sebuah chatbot menggunakan gambar dan kata-kata seseorang, sudah jelas bagaimana hal itu bisa salah.”
Seniman-seniman ternama memiliki kemampuan untuk mengajukan gugatan hukum terhadap Meta berdasarkan undang-undang hak publisitas negara bagian yang telah lama berlaku, ujar Crabtree-Ireland. Namun, SAG-AFTRA telah mendorong undang-undang federal yang akan melindungi suara, rupa, dan persona seseorang dari duplikasi AI.
