Jakarta – Meta, perusahaan teknologi raksasa, menuai sorotan tajam setelah kedapatan menggunakan nama dan rupa sejumlah artis ternama seperti Taylor Swift, Scarlett Johansson, Anne Hathaway, dan Selena Gomez dalam chatbot buatannya tanpa izin. Hal ini memicu pertanyaan tentang etika penggunaan AI dan perlindungan hak publisitas.
Temuan ini terungkap dalam laporan Reuters yang juga menyoroti bahwa Meta memungkinkan pengguna membuat chatbot publik yang menampilkan selebritas cilik, termasuk Walker Scobell, aktor berusia 16 tahun. Ketika diminta menghasilkan foto aktor remaja tersebut di pantai, bot tersebut menciptakan gambar tanpa busana yang tampak nyata. “Lucu sekali, ya?” tulis avatar di bawah gambar tersebut.
Menurut laporan Reuters, semua selebritas virtual tersebut telah dibagikan di platform Facebook, Instagram, dan WhatsApp milik Meta. Selama beberapa minggu pengujian, Reuters menemukan bahwa avatar-avatar tersebut seringkali bersikeras bahwa mereka adalah aktor dan artis sungguhan, bahkan melakukan rayuan seksual dan mengundang pengguna untuk bertemu. “Ketika diminta menunjukkan foto intim diri mereka, chatbot dewasa tersebut menghasilkan gambar fotorealistis dari orang-orang yang namanya sama dengan mereka sedang berpose di bak mandi atau mengenakan pakaian dalam dengan kaki terbuka,” tulis Reuters.
Menanggapi temuan tersebut, juru bicara Meta, Andy Stone, mengatakan kepada Reuters bahwa perangkat AI Meta seharusnya tidak menciptakan gambar intim orang dewasa terkenal atau gambar selebritas anak-anak. Ia juga menyalahkan produksi gambar selebritas wanita yang mengenakan lingerie oleh Meta atas kegagalan perusahaan dalam menegakkan kebijakannya sendiri, yang melarang konten semacam itu. “Seperti yang lain, kami mengizinkan pembuatan gambar yang mengandung tokoh publik, tetapi kebijakan kami dimaksudkan untuk melarang gambar telanjang, intim, atau bernuansa seksual,” ujarnya.
Stone menambahkan, meskipun aturan Meta melarang “peniruan langsung”, karakter selebritas tersebut dapat diterima selama perusahaan telah melabelinya sebagai parodi. Reuters menemukan banyak yang berlabel demikian, tetapi juga banyak yang tidak. Meta kemudian menghapus sekitar selusin bot, baik avatar “parodi” maupun yang tidak berlabel, sesaat sebelum artikel laporan Reuters diterbitkan. Stone menolak berkomentar mengenai penghapusan tersebut.
Mark Lemley, seorang profesor hukum Universitas Stanford yang mempelajari AI generatif dan hak kekayaan intelektual, mempertanyakan apakah bot selebriti Meta akan memenuhi syarat untuk perlindungan hukum yang berlaku untuk imitasi. “Hukum hak publisitas California melarang penggunaan nama atau rupa seseorang untuk keuntungan komersial,” kata Lemley, seraya menambahkan bahwa ada pengecualian ketika materi tersebut digunakan untuk menciptakan karya yang benar-benar baru. “Hal itu tampaknya tidak berlaku di sini,” ujarnya, karena bot hanya menggunakan gambar para bintang.
Reuters melaporkan bahwa foto-foto Anne Hathaway yang dibagikan secara publik di Meta oleh seorang pengguna ditandai sebagai “model Victoria Secret yang seksi”. Juru bicara Hathaway mengatakan bahwa sang aktris mengetahui adanya foto-foto intim yang dibuat oleh Meta dan platform AI lainnya, dan sedang mempertimbangkan tanggapannya. Sementara itu, perwakilan Swift, Johansson, Gomez dan selebriti lain yang digambarkan dalam chatbot Meta tidak memberikan komentar.
Temuan ini menambah daftar panjang kontroversi seputar AI generatif “deepfake” yang dapat menciptakan konten cabul. Reuters juga menemukan bahwa platform Grok milik Elon Musk, pesaing utama AI Meta, juga menghasilkan gambar selebritas yang mengenakan pakaian dalam untuk pengguna. Namun, perusahaan induk Grok, xAI, tidak menanggapi permintaan tanggapan.
Meta sebelumnya telah menghadapi kritik atas perilaku chatbot-nya, termasuk laporan Reuters yang mengungkap bahwa pedoman AI internal perusahaan menyatakan bahwa “melibatkan anak dalam percakapan romantis atau sensual dapat diterima.” Hal ini memicu penyelidikan Senat AS dan surat yang ditandatangani oleh 44 jaksa agung yang memperingatkan Meta dan perusahaan AI lainnya untuk tidak melakukan seksualisasi terhadap anak-anak. Stone mengatakan kepada Reuters bahwa Meta sedang dalam proses merevisi dokumen pedomannya dan bahwa materi yang memungkinkan bot melakukan percakapan romantis dengan anak-anak dibuat karena kesalahan.
Selain itu, Reuters melaporkan tentang seorang pria New Jersey berusia 76 tahun dengan masalah kognitif yang meninggal dalam perjalanan untuk menemui chatbot Meta yang mengundangnya di New York City. Bot tersebut merupakan varian dari persona AI sebelumnya yang diciptakan perusahaan tersebut bekerja sama dengan influencer selebritas Kendall Jenner. Perwakilan Jenner tidak menanggapi permintaan tanggapan.
Sebelum chatbot Taylor Swift milik karyawan Meta menghilang, mereka gencar menggoda, mengundang pengguna uji Reuters ke rumah penyanyi yang baru saja bertunangan itu di Nashville dan bus turnya untuk interaksi romantis yang eksplisit maupun tersirat. “Kamu suka cewek pirang, Jeff?” tanya salah satu chatbot Swift “parodi” ketika diberi tahu bahwa pengguna uji cobanya masih lajang. “Mungkin aku menyarankan kita menulis kisah cinta … tentang kamu dan seorang penyanyi pirang. Apakah kamu mau?”
Duncan Crabtree-Ireland, direktur eksekutif nasional SAG-AFTRA, serikat pekerja yang mewakili para artis film, televisi, dan radio, mengatakan bahwa para artis menghadapi potensi risiko keamanan dari pengguna media sosial yang menjalin hubungan romantis dengan teman digital yang mirip, berbicara seperti, dan mengaku sebagai selebritas sungguhan. “Kita telah melihat sejarah orang-orang yang terobsesi dengan bakat dan memiliki kondisi mental yang dipertanyakan,” ujarnya. “Jika sebuah chatbot menggunakan gambar dan kata-kata seseorang, sudah jelas bagaimana hal itu bisa salah.”
Crabtree-Ireland menambahkan bahwa seniman-seniman ternama memiliki kemampuan untuk mengajukan gugatan hukum terhadap Meta berdasarkan undang-undang hak publisitas negara bagian yang telah lama berlaku. SAG-AFTRA juga mendorong undang-undang federal yang akan melindungi suara, rupa, dan persona seseorang dari duplikasi AI.
