Jangan lewatkan berita industri pemasaran besok

Berikut ini adalah artikel tamu oleh John Villafranco, mitra Kelley Drye yang menyediakan layanan litigasi dan konseling untuk merek rumah tangga dan perusahaan Fortune 500 dengan fokus pada undang-undang periklanan dan perlindungan konsumen. Pendapat adalah milik penulis sendiri.

Saat teknologi kecerdasan buatan (AI) berkembang pesat, undang-undang berupaya mengimbangi untuk mengurangi risiko model yang semakin kuat. Korporasi yang menggunakan AI dengan cepat menyadari banyak peluang yang diberikan oleh teknologi, tetapi juga mempelajari masalah hukum terkait di bidang-bidang seperti perlindungan konsumen, privasi, dan etika.

Misalnya, ChatGPT dan Model Bahasa Besar (LLM) lainnya dapat menghasilkan keluaran yang salah, menyesatkan, bias, ilegal, atau tidak akurat, dan mungkin sulit untuk melacak sumber kesalahan atau meminta pertanggungjawaban siapa pun atas konsekuensinya. Masalah-masalah ini memerlukan intervensi peraturan — sebuah fakta yang diakui bahkan oleh Sam Altman, kepala eksekutif OpenAI. Dan setiap intervensi semacam itu akan menimbulkan risiko dan potensi tanggung jawab bagi pengiklan dan pemasar, sekaligus memprioritaskan keamanan.

Panduan Komisi Perdagangan Federal

Komisi Perdagangan Federal telah menyatakan, jika perilaku tersebut bersifat komersial, ia menganggap regulasi berada dalam domainnya. Jika perilaku tersebut merugikan konsumen, bisnis harus mengharapkan FTC untuk bertindak. Ini berlaku untuk AI seperti halnya bentuk periklanan dan pemasaran tradisional lainnya.

Dalam pedoman yang baru-baru ini dirilis, FTC mengingatkan pengguna AI bahwa mereka tidak boleh terlibat dalam praktik yang lebih berbahaya daripada kebaikan dan teknologi tidak boleh digunakan untuk mengarahkan orang secara tidak adil atau menipu ke dalam keputusan yang berbahaya. Bidang perhatian yang diidentifikasi termasuk keuangan, kesehatan, pendidikan, perumahan dan pekerjaan.

Panduan FTC juga mencatat bahwa manipulasi dapat menjadi praktik yang menipu atau tidak adil berdasarkan Bagian 5 Undang-Undang FTC ketika output AI generatif mengarahkan konsumen ke situs web, penyedia layanan, atau produk tertentu karena hubungan komersial. Panduan ini konsisten dengan fokus FTC baru-baru ini pada apa yang disebut "pola gelap" — praktik atau format desain canggih yang memanipulasi atau menyesatkan konsumen untuk mengambil tindakan yang seharusnya tidak mereka lakukan.

Bulan lalu, dengan mengacu pada film thriller psikologis 2014 "Ex Machina," FTC memperingatkan perusahaan tentang terlalu mengandalkan chatbots dan AI generatif untuk menyediakan layanan pelanggan dan menyelesaikan pertanyaan konsumen. FTC menyatakan keprihatinan tentang keterbatasan kemampuan teknologi untuk menyelesaikan masalah yang kompleks, potensi informasi yang tidak akurat atau tidak memadai, dan risiko keamanan terkait.

Dalam pendapat baru-baru ini yang diterbitkan di New York Times, Ketua FTC Lina Khan menyatakan bahwa FTC mencermati cara terbaik untuk mencapai mandat ganda mereka untuk mempromosikan persaingan yang sehat dan untuk melindungi orang Amerika dari praktik periklanan yang tidak adil atau menipu. Kekhawatiran utamanya ketika berbicara tentang AI adalah untuk mencegahnya mengunci dominasi pasar dari perusahaan teknologi besar yang sedang menjabat, tetapi praktik periklanan yang tidak adil dan menipu terkait AI jelas berada di radar agensi.

Meningkatnya masalah privasi

Penggunaan LLM dalam produk bisnis juga meningkatkan masalah privasi yang ada, yang dapat merusak reputasi perusahaan atau mempertanyakan integritasnya dengan konsumen dan regulator pemerintah. Misalnya, ChatGPT dapat:

• Secara sengaja atau tidak sengaja menggunakan informasi pribadi yang diperoleh tanpa dasar hukum atau tanpa transparansi dan pemberitahuan yang memadai;
• Mengekspos data atau referensi pribadi pengguna kepada pihak ketiga, yang dapat mengakses atau menganalisis input dan output alat, yang berpotensi membahayakan perlindungan data atau kewajiban kerahasiaan; Dan
• Mengungkapkan informasi sensitif yang diberikan pengguna ke alat, baik secara sengaja maupun tidak sengaja, seperti data keuangan, catatan kesehatan, atau rahasia dagang, yang dapat menimbulkan kewajiban akibat pelanggaran data.

Salah satu dari hasil ini dapat mengekspos perusahaan untuk bertanggung jawab berdasarkan Undang-Undang FTC dan undang-undang negara bagian yang melarang tindakan dan praktik yang tidak adil dan menipu.

Keluhan dan tuntutan hukum AI saat ini

Pihak-pihak yang berkepentingan mengawasi dan siap mengambil langkah-langkah untuk meminta pertanggungjawaban korporasi. Misalnya, Pusat Kecerdasan Buatan dan Kebijakan Digital (CAIDP) baru-baru ini mengajukan keluhan kepada FTC, mendesak badan tersebut untuk menyelidiki OpenAI, menyatakan bahwa praktik bisnisnya tidak adil dan menipu yang melanggar Undang-Undang FTC, dan mengajukan pertanyaan serius mengenai bias, keselamatan anak, perlindungan konsumen, keamanan dunia maya, penipuan, privasi, transparansi, dan keamanan publik.

Sejumlah tuntutan hukum pribadi juga telah diajukan dengan tuduhan pelanggaran hak cipta karena AI. Misalnya, Microsoft, GitHub, dan Open AI saat ini menjadi tergugat dalam gugatan perwakilan kelompok dari California yang mengklaim bahwa produk AI penghasil kode mereka melanggar undang-undang hak cipta dengan mengeluarkan kode berlisensi tanpa memberikan kredit. Getty Images juga mengajukan gugatan terhadap Stability AI, menuduh alat seni AI mereka mengambil gambar dari situsnya.

Dan kepedulian bersifat global, bukan hanya domestik. Pada bulan Maret 2023, Garante, Otoritas Pengawas Data Italia, memerintahkan OpenAI untuk berhenti memproses data pengguna Italia di bawah larangan sementara, menyatakan bahwa ChatGPT kemungkinan melanggar GDPR (kurangnya pemberitahuan kepada pengguna, tidak ada dasar hukum untuk pemrosesan, kegagalan memverifikasi usia pengguna atau mencegah anak-anak menggunakan layanan). Selain itu, Kantor Komisioner Privasi Kanada membuka penyelidikan terhadap OpenAI tentang “pengumpulan, penggunaan, dan pengungkapan informasi pribadi tanpa persetujuan”. Kantor Komisaris Privasi Philippe Dufresne telah menyatakan bahwa tetap berada di depan "kemajuan teknologi yang bergerak cepat" adalah bidang fokus utama.

Pertimbangan bagi pemasar

Dengan begitu banyak perhatian pada AI, pengiklan dan pemasar sangat disarankan untuk melanjutkan dengan hati-hati. Untuk saat ini, karena potensi dampak positif dari sistem canggih ini mulai disadari, hal itu berarti memastikan keamanan dibangun ke dalam sistem, data digunakan secara bertanggung jawab, praktik transparan, dan akurasi faktual dipromosikan melalui pengawasan manusia dan peluang intervensi.