Context.id, JAKARTA - Meningkatnya konten-konten yang dihasilkan teknologi kecerdasan buatan (AI) baik itu berupa gambar, video, rekaman suara yang sangat realistis dan dulunya hanya bisa dibuat oleh para desainer atau seniman dan teknisi ahli telah membawa perubahan besar di dunia digital. 

Di satu sisi, teknologi AI membuat karya atau konten-konten bermutu tidak lagi dikuasai segelintir orang atau bisa disebut mendemokratisasi pembuatan konten.

Namun sisi lainnya, AI juga punya sisi gelapnya, yakni tidak menghargai proses kreatif dan penghayatan pemikiran, duplikasi karya sampai pada disinformasi dan penipuan. 

Saking sulitnya mengidentifikasi mana konten asli dan mana konten AI, beberapa raksasa teknologi seperti Google dan Microsoft didesak untuk mengajak dan menjaga keaslian dan integritas konten. 

Ancaman yang ditimbulkan oleh deep fake bukanlah sesuatu yang sepele, ini adalah masalah serius secara global dan menuntut kolaborasi, inovasi, dan standar yang ketat. 

Untuk itu, Linux Foundation pun mengambil peran dengan menggagas Coalition for Content Provenance and Authenticity (C2PA), badan standar terbuka yang berupaya membangun kepercayaan dalam media digital. 

Dengan menyematkan metadata dan tanda air ke dalam gambar, video, dan berkas audio, spesifikasi C2PA  memungkinkan pelacakan dan verifikasi asal, pembuatan, dan modifikasi konten digital.

Melansir zdnet, dalam beberapa bulan terakhir, Google telah meningkatkan keterlibatannya secara signifikan dengan C2PA.

Langkah ini mengikuti keputusan Meta untuk bergabung dengan komite yang sama pada awal September 2024, yang menandai peningkatan signifikan dalam partisipasi industri.

Google kini mengintegrasikan aturan-aturan C2PA ke dalam layanan intinya, termasuk Google Search, Ads, dan, akhirnya, YouTube.

Hal ini memungkinkan pengguna melihat metadata dan mengidentifikasi apakah suatu gambar telah dibuat atau diubah menggunakan AI, Google bertujuan untuk memerangi penyebaran konten yang dimanipulasi dalam skala besar.

Microsoft juga telah menanamkan C2PA ke dalam perangkat andalannya, seperti Designer dan CoPilot, untuk memastikan bahwa semua konten AI yang dibuat atau dimodifikasi tetap dapat dilacak. 

Langkah ini melengkapi pekerjaan Microsoft pada Project Origin, yang menggunakan tanda tangan kriptografi untuk memverifikasi integritas konten digital, sehingga menciptakan pendekatan berlapis-lapis terhadap asal usul.

Bagaimanapun, keterlibatan raksasa teknologi ini dalam memerangi deepfake AI sangat dibutuhkan. Terlebih lagi selama beberapa tahun terakhir, rakasa teknologi terutama Google, Meta dan Apple terus dirundung masalah baik itu soal pajak, kekerasan seksual secara digital dan banyak hal lain. 

Persoalannya, Apple dan X (dulunya Twitter) absen dalam kolektif ini. Padahal, raksasa teknologi lain di luar yang sudah disebutkan seperti Amazon, Intel, Truepic, Arm, Sony dan juga media BBC sudah bergabung dengan inisiatif ini 

Mereka bergabung agar deepfake dan konten yang dihasilkan AI dapat dikelola dengan baik, ekosistem lengkap untuk verifikasi konten harus dibangun.

Ekosistem ini akan mencakup sistem operasi, alat pembuatan konten, layanan cloud, dan platform sosial untuk memastikan media digital dapat diverifikasi di setiap tahap siklus hidupnya.

Sistem operasi seperti Windows, macOS, iOS, Android , dan sistem tertanam untuk perangkat IoT dan kamera harus mengintegrasikan C2PA sebagai pustaka inti.

Hal ini memastikan bahwa setiap berkas media yang dibuat, disimpan, atau diubah pada sistem ini secara otomatis membawa metadata yang diperlukan untuk keaslian, sehingga mencegah manipulasi konten.

Sistem operasi tertanam sangat penting dalam perangkat seperti kamera dan perekam suara, yang menghasilkan media dalam jumlah besar.

Misalnya, rekaman keamanan atau rekaman suara yang diambil oleh perangkat ini harus diberi tanda atau watermark untuk mencegah manipulasi atau penyalahgunaan. 

Mengintegrasikan C2PA pada tingkat ini menjamin keterlacakan konten, apa pun aplikasi yang digunakan.

Platform seperti Adobe Creative Cloud, Microsoft Office, dan Final Cut Pro harus menanamkan standar C2PA dalam layanan dan penawaran produk mereka untuk memastikan gambar, video, dan file audio diverifikasi sejak awa dibuat.  

Platform cloud, termasuk Google Cloud, Azure, AWS, Oracle Cloud, dan iCloud milik Apple, harus mengadopsi C2PA untuk memastikan konten yang dihasilkan AI dan dihosting di cloud dapat dilacak sejak saat konten tersebut dibuat. 

Ketidakhadiran X juga sangat mengkhawatirkan. Padahal belum lama ini X telah memperkenalkan alat GenAI untuk pembuatan gambar. Grok 2 yang baru-baru ini dirilis oleh xAI memungkinkan pengguna untuk membuat gambar yang sangat realistis dari perintah teks.

Namun, alat ini tidak memiliki pembatas untuk mencegah pembuatan konten yang kontroversial atau menyesatkan, seperti penggambaran tokoh masyarakat yang realistis. 

Kurangnya pengawasan ini menimbulkan kekhawatiran tentang kemampuan X untuk mengelola misinformasi, terutama mengingat keengganan Elon Musk untuk menerapkan moderasi konten yang kuat.

Masalahnya, platform media sosial seperti Meta, TikTok, X, dan YouTube merupakan salah satu saluran distribusi konten digital terbesar.

Seiring dengan terus terintegrasinya kemampuan AI generatif pada platform-platform ini, peran mereka dalam verifikasi konten menjadi semakin penting. 

Jika tidak ada inisiatif untuk bergabung dan menerapkan aturan C2PA, platform medsos menjadi sasaran empuk misinformasi dan disinformasi, karena pengguna tidak memiliki alat untuk memverifikasi asal atau keaslian konten yang dihasilkan AI