DeepMind Bermitra dengan Google Cloud, Beri Watermark pada Gambar Produk AI

MENLO PARK - Google Deepmind, divisi penelitian AI Google, bekerja sama dengan Google Cloud meluncurkan alat untuk memberi watermark dan mengidentifikasi gambar yang dihasilkan AI. Namun, ini berlaku hanya pada gambar yang dibuat oleh model penghasil gambar milik Google sendiri.

Alat tersebut, yang disebut SnythID dan tersedia dalam versi beta untuk pengguna Vertex AI tertentu. Platform Google untuk membuat aplikasi dan model AI ini menyematkan watermark (tanda air) digital langsung ke dalam piksel gambar.

Jadi membuatnya seolah-olah tidak terlihat oleh mata manusia tetapi dapat dideteksi oleh algoritma. SynthID hanya mendukung Imagen, model teks ke gambar Google, yang tersedia secara eksklusif di Vertex AI.



“Meskipun AI generatif dapat membuka potensi kreatif yang sangat besar, hal ini juga menghadirkan risiko baru. Seperti memungkinkan pembuat konten menyebarkan informasi palsu, baik secara sengaja maupun tidak,” tulis DeepMind dalam postingan blognya dikutip SINDOnews dari laman TechCrunch, Rabu (30/8/2023).

Google sebelumnya mengatakan akan menyematkan metadata untuk memberi sinyal pada media visual yang dibuat oleh model AI generatif. SynthID, tentu saja, melangkah lebih jauh dari ini.

“Kemampuan mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memberdayakan masyarakat dengan pengetahuan tentang kapan mereka berinteraksi dengan media yang dihasilkan, dan untuk membantu mencegah penyebaran informasi yang salah,” lanjut DeepMind.

DeepMind mengklaim bahwa SynthID, memanfaatkan dua model AI, satu untuk watermarking dan satu lagi untuk mengidentifikasi, yang dilatih bersama pada kumpulan gambar yang “beragam”. SynthID tidak dapat mengidentifikasi gambar yang diberi watermark dengan keyakinan 100%.



Namun alat ini membedakan antara gambar yang mungkin tidak berisi watrermark dan gambar yang kemungkinan besar mempunyai watermark. “SynthID bukanlah solusi yang mudah terhadap manipulasi gambar yang ekstrem, namun dapat memberikan pendekatan teknis yang menjanjikan untuk bekerja dengan konten yang dihasilkan AI secara bertanggung jawab,” tulis DeepMind.

Teknik watermarking untuk seni generatif bukanlah hal baru. Startup Perancis Imatag, diluncurkan pada tahun 2020, menawarkan alat watermarking yang diklaim tidak terpengaruh oleh perubahan ukuran, pemotongan, pengeditan atau kompresi gambar, mirip dengan SynthID.


Perusahaan lain, Steg.AI, menggunakan model AI untuk menerapkan tanda air yang dapat bertahan dari perubahan ukuran dan pengeditan lainnya. Namun tekanan semakin meningkat pada perusahaan-perusahaan teknologi untuk menyediakan cara untuk memperjelas bahwa pekerjaan mereka dihasilkan oleh AI.

Baru-baru ini, Administrasi Ruang Siber China mengeluarkan peraturan yang mewajibkan vendor AI generatif menandai konten yang dihasilkan, termasuk pembuat teks dan gambar, tanpa memengaruhi penggunaan pengguna. Dalam sidang komite Senat AS baru-baru ini, Senator Kyrsten Sinema (I-AZ) menekankan perlunya transparansi penggunaan AI generatif, termasuk dengan watermark.



Pada bulan Mei di konferensi Build tahunannya, Microsoft berkomitmen untuk memberi watermark pada gambar dan video yang dihasilkan AI “menggunakan metode kriptografi.” Shutterstock dan startup AI generatif, Midjourney, mengadopsi pedoman ini untuk menyematkan penanda bahwa konten dibuat oleh alat AI generatif.

DALL-E 2 OpenAI, alat teks ke gambar, menyisipkan tanda air kecil di sisi kanan bawah gambar yang dihasilkannya. Namun sejauh ini, standar watermarking yang umum, baik untuk membuat watermark maupun mendeteksinya, terbukti sulit dipahami.

SynthID, seperti teknologi lain yang telah diusulkan, tidak akan berguna untuk generator gambar apa pun yang bukan Imagen. DeepMind mengatakan sedang mempertimbangkan untuk membuat SynthID tersedia bagi pihak ketiga dalam waktu dekat.