DeepMind Bermitra dengan Google Cloud, Beri Watermark pada Gambar Produk AI
loading...
Google Deepmind, divisi penelitian AI Google, bekerja sama dengan Google Cloud meluncurkan alat untuk memberi watermark dan mengidentifikasi gambar yang dihasilkan AI. Foto/Google
A
A
A
MENLO PARK - Google Deepmind, divisi penelitian AI Google, bekerja sama dengan Google Cloud meluncurkan alat untuk memberi watermark dan mengidentifikasi gambar yang dihasilkan AI. Namun, ini berlaku hanya pada gambar yang dibuat oleh model penghasil gambar milik Google sendiri.
Alat tersebut, yang disebut SnythID dan tersedia dalam versi beta untuk pengguna Vertex AI tertentu. Platform Google untuk membuat aplikasi dan model AI ini menyematkan watermark (tanda air) digital langsung ke dalam piksel gambar.
Jadi membuatnya seolah-olah tidak terlihat oleh mata manusia tetapi dapat dideteksi oleh algoritma. SynthID hanya mendukung Imagen, model teks ke gambar Google, yang tersedia secara eksklusif di Vertex AI.
“Meskipun AI generatif dapat membuka potensi kreatif yang sangat besar, hal ini juga menghadirkan risiko baru. Seperti memungkinkan pembuat konten menyebarkan informasi palsu, baik secara sengaja maupun tidak,” tulis DeepMind dalam postingan blognya dikutip SINDOnews dari laman TechCrunch, Rabu (30/8/2023).
Google sebelumnya mengatakan akan menyematkan metadata untuk memberi sinyal pada media visual yang dibuat oleh model AI generatif. SynthID, tentu saja, melangkah lebih jauh dari ini.
“Kemampuan mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memberdayakan masyarakat dengan pengetahuan tentang kapan mereka berinteraksi dengan media yang dihasilkan, dan untuk membantu mencegah penyebaran informasi yang salah,” lanjut DeepMind.
DeepMind mengklaim bahwa SynthID, memanfaatkan dua model AI, satu untuk watermarking dan satu lagi untuk mengidentifikasi, yang dilatih bersama pada kumpulan gambar yang “beragam”. SynthID tidak dapat mengidentifikasi gambar yang diberi watermark dengan keyakinan 100%.
Namun alat ini membedakan antara gambar yang mungkin tidak berisi watrermark dan gambar yang kemungkinan besar mempunyai watermark. “SynthID bukanlah solusi yang mudah terhadap manipulasi gambar yang ekstrem, namun dapat memberikan pendekatan teknis yang menjanjikan untuk bekerja dengan konten yang dihasilkan AI secara bertanggung jawab,” tulis DeepMind.
Alat tersebut, yang disebut SnythID dan tersedia dalam versi beta untuk pengguna Vertex AI tertentu. Platform Google untuk membuat aplikasi dan model AI ini menyematkan watermark (tanda air) digital langsung ke dalam piksel gambar.
Jadi membuatnya seolah-olah tidak terlihat oleh mata manusia tetapi dapat dideteksi oleh algoritma. SynthID hanya mendukung Imagen, model teks ke gambar Google, yang tersedia secara eksklusif di Vertex AI.
“Meskipun AI generatif dapat membuka potensi kreatif yang sangat besar, hal ini juga menghadirkan risiko baru. Seperti memungkinkan pembuat konten menyebarkan informasi palsu, baik secara sengaja maupun tidak,” tulis DeepMind dalam postingan blognya dikutip SINDOnews dari laman TechCrunch, Rabu (30/8/2023).
Google sebelumnya mengatakan akan menyematkan metadata untuk memberi sinyal pada media visual yang dibuat oleh model AI generatif. SynthID, tentu saja, melangkah lebih jauh dari ini.
“Kemampuan mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memberdayakan masyarakat dengan pengetahuan tentang kapan mereka berinteraksi dengan media yang dihasilkan, dan untuk membantu mencegah penyebaran informasi yang salah,” lanjut DeepMind.
DeepMind mengklaim bahwa SynthID, memanfaatkan dua model AI, satu untuk watermarking dan satu lagi untuk mengidentifikasi, yang dilatih bersama pada kumpulan gambar yang “beragam”. SynthID tidak dapat mengidentifikasi gambar yang diberi watermark dengan keyakinan 100%.
Baca Juga :
Google Luncurkan Fitur Verifikasi Informasi
Namun alat ini membedakan antara gambar yang mungkin tidak berisi watrermark dan gambar yang kemungkinan besar mempunyai watermark. “SynthID bukanlah solusi yang mudah terhadap manipulasi gambar yang ekstrem, namun dapat memberikan pendekatan teknis yang menjanjikan untuk bekerja dengan konten yang dihasilkan AI secara bertanggung jawab,” tulis DeepMind.
