Kecerdasan Buatan Tidak Beretika, Paus Leo Memperingatkan Bahaya AI

MILAN - Dalam ensiklik pertamanya, Magnifica Humanitas (Kemanusiaan yang Agung), Paus Leo menyerukan kepadapemerintahuntuk memperlambat dan memperketat kontrol atas kecerdasan buatan.

Ia memperingatkan bahwa beberapa sistem senjata otonom telah berada di luar kendali manusia, mengancam untuk menjerumuskan umat manusia ke dalam siklus perang yang tak berkesudahan.

Paus juga menekankan perlunya kerangka hukum yang kuat, pengawasan independen, dan perlindungan hak-hak pekerja dan anak-anak dalam menghadapi perkembangan teknologi yang pesat.

Ia menolak doktrin "perang yang adil," dengan alasan bahwa penggunaan kekerasan hanya mencerminkan kemiskinan dalam hubungan antarmanusia dan selalu memiliki konsekuensi bencana bagi warga sipil.

Lebih lanjut, Paus Leo mengakui peran Gereja yang terlambat dalam mengutuk perbudakan transatlantik dan menyampaikan permintaan maaf. Ia menyerukan kepadaduniauntuk bersama-sama menghadapi pertanyaan-pertanyaan etika dan tanggung jawab yang mendesak di era AI, daripada membangun "Menara Babel" yang lain.

FBI telah mengeluarkan peringatan tentang jenis serangan baru yang disebut Kali365, yang memungkinkan peretas untuk mendapatkan akses ke akun Microsoft 365 tanpa memerlukan kata sandi atau melewati otentikasi multi-faktor.

Ini adalah bentuk "phishing-as-a-service" yang baru ditemukan yang menggunakan infrastruktur otentikasi Microsoft untuk mencuri kredensial akses.

Menurut FBI, Kali365 didistribusikan melalui Telegram tetapi sering muncul sebagai email palsu yang menyamar sebagai layanan berbagi dokumen.

Pengguna tertipu untuk memasukkan kode perangkat mereka ke halaman otentikasi resmi Microsoft, tanpa sengaja memberikan akses kepada penyerang. Peretas kemudian dapat menggunakan kode ini untuk masuk ke Outlook, Teams, atau OneDrive.

Para ahli merekomendasikan agar bisnis memblokir otentikasi kode perangkat atau menetapkan kebijakan akses bersyarat.

Pengguna individu harus waspada terhadap email yang mencurigakan, menghindari mengklik tautan dari sumber yang tidak dikenal, dan selalu memverifikasi keabsahannya sebelum mengambil tindakan apa pun.

Palantir Technologies, sebuah perusahaan perangkat lunak Amerika yang dikenal dengan platform analitik dan integrasi big data-nya, baru-baru ini mengadakan hackathon selama seminggu untuk mengembangkan alat pengawasan pengguna untuk perangkat lunak yang digunakan oleh Departemen Keamanan Dalam Negeri (DHS) dan Imigrasi dan Penegakan Bea Cukai (ICE).

Langkah ini diambil di tengah reaksi negatif dari karyawan dan publik terkait peran perusahaan dalam kampanye deportasi.

Alat baru memungkinkan regulator untuk melacak perilaku mencurigakan, memeriksa log sesi, dan mengidentifikasi siapa yang telah mengakses data sensitif.

Beberapa fitur telah diluncurkan, sementara yang lainnya akan diluncurkan tahun ini. Palantir mengatakan tujuannya adalah untuk meningkatkan transparansi dan kontrol di lingkungan yang sensitif.

Namun, kemitraan dengan ICE terus menuai kontroversi. Banyak karyawan mempertanyakan etika keterlibatan perusahaan dalam membantu operasi deportasi.

Terlepas dari keberatan tersebut, DHS menandatangani kontrak senilai USD1 miliar dengan Palantir, memperkuat posisi perusahaan di sektor teknologi pengawasan imigrasi.