Saat Pemimpin Dunia Rekrut ChatGPT: Perdana Menteri Swedia Akui Pakai AI untuk Tugas Kenegaraan, Inovasi atau Bencana?

Alarm Darurat dari Para Ahli

Namun, langkah perintis ini sontak menyalakan alarm darurat di kalangan pakar teknologi dan kritikus. Gagasan bahwa kebijakan sebuah negara bisa dipengaruhi oleh algoritma komersial dianggap sebagai sebuah preseden yang berbahaya.

"Anda harus berhati-hati," peringat Simone Fischer-Hubner, seorang peneliti Ilmu Komputer di Universitas Karlstad, yang menegaskan bahwa AI tidak cocok digunakan untuk mengolah informasi yang sensitif atau rahasia.

Kekhawatiran terbesar adalah tentang bias yang tertanam dalam AI. Virginia Dignum, seorang profesor AI di Universitas Umeå, mengingatkan bahwa AI tidak bisa memberikan penilaian yang objektif.

"Semakin banyak menggunakan AI untuk keputusan sederhana, semakin besar risiko kehilangan kontrol dan dapat memunculkan kesalahan fatal," ujar Dignum, menyoroti bahaya ketergantungan berlebihan yang bisa menimbulkan rasa percaya diri yang keliru.

Benteng Pertahanan Sang Perdana Menteri

Menghadapi gelombang kritik, Ulf Kristersson dengan cepat membangun benteng pertahanannya. Ia menegaskan bahwa ada batasan yang jelas dan tidak bisa ditawar.

"Saya tidak pernah mengunggah dokumen apapun ke sistem AI," tegasnya, memastikan bahwa laporan, mosi, atau keputusan penting negara tetap aman dan rahasia. Juru bicaranya, Tom Samuelsson, memperkuat pernyataan ini, "Tentu saja tidak ada informasi sensitif yang dibagikan melalui AI. Itu semua hanya digunakan sebagai acuan."