Serangan AS dan israel ke iran Bukti Keterlibatan AI dalam Militer

Akibat penolakan tersebut, Anthropic dicantumkan sebagai risiko rantai pasokan pertahanan, label yang biasanya diterapkan pada pihak asing.

CEO-nya, Dario Amodei, dalam sebuah wawancara dengan jaringan berita CBS, mengatakan bahwa jangka waktu tiga hari yang diberikan kepada pemerintah AS untuk mengambil keputusan terlalu singkat.

Ia juga mengklaim bahwa ada amandemen pada teks perjanjian yang memungkinkan alasan "keamanan nasional" digunakan untuk memperluas penggunaan Claude di luar konteks militer.

Amodei menekankan bahwa saat ini belum ada model kecerdasan buatan yang cukup matang untuk memastikan bahwa sistem senjata yang sedang dikembangkan tidak akan melakukan kesalahan.

Ia mengatakan bahwa jika kesalahan terjadi, masalah pertanggungjawaban masih belum jelas dan ini membutuhkan diskusi yang lebih luas yang melibatkan Kongres dan masyarakat Amerika.