Dario Amodei, CEO Anthropic, menolak permintaan Pentagon untuk akses tak terbatas ke sistem AI mereka. Penolakan ini didasari kekhawatiran tentang penyalahgunaan teknologi.
Amodei menyatakan bahwa AI dapat merusak nilai-nilai demokrasi jika digunakan secara tidak tepat. Ia menyoroti potensi pengawasan massal dan senjata otonom sebagai contohnya.
Pentagon bersikeras bahwa mereka harus memiliki kebebasan untuk menggunakan model AI Anthropic untuk tujuan yang sah. Mereka tidak ingin penggunaan tersebut dibatasi oleh perusahaan swasta.
Penolakan Amodei muncul menjelang tenggat waktu yang diberikan oleh Departemen Pertahanan AS. Mereka mengancam akan memberikan label ‘risiko rantai pasokan’ atau menerapkan Undang-Undang Produksi Pertahanan.
Undang-Undang tersebut memberi presiden wewenang untuk memaksa perusahaan memprioritaskan produksi untuk pertahanan nasional. Amodei menyoroti kontradiksi dalam ancaman tersebut.
“Satu sisi memberi label risiko keamanan; sisi lain menyebut Claude penting bagi keamanan nasional,” ujarnya. Ia menambahkan bahwa Departemen berhak memilih kontraktor yang selaras dengan visi mereka.
Anthropic saat ini menjadi satu-satunya lab AI yang memiliki sistem siap klasifikasi untuk militer. Departemen Pertahanan dilaporkan sedang mempersiapkan xAI untuk tugas tersebut.
Amodei berharap dapat terus melayani Departemen Pertahanan dengan dua perlindungan yang diminta. Ia menawarkan transisi yang mulus jika Departemen memilih penyedia lain.
Intinya, Amodei berkata, “Kita bisa berpisah baik-baik. Tidak perlu bersikap kasar.”. Sikap tegas ini menunjukkan pentingnya etika dalam pengembangan AI.
Keputusan Anthropic menjadi sorotan di tengah perdebatan tentang penggunaan AI dalam bidang militer. Banyak pihak menyerukan regulasi yang ketat untuk mencegah penyalahgunaan teknologi ini.
Penolakan ini juga menyoroti ketegangan antara perusahaan teknologi dan pemerintah terkait kontrol atas AI. Kasus ini dapat menjadi preseden penting untuk masa depan pengembangan AI.
Implikasi dari keputusan Anthropic masih akan terus berkembang. Hal ini memicu diskusi lebih lanjut tentang tanggung jawab perusahaan teknologi.
Keputusan CEO Anthropic ini mencerminkan pertimbangan etis dalam pengembangan dan penerapan teknologi AI, terutama dalam konteks sensitif seperti militer, dikutip dari TechCrunch.
