CEO OpenAI, Sam Altman, mengumumkan bahwa perusahaannya telah mencapai kesepakatan dengan Departemen Pertahanan AS (DoD) untuk menggunakan model AI mereka dalam jaringan rahasia departemen tersebut. Kesepakatan ini muncul setelah perselisihan antara DoD dan pesaing OpenAI, Anthropic.
DoD, yang juga dikenal sebagai Departemen Perang, mendorong perusahaan AI, termasuk Anthropic, untuk mengizinkan model mereka digunakan untuk “semua tujuan yang sah”. Anthropic, di sisi lain, ingin menarik garis merah di sekitar pengawasan domestik massal dan senjata otonom penuh.
CEO Anthropic, Dario Amodei, menyatakan bahwa perusahaannya tidak pernah keberatan dengan operasi militer tertentu atau berupaya membatasi penggunaan teknologi mereka secara ad hoc. Namun, mereka percaya bahwa dalam kasus tertentu, AI dapat merusak nilai-nilai demokrasi.
Lebih dari 60 karyawan OpenAI dan 300 karyawan Google menandatangani surat terbuka yang meminta perusahaan mereka untuk mendukung posisi Anthropic. Presiden Donald Trump mengkritik Anthropic dan mengarahkan lembaga federal untuk berhenti menggunakan produk perusahaan setelah masa tenggang enam bulan.
Sekretaris Pertahanan Pete Hegseth menuduh Anthropic mencoba merebut kekuasaan veto atas keputusan operasional militer AS. Dia juga menetapkan Anthropic sebagai risiko rantai pasokan, melarang kontraktor militer AS untuk melakukan aktivitas komersial dengan Anthropic.
Anthropic membantah tuduhan tersebut dan berjanji untuk menantang penetapan risiko rantai pasokan di pengadilan. Altman mengklaim bahwa kontrak pertahanan OpenAI mencakup perlindungan yang mengatasi masalah yang menjadi titik pertikaian bagi Anthropic.
Altman mengatakan bahwa dua prinsip keselamatan terpenting OpenAI adalah larangan pengawasan massal domestik dan tanggung jawab manusia atas penggunaan kekuatan, termasuk untuk sistem senjata otonom. DoD setuju dengan prinsip-prinsip ini dan memasukkannya ke dalam perjanjian mereka.
OpenAI akan membangun perlindungan teknis untuk memastikan model mereka berperilaku sebagaimana mestinya, dan akan menempatkan insinyur dengan Pentagon untuk membantu dengan model mereka dan memastikan keamanannya. Altman meminta DoD untuk menawarkan persyaratan yang sama kepada semua perusahaan AI.
Altman juga menyatakan bahwa pemerintah akan mengizinkan perusahaan untuk membangun “tumpukan keamanan” sendiri untuk mencegah penyalahgunaan, dan pemerintah tidak akan memaksa OpenAI untuk membuat model melakukan tugas jika model tersebut menolak.
Pengumuman Altman muncul tak lama sebelum berita bahwa pemerintah AS dan Israel telah mulai mengebom Iran, dengan Trump menyerukan penggulingan pemerintah Iran.
Kesepakatan OpenAI dengan Pentagon terjadi di tengah meningkatnya kekhawatiran tentang potensi penyalahgunaan AI dalam aplikasi militer. Persyaratan spesifik dari kesepakatan tersebut, dan bagaimana mereka akan ditegakkan, masih harus dilihat.
Muncul pertanyaan mengenai dampak potensial dari kesepakatan ini terhadap pengembangan dan penyebaran AI, serta implikasi etis dari penggunaan AI dalam peperangan.
Seperti yang dilansir dari TechCrunch, OpenAI akan tetap memegang kendali atas penerapan, sistem keamanan, dan akses model AI mereka.
