Sebuah berita mengejutkan muncul: pemerintah Trump memutuskan hubungan dengan Anthropic, perusahaan AI yang didirikan Dario Amodei pada 2021.
Sekretaris Pertahanan Pete Hegseth menggunakan undang-undang keamanan nasional untuk memblokir perusahaan itu dari berbisnis dengan Pentagon.
Alasannya, Amodei menolak teknologi Anthropic digunakan untuk pengawasan massal warga AS atau drone bersenjata otonom.
Anthropic berpotensi kehilangan kontrak senilai 200 juta dolar dan dilarang bekerja dengan kontraktor pertahanan lain.
Presiden Trump memerintahkan semua badan federal untuk segera menghentikan penggunaan teknologi Anthropic. Anthropic berencana melawan Pentagon di pengadilan.
Max Tegmark, fisikawan MIT, memperingatkan bahaya AI yang terlalu kuat dan mendahului kemampuan untuk mengaturnya.
Tegmark mengkritik Anthropic dan perusahaan lain karena menolak regulasi yang mengikat dan mengandalkan janji untuk mengatur diri sendiri.
Anthropic bahkan mencabut janji keselamatan utama mereka untuk tidak merilis sistem AI yang kuat sampai yakin tidak akan membahayakan.
Tegmark berpendapat bahwa tanpa aturan yang jelas, perusahaan-perusahaan ini rentan terhadap tekanan dan konsekuensi.
Tegmark menjelaskan bahwa perusahaan-perusahaan AI besar seperti Anthropic, OpenAI, dan Google DeepMind telah banyak berbicara tentang keselamatan.
Namun, mereka tidak mendukung regulasi keselamatan yang mengikat seperti yang ada di industri lain.
Beberapa perusahaan telah melanggar janji mereka sendiri terkait keamanan dan etika dalam pengembangan dan penerapan AI.
Tegmark juga menyoroti bahwa lobi dari perusahaan AI sangat kuat, bahkan melebihi industri lain seperti bahan bakar fosil dan farmasi. Mereka sering menggunakan argumen ‘China’ untuk menentang regulasi, padahal China juga memiliki aturan ketat terkait AI.
