“Ini adalah Momen Oppenheimer generasi kita,” kata Menteri Luar Negeri Austria Alexander Schallenberg, merujuk pada J. Robert Oppenheimer, yang membantu menciptakan bom atom pada tahun 1945 sebelum melanjutkan untuk mengadvokasi kontrol atas penyebaran senjata nuklir.
Pejabat sipil, militer dan teknologi dari lebih dari 100 negara bertemu Senin di Wina untuk membahas bagaimana ekonomi mereka dapat mengendalikan penggabungan AI dengan teknologi militer – dua sektor yang baru-baru ini menghidupkan investor, membantu mendorong valuasi saham ke level tertinggi dalam sejarah.
Menyebarkan konflik global dikombinasikan dengan insentif keuangan bagi perusahaan untuk mempromosikan AI menambah tantangan mengendalikan robot pembunuh, menurut Jaan Tallinn, investor awal di platform AI Alphabet Inc DeepMind Technologies.
“Insentif Silicon Valley mungkin tidak selaras dengan umat manusia lainnya,” kata Tallinn.
Pemerintah di seluruh dunia telah mengambil langkah-langkah untuk berkolaborasi dengan perusahaan yang mengintegrasikan alat AI ke dalam pertahanan. Pentagon menuangkan jutaan dolar ke dalam start-up AI.
Uni Eropa pekan lalu membayar Thales SA untuk membuat database citra untuk membantu mengevaluasi target medan perang.
+972 Magaine yang berbasis di Tel Aviv melaporkan bulan ini bahwa Israel menggunakan program kecerdasan buatan yang disebut “Lavender” untuk menghasilkan target pembunuhan.
Setelah cerita – yang diperdebatkan Israel – Sekretaris Jenderal Perserikatan Bangsa-Bangsa Antonio Guterres mengatakan dia “sangat terganggu” oleh laporan penggunaan AI dalam kampanye militer Gaa dan bahwa tidak ada bagian dari keputusan hidup dan mati yang harus didelegasikan ke perhitungan dingin algoritma.
“Masa depan bot pembantaian ada di sini,” kata Anthony Aguirre, seorang fisikawan yang memperkirakan lintasan teknologi akan diambil dalam film pendek 2017 yang dilihat oleh lebih dari 1,6 juta pemirsa. “Kami membutuhkan perjanjian pengendalian senjata yang dinegosiasikan oleh Majelis Umum PBB.”
Tetapi para pendukung solusi diplomatik kemungkinan akan frustrasi, setidaknya dalam jangka pendek, menurut Alexander Kmentt, pejabat tinggi perlucutan senjata Austria dan arsitek konferensi minggu ini.
“Pendekatan klasik untuk pengendalian senjata tidak berhasil karena kita tidak berbicara tentang sistem senjata tunggal tetapi kombinasi teknologi penggunaan ganda,” kata Kmentt dalam sebuah wawancara.
Alih-alih menyerang perjanjian “magnum opus” baru, Kmentt menyiratkan bahwa negara-negara mungkin dipaksa untuk mengacaukan dengan alat hukum yang sudah mereka miliki.
Menegakkan kontrol ekspor dan hukum kemanusiaan dapat membantu menjaga penyebaran sistem senjata AI, katanya.
Dalam jangka panjang, setelah teknologi dapat diakses oleh aktor non-negara dan berpotensi bagi teroris, negara-negara akan dipaksa untuk menulis aturan baru, prediksi Arnoldo André Tinoco, menteri luar negeri Kosta Rika.
“Ketersediaan senjata otonom yang mudah menghilangkan keterbatasan yang memastikan hanya sedikit yang bisa memasuki perlombaan senjata,” katanya. “Sekarang siswa dengan printer 3D dan pengetahuan pemrograman dasar dapat membuat drone dengan kapasitas untuk menyebabkan korban yang meluas. Sistem senjata otonom selamanya mengubah konsep stabilitas internasional.”