OpenAI telah merevisi perjanjiannya dengan Departemen Pertahanan AS untuk secara eksplisit melarang penggunaan teknologi kecerdasan buatan untuk pengawasan domestik terhadap warga negara Amerika. Langkah ini dilakukan setelah adanya kritik luas terhadap kesepakatan awal, yang tampaknya memberi Pentagon akses luas terhadap sistem AI OpenAI untuk tujuan apa pun yang sah.
Kontroversi Awal dan Peran Pemerintahan Trump
Kemitraan awal ini, yang diumumkan pada hari Jumat, bertepatan dengan arahan Presiden Trump kepada lembaga-lembaga federal untuk menghentikan penggunaan AI yang dikembangkan oleh pesaing OpenAI, Anthropic. Hal ini menimbulkan pertanyaan tentang pengaruh politik terhadap keputusan pengadaan AI. Berdasarkan perjanjian pertama, OpenAI mempertahankan hak untuk menerapkan “pagar teknis” pada teknologinya untuk memastikan kepatuhan terhadap prinsip-prinsip keselamatannya, namun sifat kontrak yang terbuka memicu kekhawatiran tentang potensi penyalahgunaan.
Detail Kontrak yang Direvisi
Perjanjian yang diubah tersebut kini mencakup pembatasan yang jelas terhadap pengawasan yang disengaja terhadap warga atau warga negara AS, serta perolehan atau penggunaan data pribadi untuk tujuan pelacakan atau pemantauan. OpenAI menegaskan hal ini sejalan dengan undang-undang federal yang mengatur privasi dan kebebasan sipil. Perusahaan menekankan komitmennya untuk menegakkan standar keselamatan yang dinyatakan sambil tetap berkolaborasi dengan sektor pertahanan.
Respon Pentagon dan Sikap Antropis
Departemen Pertahanan mengeluarkan pernyataan yang menunjukkan bahwa mereka menerima negosiasi, tidak seperti Anthropic, yang mereka tuduh memprioritaskan perselisihan pribadi dibandingkan kerja sama. Kesediaan Pentagon untuk membahas persyaratan berbeda dengan penolakan Anthropic untuk terlibat dalam pembicaraan serupa.
Kontrak yang diperbarui ini merupakan respons langsung terhadap reaksi publik terhadap perjanjian awal. Implikasinya sangat signifikan: hal ini menandakan semakin besarnya tekanan terhadap pengembang AI untuk menyeimbangkan kepentingan keamanan nasional dan kepentingan hak-hak sipil. Kasus ini menyoroti keseimbangan antara penerapan AI di bidang militer dan kebutuhan untuk menjaga privasi individu, serta menimbulkan pertanyaan tentang bagaimana kesepakatan serupa akan disusun di masa depan.
Pada akhirnya, keputusan OpenAI untuk mengubah kesepakatannya menunjukkan bahwa bahkan dalam kemitraan berisiko tinggi dengan lembaga pemerintah, pengawasan publik dapat memaksa perusahaan untuk memprioritaskan pertimbangan etis.
