Koinons — Anthropic tidak memberikan akses pra-rilis model AI terbarunya, Claude Mythos 5.1, kepada lembaga pengujian keamanan AI milik pemerintah Inggris. Keputusan tersebut memicu kekhawatiran di kalangan pemerintah Inggris mengenai akses terhadap teknologi AI frontier dan kemampuan negara tersebut dalam menguji risiko model-model terbaru.

Laporan Financial Times menyebut Anthropic memilih untuk memberikan akses awal Mythos 5.1 kepada organisasi di Amerika Serikat yang telah melalui proses verifikasi. Sementara itu, AI Security Institute (AISI) Inggris tidak mendapatkan akses tersebut sebelum model dirilis.
Keputusan tersebut menjadi perhatian karena AISI sebelumnya memperoleh akses terhadap sejumlah model AI mutakhir untuk melakukan pengujian keamanan sebelum model tersedia secara luas.

Mythos 5.1 punya kemampuan keamanan siber yang tinggi

Claude Mythos 5.1 merupakan salah satu model terbaru Anthropic yang ditujukan untuk pekerjaan dengan risiko dan kebutuhan komputasi tinggi, khususnya di bidang cybersecurity dan life sciences.
Anthropic menyatakan Mythos 5.1 telah melalui pengujian ekstensif, termasuk red-teaming dan evaluasi otomatis untuk mengukur kemampuannya dalam membantu pekerjaan yang berkaitan dengan kimia dan biologi.

Kemampuan cybersecurity model ini juga menjadi perhatian karena model AI semakin mampu menemukan kerentanan perangkat lunak dan membantu melakukan pekerjaan keamanan secara otomatis.

Sebelumnya, AISI sendiri telah menguji versi awal Claude Mythos untuk mengevaluasi kemampuan cybersecurity-nya. Lembaga tersebut menyebut pengujian model frontier diperlukan untuk memahami kemampuan model sekaligus mengembangkan mitigasi terhadap risiko yang mungkin muncul.

Inggris kehilangan akses pengujian sebelum rilis

Menurut laporan Financial Times, keputusan Anthropic untuk tidak memberikan akses awal kepada AISI menimbulkan kekhawatiran di dalam pemerintahan Inggris.
Salah satu alasannya adalah perubahan akses terhadap model frontier dapat memengaruhi kemampuan lembaga pemerintah untuk memahami kemampuan dan risiko teknologi tersebut sebelum digunakan secara lebih luas.

AISI selama ini menjadi salah satu lembaga pemerintah yang aktif menguji model AI generasi terbaru. Lembaga tersebut bekerja sama dengan pengembang AI dan peneliti untuk mengevaluasi kemampuan model serta mengembangkan metode pengujian keamanan.

Dengan tidak adanya akses pra-rilis terhadap Mythos 5.1, Inggris tidak dapat melakukan evaluasi terhadap model tersebut dalam kondisi yang sama seperti sebelumnya.

Akses diberikan kepada organisasi di Amerika Serikat

Financial Times melaporkan Mythos 5.1 untuk tahap awal hanya diberikan kepada organisasi Amerika Serikat yang telah diverifikasi.
Belum ada bukti publik yang menunjukkan bahwa keputusan Anthropic tersebut merupakan instruksi langsung dari pemerintah Amerika Serikat. Financial Times juga mencatat bahwa dugaan adanya tekanan pemerintah AS terhadap Anthropic belum terkonfirmasi.

Anthropic sendiri mengatakan mereka sedang memperluas akses terhadap teknologi tersebut melalui kerja sama dengan pemerintah Amerika Serikat.

Karena itu, keputusan tersebut tidak tepat jika langsung disebut sebagai larangan pemerintah AS terhadap Inggris.

Yang terlihat saat ini adalah akses terhadap model AI frontier mulai diberikan secara lebih selektif berdasarkan lokasi dan status organisasi.

Mengapa akses terhadap model AI menjadi penting?

Model seperti Mythos 5.1 tidak hanya digunakan untuk menghasilkan teks.
Anthropic memposisikan Mythos sebagai model yang mampu membantu pekerjaan di bidang cybersecurity dan life sciences. Kemampuan tersebut membuat pengujian independen menjadi semakin penting karena model yang lebih kuat juga dapat memiliki kemampuan yang berpotensi disalahgunakan.

Dalam konteks cybersecurity, misalnya, AI yang mampu menemukan kerentanan dengan cepat dapat membantu perusahaan memperbaiki sistem. Namun kemampuan yang sama juga dapat meningkatkan risiko jika digunakan untuk tujuan ofensif.

AISI sebelumnya memang menggunakan akses terhadap model frontier untuk menguji kemampuan semacam ini. Lembaga tersebut menyebut dirinya sebagai organisasi pemerintah yang bertujuan memahami risiko AI tingkat lanjut dan mengembangkan mitigasi berdasarkan pengujian teknis.

Persaingan AI mulai masuk ke ranah geopolitik

Kasus Mythos 5.1 menunjukkan bahwa persaingan AI tidak lagi hanya berkaitan dengan siapa yang memiliki model paling pintar.
Siapa yang boleh mengakses model tersebut juga mulai menjadi persoalan strategis.

Amerika Serikat memiliki sebagian besar perusahaan AI frontier terbesar, sementara negara lain membutuhkan akses terhadap model tersebut untuk melakukan penelitian, pengujian keamanan, dan pengembangan kebijakan.

Kondisi tersebut berpotensi menciptakan kesenjangan antara negara yang memiliki akses langsung terhadap model dan negara yang hanya dapat mempelajarinya setelah tersedia secara umum.

Kekhawatiran tersebut muncul di tengah meningkatnya pembahasan mengenai kontrol ekspor teknologi AI dan chip canggih dari Amerika Serikat. Financial Times melaporkan pejabat Inggris melihat pembatasan akses terhadap model AI sebagai bagian dari risiko yang lebih luas terhadap keamanan nasional dan ekonomi.

Untuk saat ini, belum ada indikasi bahwa akses Inggris terhadap seluruh teknologi Anthropic telah dihentikan. Persoalan yang muncul lebih spesifik pada akses pra-rilis terhadap Mythos 5.1 untuk keperluan pengujian keamanan.

Namun jika pola tersebut semakin luas, lembaga pemerintah di luar Amerika Serikat dapat menghadapi tantangan baru: mereka perlu mengawasi perkembangan AI frontier tanpa selalu mendapatkan kesempatan untuk menguji model tersebut sebelum digunakan secara luas.