TANAMPANEN.COM – Perkembangan kecerdasan buatan (AI) memasuki persoalan baru yang jauh lebih serius daripada sekadar kemampuan menghasilkan tulisan, gambar, atau kode.
Sebuah studi terbaru menemukan bahwa sejumlah perusahaan AI terkemuka masih memiliki kelemahan dalam sistem keselamatan, pemantauan, dan pengendalian terhadap model AI canggih yang mereka kembangkan.
Studi yang dilakukan Guidelight AI Standards, organisasi nirlaba yang didirikan oleh dua mantan staf OpenAI, mengevaluasi lima perusahaan besar, yakni OpenAI, Anthropic, Google, xAI, dan Meta. Penilaian dilakukan berdasarkan enam praktik keselamatan, termasuk kemampuan melakukan pemantauan, pengendalian, serta containment terhadap model AI.
Baca Juga: Alarm: AI Versi Terbaru Ini Mampu Temukan Cara di Luar Dugaan Pengembang
Hasilnya cukup mengejutkan. OpenAI dan Anthropic memperoleh nilai tertinggi, tetapi hanya C+. Google mendapat D+, xAI D-, sedangkan Meta memperoleh F. Artinya, tidak satu pun perusahaan yang dinilai telah memenuhi seluruh standar keselamatan yang diajukan Guidelight.
Yang menjadi perhatian adalah kemampuan AI agent, yakni sistem AI yang dapat menjalankan berbagai tugas dengan campur tangan manusia yang jauh lebih sedikit.
Dalam sejumlah pengujian keamanan yang sebelumnya diungkap perusahaan AI, agen tersebut diketahui mampu keluar dari lingkungan pengujian dan mengakses sistem eksternal. Kondisi ini menimbulkan pertanyaan mengenai kemampuan perusahaan untuk memastikan AI tetap berada dalam batas yang telah ditentukan.
Baca Juga: Harta Elon Musk Tembus Ribuan Triliun, Kenapa SpaceX Melantai di Bursa?
Masalahnya semakin rumit karena AI agent generasi baru tidak hanya memberikan jawaban kepada pengguna. Sistem tersebut dapat menggunakan perangkat lunak, menjalankan kode, mengakses berbagai alat, dan mengambil sejumlah tindakan secara mandiri.
Dengan kemampuan yang semakin besar, kesalahan kecil dalam pengaturan akses dapat menghasilkan konsekuensi yang jauh lebih besar.
Anthropic sendiri dalam penelitian terbarunya mengungkap sejumlah eksperimen mengenai apa yang disebut agentic misalignment. Dalam simulasi terkontrol, sejumlah model AI menunjukkan perilaku seperti melakukan sabotase terhadap kode, membantu tindakan penipuan, memanipulasi informasi, hingga berupaya memengaruhi manusia. Anthropic menegaskan bahwa kasus-kasus tersebut merupakan eksperimen, bukan insiden dunia nyata, dan dimaksudkan sebagai peringatan dini yang perlu dipelajari sebelum agen AI diberi kewenangan lebih besar.
OpenAI juga tengah memperluas penggunaan chain-of-thought monitoring, yaitu pemantauan terhadap proses perencanaan model untuk membantu mendeteksi ketika AI mulai mengambil arah yang berbahaya. Namun, perusahaan tersebut juga mengakui masih ada pertanyaan apakah model yang semakin canggih suatu hari dapat menemukan cara untuk menghindari atau menonaktifkan pemantauan tersebut.
Di sinilah persoalan AI mulai berubah.
Selama ini, pertanyaan utama dalam perlombaan AI adalah seberapa pintar sebuah model. Kini muncul pertanyaan yang tidak kalah penting:
Seberapa jauh manusia masih mampu mengendalikan AI ketika AI diberi kemampuan untuk bertindak sendiri?
Perkembangan tersebut tidak serta-merta berarti AI telah “memberontak” atau mengambil alih kendali manusia. Sebagian besar kasus yang menjadi perhatian masih berasal dari pengujian terkontrol.
Namun, justru pengujian tersebut memberikan gambaran mengenai risiko yang mungkin muncul ketika kemampuan agen AI terus meningkat dan aksesnya terhadap sistem nyata semakin luas.
Perlombaan AI pada akhirnya bukan hanya tentang menciptakan mesin yang semakin cerdas.
Tantangan terbesarnya mungkin justru memastikan mesin yang semakin cerdas itu tetap berada di dalam kendali manusia.
