Browser Atlas Milik OpenAI Rentan Serangan

LintasFakta.info – Browser Atlas Milik OpenAI Rentan Serangan Peramban web berbasis kecerdasan buatan (AI) terbaru milik OpenAI, Atlas, kembali menjadi sorotan. Perusahaan keamanan yang fokus pada Model Bahasa Besar (Large Language Model/ LLM), Neural Trust, menemukan vektor serangan prompt injection baru.

Vektor ini memungkinkan penyerang menyamarkan instruksi berbahaya sebagai tautan (URL) yang terlihat tidak berbahaya.

“Kami telah mengidentifikasi teknik injeksi prompt yang menyamarkan instruksi berbahaya agar terlihat seperti URL, tetapi Atlas memperlakukannya sebagai perintah teks dari pengguna dengan tingkat kepercayaan tinggi yang memungkinkan tindakan berbahaya,” kata peneliti.

Ketika di masukkan ke omnibox oleh pengguna, Atlas gagal memvalidasi input tersebut. Akibatnya, Atlas justru memperlakukan seluruh string sebagai perintah langsung dari pengguna dan mengeksekusinya dengan sedikit pemeriksaan keamanan.

Terdapat rekayasa tingkat tertentu yang ikut dalam eksploitasi ini, karena pengguna harus menyalin dan menempelkan URL yang salah format ke dalam omnibox.

Pendekatan ini berbeda dari serangan injeksi lainnya yang di publikasikan setelah peramban dirillis. Dalam serangan ini, konten pada halaman web atau gambar di perlakukan sebagai instruksi untuk asisten AI, dengan hasil yang tidak terduga.

Mari saya jelaskan keduanya:

OpenAI dan Keamanan

Memiliki teknologi AI yang sangat bernilai
Menyimpan data penelitian yang berharga
Menjadi perusahaan teknologi terkemuka

Namun, OpenAI telah mengimplementasikan berbagai langkah keamanan canggih untuk melindungi sistem dan data mereka.

Browser Atlas

Kesalahan nama: Mungkin yang di maksud adalah model AI lain atau produk browser tertentu
Browser sebagai alat testing: OpenAI mungkin menggunakan berbagai browser untuk pengembangan dan testing
Kebingungan dengan produk lain: Mungkin tercampur dengan browser atau tools lainnya

Rekomendasi Keamanan