Cloudflare telah mengumumkan pengembangan Firewall untuk AI, lapisan perlindungan yang dapat diterapkan di depan large language models (LLM) yang menjanjikan untuk mengidentifikasi pelanggaran sebelum mencapai model tersebut.
Diluncurkan pada tanggal 4 Maret, Firewall untuk AI dimaksudkan untuk menjadi web application firewall (WAF) tingkat lanjut untuk aplikasi yang menggunakan LLM, yang terdiri dari seperangkat alat yang dapat diterapkan di depan aplikasi untuk mendeteksi kerentanan dan memberikan visibilitas terhadap ancaman terhadap model.
Cloudflare mengatakan Firewall untuk AI akan menggabungkan WAF tradisional seperti pembatasan kecepatan dan deteksi data sensitif dengan lapisan perlindungan baru yang menganalisis model yang meminta pengguna untuk mengidentifikasi upaya untuk mengeksploitasi model tersebut. Firewall untuk AI akan berjalan di jaringan Cloudflare, memungkinkan Cloudflare mengidentifikasi serangan sejak dini dan melindungi pengguna dan model dari serangan dan penyalahgunaan, kata perusahaan itu. Produk ini sedang dalam pengembangan.
Apa itu AI generatif? Kecerdasan buatan yang diciptakan
Beberapa kerentanan yang memengaruhi aplikasi web dan API tradisional, seperti injeksi dan eksfiltrasi data, juga berlaku di dunia LLM. Namun serangkaian ancaman baru kini relevan karena cara kerja LLM. Misalnya, para peneliti baru-baru ini menemukan kerentanan dalam platform kolaborasi AI yang memungkinkan mereka membajak model dan melakukan tindakan tanpa izin, kata Cloudflare.
Firewall untuk AI Cloudflare akan diterapkan seperti WAF tradisional, di mana setiap permintaan API dengan perintah LLM dipindai untuk mencari pola dan tanda tangan dari kemungkinan serangan.
Ini dapat diterapkan di depan model yang dihosting di platform AI Cloudflare Workers atau model yang dihosting di infrastruktur pihak ketiga mana pun. Selain itu, ini dapat digunakan bersama Cloudflare AI Gateway.
Firewall untuk AI akan menjalankan serangkaian deteksi yang dirancang untuk mengidentifikasi upaya injeksi cepat dan pelanggaran lainnya, seperti memastikan topik perintah tetap berada dalam batasan yang ditentukan oleh pemilik model.
Firewall untuk AI juga akan mencari perintah yang tertanam dalam permintaan HTTP atau memungkinkan pelanggan membuat aturan berdasarkan lokasi di badan permintaan JSON di mana perintah tersebut dapat ditemukan.
Setelah diaktifkan, Firewall untuk AI akan menganalisis setiap perintah dan memberikan skor berdasarkan kemungkinan bahwa perintah tersebut berbahaya, kata Cloudflare.
