fbpx
27.8 C
Jakarta
Selasa, 25 Juni 2024

Cloudflare mengumumkan Firewall untuk AI

Cloudflare telah mengumumkan pengembangan Firewall untuk AI, lapisan perlindungan yang dapat diterapkan di depan large language models (LLM) yang menjanjikan untuk mengidentifikasi pelanggaran sebelum mencapai model tersebut.

Diluncurkan pada tanggal 4 Maret, Firewall untuk AI dimaksudkan untuk menjadi web application firewall (WAF) tingkat lanjut untuk aplikasi yang menggunakan LLM, yang terdiri dari seperangkat alat yang dapat diterapkan di depan aplikasi untuk mendeteksi kerentanan dan memberikan visibilitas terhadap ancaman terhadap model.

Cloudflare mengatakan Firewall untuk AI akan menggabungkan WAF tradisional seperti pembatasan kecepatan dan deteksi data sensitif dengan lapisan perlindungan baru yang menganalisis model yang meminta pengguna untuk mengidentifikasi upaya untuk mengeksploitasi model tersebut. Firewall untuk AI akan berjalan di jaringan Cloudflare, memungkinkan Cloudflare mengidentifikasi serangan sejak dini dan melindungi pengguna dan model dari serangan dan penyalahgunaan, kata perusahaan itu. Produk ini sedang dalam pengembangan.

Baca Juga:  Meneliti Masalah Miskonfigurasi Di Google, Amazon, dan Microsoft Cloud

Apa itu AI generatif? Kecerdasan buatan yang diciptakan

Beberapa kerentanan yang memengaruhi aplikasi web dan API tradisional, seperti injeksi dan eksfiltrasi data, juga berlaku di dunia LLM. Namun serangkaian ancaman baru kini relevan karena cara kerja LLM. Misalnya, para peneliti baru-baru ini menemukan kerentanan dalam platform kolaborasi AI yang memungkinkan mereka membajak model dan melakukan tindakan tanpa izin, kata Cloudflare.

Firewall untuk AI Cloudflare akan diterapkan seperti WAF tradisional, di mana setiap permintaan API dengan perintah LLM dipindai untuk mencari pola dan tanda tangan dari kemungkinan serangan.

Ini dapat diterapkan di depan model yang dihosting di platform AI Cloudflare Workers atau model yang dihosting di infrastruktur pihak ketiga mana pun. Selain itu, ini dapat digunakan bersama Cloudflare AI Gateway.

Baca Juga:  Instagram mungkin sedang mempersiapkan chatbot bertenaga AI

Firewall untuk AI akan menjalankan serangkaian deteksi yang dirancang untuk mengidentifikasi upaya injeksi cepat dan pelanggaran lainnya, seperti memastikan topik perintah tetap berada dalam batasan yang ditentukan oleh pemilik model.

Firewall untuk AI juga akan mencari perintah yang tertanam dalam permintaan HTTP atau memungkinkan pelanggan membuat aturan berdasarkan lokasi di badan permintaan JSON di mana perintah tersebut dapat ditemukan.

Setelah diaktifkan, Firewall untuk AI akan menganalisis setiap perintah dan memberikan skor berdasarkan kemungkinan bahwa perintah tersebut berbahaya, kata Cloudflare.






Reporter: Adi Prabowo

Cloudflare telah mengumumkan pengembangan Firewall untuk AI, lapisan perlindungan yang dapat diterapkan di depan large language models (LLM) yang menjanjikan untuk mengidentifikasi pelanggaran sebelum mencapai model tersebut.

Diluncurkan pada tanggal 4 Maret, Firewall untuk AI dimaksudkan untuk menjadi web application firewall (WAF) tingkat lanjut untuk aplikasi yang menggunakan LLM, yang terdiri dari seperangkat alat yang dapat diterapkan di depan aplikasi untuk mendeteksi kerentanan dan memberikan visibilitas terhadap ancaman terhadap model.

Cloudflare mengatakan Firewall untuk AI akan menggabungkan WAF tradisional seperti pembatasan kecepatan dan deteksi data sensitif dengan lapisan perlindungan baru yang menganalisis model yang meminta pengguna untuk mengidentifikasi upaya untuk mengeksploitasi model tersebut. Firewall untuk AI akan berjalan di jaringan Cloudflare, memungkinkan Cloudflare mengidentifikasi serangan sejak dini dan melindungi pengguna dan model dari serangan dan penyalahgunaan, kata perusahaan itu. Produk ini sedang dalam pengembangan.

Baca Juga:  AS berupaya memotong akses cloud China ke AWS, Azure, dan lainnya

Apa itu AI generatif? Kecerdasan buatan yang diciptakan

Beberapa kerentanan yang memengaruhi aplikasi web dan API tradisional, seperti injeksi dan eksfiltrasi data, juga berlaku di dunia LLM. Namun serangkaian ancaman baru kini relevan karena cara kerja LLM. Misalnya, para peneliti baru-baru ini menemukan kerentanan dalam platform kolaborasi AI yang memungkinkan mereka membajak model dan melakukan tindakan tanpa izin, kata Cloudflare.

Firewall untuk AI Cloudflare akan diterapkan seperti WAF tradisional, di mana setiap permintaan API dengan perintah LLM dipindai untuk mencari pola dan tanda tangan dari kemungkinan serangan.

Ini dapat diterapkan di depan model yang dihosting di platform AI Cloudflare Workers atau model yang dihosting di infrastruktur pihak ketiga mana pun. Selain itu, ini dapat digunakan bersama Cloudflare AI Gateway.

Baca Juga:  Google Mungkin Menggantikan Beberapa Karyawan Manusia Dengan AI

Firewall untuk AI akan menjalankan serangkaian deteksi yang dirancang untuk mengidentifikasi upaya injeksi cepat dan pelanggaran lainnya, seperti memastikan topik perintah tetap berada dalam batasan yang ditentukan oleh pemilik model.

Firewall untuk AI juga akan mencari perintah yang tertanam dalam permintaan HTTP atau memungkinkan pelanggan membuat aturan berdasarkan lokasi di badan permintaan JSON di mana perintah tersebut dapat ditemukan.

Setelah diaktifkan, Firewall untuk AI akan menganalisis setiap perintah dan memberikan skor berdasarkan kemungkinan bahwa perintah tersebut berbahaya, kata Cloudflare.






Reporter: Adi Prabowo

Untuk mendapatkan Berita & Review menarik Saksenengku Network
Google News

Artikel Terkait

Populer

Artikel Terbaru