Artificial Intelligence (AI) telah menjadi salah satu teknologi paling transformatif dalam dunia bisnis. Organisasi di seluruh dunia mengadopsi Generative AI (GenAI), AI Agent, dan otomatisasi cerdas untuk meningkatkan produktivitas, mempercepat inovasi, serta mengoptimalkan proses operasional. Namun di balik manfaat tersebut, AI juga membuka permukaan serangan baru yang semakin kompleks.
Menurut laporan terbaru Fortinet, pelaku ancaman kini memanfaatkan AI untuk mempercepat seluruh siklus serangan, mulai dari reconnaissance, pencarian kerentanan, social engineering, hingga aktivitas pasca-kompromi. Akibatnya, tim Security Operations Center (SOC) menghadapi tantangan yang jauh lebih berat dibandingkan sebelumnya. Waktu eksploitasi (Time-to-Exploit/TTE) untuk kerentanan kritis kini dapat menyusut menjadi hanya 24–48 jam, memberikan ruang yang sangat sempit bagi tim keamanan untuk mendeteksi dan merespons ancaman.
Dalam konteks inilah FortiNDR Cloud hadir sebagai solusi Network Detection and Response (NDR) yang memanfaatkan AI, machine learning, dan behavioral analytics untuk membantu organisasi mendeteksi ancaman modern yang sering kali tidak terlihat oleh mekanisme keamanan tradisional.
Mengapa AI Membantu Penyerang?
Dulu, serangan siber berskala besar membutuhkan banyak sumber daya manusia. Kini AI memungkinkan pelaku ancaman mengotomatisasi berbagai aktivitas.
Evolusi Serangan Siber
| Tahapan Serangan | Pendekatan Tradisional | Pendekatan Berbasis AI |
|---|---|---|
| Reconnaissance | Manual | Otomatis dan masif |
| Social Engineering | Email generik | Phishing yang sangat personal |
| Vulnerability Discovery | Lambat | Sangat cepat |
| Malware Development | Manual coding | AI-assisted generation |
| Lateral Movement | Terbatas | Lebih cepat dan adaptif |
Fortinet melaporkan bahwa aktivitas ransomware meningkat drastis dan berbagai kelompok ancaman mulai menggunakan AI untuk mempercepat pencarian target serta meningkatkan efektivitas serangan. Selain itu, lebih dari 640 miliar aktivitas reconnaissance tercatat dalam paruh kedua 2025, menunjukkan bagaimana otomatisasi dan AI digunakan untuk memindai kelemahan sistem dalam skala industri.
Mengapa Deteksi Berbasis Signature Tidak Lagi Cukup?
Banyak solusi keamanan tradisional masih bergantung pada:
-
Signature malware.
-
Known Indicators of Compromise (IOC).
-
Correlation rules.
-
Daftar IP berbahaya.
Masalahnya, serangan modern sering menggunakan:
-
Kredensial yang sah.
-
Traffic terenkripsi.
-
Living-Off-The-Land Binaries (LOLBins).
-
Aktivitas yang terlihat normal.
Tantangan Keamanan Modern
| Pendekatan Lama | Keterbatasan |
|---|---|
| Signature Detection | Tidak mengenali ancaman baru |
| IOC Matching | Hanya mendeteksi yang sudah diketahui |
| Rule-Based Alert | Sulit menangkap pola kompleks |
| File-Based Detection | Tidak efektif terhadap fileless attack |
Karena itu, organisasi membutuhkan pendekatan yang lebih berorientasi pada perilaku dan konteks aktivitas jaringan.
Peran FortiNDR dalam Menghadapi Ancaman AI
FortiNDR Cloud dirancang untuk memberikan visibilitas jaringan yang mendalam dengan memanfaatkan:
-
Machine Learning.
-
Behavioral Analytics.
-
Heuristic Analysis.
-
AI/ML Detection.
-
Network Traffic Analysis.
Solusi ini membangun baseline aktivitas normal jaringan, kemudian mendeteksi penyimpangan yang dapat mengindikasikan adanya serangan. Pendekatan ini memungkinkan deteksi ancaman yang tidak memiliki signature atau indikator tradisional.
Kemampuan Utama FortiNDR
| Kemampuan | Fungsi |
|---|---|
| Behavioral Analytics | Mendeteksi anomali |
| AI/ML Detection | Mengidentifikasi pola ancaman |
| Network Visibility | Memantau aktivitas jaringan |
| Threat Hunting | Investigasi ancaman |
| Automated Investigation | Mempercepat analisis |
| Incident Response Integration | Mendukung respons otomatis |
Mengatasi Shadow AI
Salah satu risiko terbesar yang muncul dalam era GenAI adalah Shadow AI.
Shadow AI terjadi ketika karyawan menggunakan:
-
Chatbot publik.
-
Layanan AI pihak ketiga.
-
API AI eksternal.
-
Platform GenAI yang tidak disetujui perusahaan.
Aktivitas tersebut dapat menyebabkan:
-
Kebocoran data sensitif.
-
Pelanggaran kebijakan.
-
Risiko kepatuhan.
-
Paparan informasi internal.
FortiNDR Cloud mampu mendeteksi komunikasi dengan layanan AI yang tidak dikelola dan menampilkan aktivitas tersebut melalui dashboard yang mudah dipahami analis keamanan. Dengan demikian organisasi dapat mengetahui sistem mana yang berinteraksi dengan AI eksternal dan mengevaluasi potensi risikonya.
Risiko Shadow AI
| Risiko | Dampak |
|---|---|
| Data Exposure | Kebocoran informasi |
| Compliance Violation | Pelanggaran regulasi |
| Unmanaged Access | Risiko pihak ketiga |
| Intellectual Property Leakage | Hilangnya aset digital |
Deteksi Prompt Injection
Prompt Injection menjadi salah satu ancaman utama pada sistem berbasis AI.
Dalam serangan ini, pelaku mencoba memanipulasi model AI melalui:
-
Prompt berbahaya.
-
Dokumen yang telah dimodifikasi.
-
Input tersembunyi.
-
Instruksi yang menyesatkan.
Tujuannya adalah mengubah perilaku AI sehingga menjalankan tindakan yang tidak diinginkan.
FortiNDR memantau lalu lintas antara aplikasi dan model AI untuk mengidentifikasi pola komunikasi yang tidak biasa yang dapat mengindikasikan upaya prompt injection. Hal ini membantu tim keamanan mendeteksi ancaman sebelum AI Agent atau aplikasi AI melakukan tindakan yang merugikan organisasi.
Karakteristik Prompt Injection
| Aktivitas | Risiko |
|---|---|
| Override Instruksi | Perubahan perilaku AI |
| Manipulasi Output | Informasi salah |
| Data Extraction | Kebocoran data |
| Agent Hijacking | Penyalahgunaan workflow |
Mengidentifikasi Ancaman dari Non-Human Identity
Munculnya AI Agent memperkenalkan konsep Non-Human Identity (NHI).
NHI mencakup:
-
AI Agent.
-
Service Account.
-
API Identity.
-
Autonomous Workflow.
Identitas ini dapat:
-
Mengakses sistem.
-
Menjalankan tugas otomatis.
-
Berinteraksi dengan aplikasi.
-
Memproses data bisnis.
Jika disalahgunakan, dampaknya dapat sangat besar.
FortiNDR menganalisis metadata jaringan untuk mengidentifikasi aktivitas tidak normal yang dilakukan oleh identitas non-manusia. Pendekatan behavioral analytics memungkinkan deteksi terhadap pola aktivitas yang tidak sesuai dengan perilaku normal sebuah agent atau service account.
Evolusi Identitas Digital
| Generasi | Fokus Keamanan |
|---|---|
| User Identity | Pengguna manusia |
| Service Identity | Sistem dan aplikasi |
| Non-Human Identity | AI Agent dan otomatisasi |
FortiAI Assistant: Mempercepat Investigasi SOC
Deteksi hanyalah langkah awal. Tantangan berikutnya adalah investigasi.
FortiNDR kini dilengkapi FortiAI Assistant, yang memungkinkan analis berinteraksi menggunakan bahasa alami.
Analis dapat:
-
Mengajukan pertanyaan.
-
Menelusuri aktivitas jaringan.
-
Menginvestigasi alert.
-
Melakukan triage lebih cepat.
Dampak bagi Tim SOC
| Aktivitas | Sebelum | Sesudah |
|---|---|---|
| Threat Hunting | Query manual | Bahasa alami |
| Triage | Lambat | Lebih cepat |
| Investigasi | Kompleks | Lebih sederhana |
| Analisis Data | Bergantung ahli | Lebih mudah diakses |
Fortinet menyatakan bahwa kemampuan ini membantu menurunkan Mean Time to Detect (MTTD) dan mempercepat proses pemahaman terhadap insiden keamanan.
Mengapa NDR Semakin Penting?
Network Detection and Response menjadi semakin relevan karena banyak perangkat dan sistem yang tidak memiliki agen endpoint.
Contohnya:
-
IoT.
-
OT.
-
Perangkat pihak ketiga.
-
Sistem legacy.
FortiNDR menyediakan visibilitas tanpa agen (agentless visibility) dengan menganalisis metadata jaringan untuk menemukan tanda-tanda perilaku mencurigakan. Pendekatan ini memungkinkan organisasi memonitor aktivitas yang mungkin tidak terlihat oleh solusi EDR tradisional.
Keunggulan NDR
| Keunggulan | Nilai Bisnis |
|---|---|
| Agentless Monitoring | Mencakup lebih banyak aset |
| Behavioral Detection | Deteksi ancaman tersembunyi |
| AI-Based Analytics | Mengurangi false positive |
| Traffic Visibility | Investigasi lebih cepat |
| Integration Ready | Respons terorkestrasi |
Relevansi bagi Organisasi di Indonesia
Adopsi AI di Indonesia terus meningkat pada sektor:
-
Perbankan.
-
Telekomunikasi.
-
Pemerintahan.
-
Energi.
-
Manufaktur.
-
Kesehatan.
Seiring meningkatnya penggunaan AI Agent dan GenAI, organisasi perlu memperluas strategi keamanan mereka.
Risiko yang Perlu Diantisipasi
| Area | Risiko |
|---|---|
| AI Adoption | Shadow AI |
| AI Agent | Identity Abuse |
| GenAI | Data Leakage |
| Automation | Unauthorized Actions |
| Hybrid Cloud | Visibility Gap |
FortiNDR menawarkan pendekatan yang relevan karena mampu menggabungkan AI, machine learning, dan behavioral analytics untuk mendeteksi ancaman yang muncul dari lingkungan digital modern.
Kesimpulan
Meningkatnya penggunaan AI oleh pelaku ancaman telah mengubah lanskap keamanan siber secara fundamental. Serangan kini bergerak lebih cepat, lebih otomatis, dan semakin sulit dikenali oleh mekanisme berbasis signature. Dalam kondisi ini, organisasi membutuhkan visibilitas yang lebih dalam terhadap aktivitas jaringan serta kemampuan mendeteksi perilaku yang menyimpang dari pola normal.
FortiNDR Cloud menjawab tantangan tersebut melalui kombinasi behavioral analytics, machine learning, AI-driven detection, dan network visibility. Dengan kemampuan mendeteksi Shadow AI, prompt injection, aktivitas non-human identity, serta mempercepat investigasi melalui FortiAI Assistant, FortiNDR membantu SOC bergerak lebih cepat menghadapi ancaman yang kini juga bergerak dengan kecepatan mesin.
Fortinet Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi Fortinet.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.