Keamanan sistem operasi server menjadi prioritas utama di tengah meningkatnya ancaman siber seperti brute force, Denial of Service (DoS), dan port scanning. Penelitian ini bertujuan mendesain dan menerapkan sistem Intrusion Detection System (IDS) dan Intrusion Prevention System (IPS) berbasis integrasi Wazuh dan Suricata untuk mendeteksi, merespons, dan memitigasi ancaman tersebut. Penelitian dilakukan menggunakan metodologi Design Research Methodology (DRM) yang mencakup desain sistem, implementasi, dan evaluasi. Pengujian dilakukan dengan 39 skenario serangan yang mencakup bruteforce, DoS, dan port scanning. Hasil pengujian menunjukkan sistem mampu menyelesaikan 30 poin dengan tingkat keberhasilan 76,92%, sementara 9 poin dengan tingkat kegagalan 23,08%. lainnya masih membutuhkan perbaikan. Sistem ini terbukti andal dalam mendeteksi serangan secara real-time, merespons ancaman dengan tindakan otomatis seperti pemblokiran IP penyerang, memitigasi serangan, serta memberikan notifikasi kepada administrator. Temuan ini diharapkan dapat menjadi acuan dalam pengembangan solusi keamanan berbasis open-source untuk meningkatkan perlindungan sistem operasi server, serta menjadi dasar bagi penelitian lebih lanjut dalam skala yang lebih luas.

Sistem operasi server security is a top priority amidst the increasing threat of cyberattacks such as brute force, Denial of Service (DoS), and port scanning. This study aims to design and implement an Intrusion Detection System (IDS) and Intrusion Prevention System (IPS) based on the integration of Wazuh and Suricata to detect, respond to, and mitigate these threats. The research was conducted using the Design Research Methodology (DRM), encompassing system design, implementation, and evaluation. Testing involved 39 attack scenarios, including brute force, DoS, and port scanning. The results demonstrated that the system successfully addressed 30 points, achieving a success rate of 76.92%, while 9 points, with a failure rate of 23.08%, require further improvement. The system proved reliable in detecting attacks in real-time, responding to threats with automated actions such as blocking attackers' IP addresses, mitigating attacks, and notifying administrators. These findings are expected to serve as a reference for developing open-source security solutions to enhance sistem operasi server protection and form the basis for further research on a larger scale.