ANALISIS KOMPARATIF LEVENSHTEIN DISTANCE, SSDEEP, DAN TLSH PADA STRING JA3 UNTUK DETEKSI MALICIOUS TRAFFIC TLS

Nirwasita, Othman Satria (2026) ANALISIS KOMPARATIF LEVENSHTEIN DISTANCE, SSDEEP, DAN TLSH PADA STRING JA3 UNTUK DETEKSI MALICIOUS TRAFFIC TLS. Skripsi thesis, UPN Veteran Yogyakarta.

	Text 123220157_Cover - OTHMAN SATRIA NIRWASITA.pdf Download (510kB)
	Text 123220157_Abstrak - OTHMAN SATRIA NIRWASITA.pdf Download (212kB)
	Text 123220157_Halaman Pengesahan - OTHMAN SATRIA NIRWASITA.pdf Download (255kB)
	Text 123220157_Daftar Isi - OTHMAN SATRIA NIRWASITA.pdf Download (295kB)
	Text 123220157_Daftar Pustaka - OTHMAN SATRIA NIRWASITA.pdf Download (176kB)
	Text 123220157_Fulltext - OTHMAN SATRIA NIRWASITA.pdf Restricted to Repository staff only Download (2MB)

Abstract

ABSTRAK
Adopsi Transport Layer Security (TLS) yang semakin meluas telah menghambat inspeksi trafik jaringan secara langsung akibat enkripsi pada lapisan transport. Metode JA3 fingerprinting menawarkan solusi dengan menganalisis metadata TLS ClientHello melalui nilai hash MD5 guna mengidentifikasi profil klien dan ancaman. Namun, JA3 memiliki keterbatasan kritis, meliputi kerentanan terhadap Cipher Stunting, false positive akibat kolisi hash, serta ketidakmampuan mendeteksi variasi ancaman yang dinamis. Penelitian ini mengevaluasi pendekatan berbasis kemiripan string yang diterapkan langsung pada String JA3 pre-hash sebagai alternatif yang lebih adaptif dalam mendeteksi trafik berbahaya pada komunikasi TLS terenkripsi. Tiga algoritma kemiripan string, yaitu Levenshtein Distance, SSDEEP, dan TLSH, dievaluasi tanpa proses hashing MD5 menggunakan 9.874 paket TLS ClientHello dari dataset HIKARI-2021 (3.997 paket Bruteforce, 4.263 paket Probing), dataset Malware Traffic Analysis atau MTA (12 paket Trickbot dan Emotet), serta 1.602 paket benign hasil live capture.
Pengujian dilakukan dalam tiga skenario, yaitu penentuan threshold optimal, uji spesifisitas, dan uji ketahanan lintas keluarga trafik. Kinerja diukur menggunakan Accuracy, Precision, Recall, F1-Score, False Positive Rate (FPR), dan Failure Rate. Levenshtein Distance mencapai F1-Score sebesar 100,00% pada threshold ≤ 46 dengan nilai false positive dan false negative sama dengan nol. SSDEEP mencapai F1-Score sebesar 78,60% namun mengalami design mismatch progresif akibat rendahnya entropi karakter pada String JA3. TLSH mencapai F1-Score sebesar 83,44% dengan FPR sebesar 99,00%, mengindikasikan kalibrasi threshold yang buruk. Seluruh algoritma menghasilkan F1-Score sebesar 0,00% pada skenario lintas keluarga, yang membuktikan spesifisitas yang benar. Levenshtein Distance direkomendasikan sebagai algoritma yang paling sesuai untuk sistem deteksi intrusi berbasis kemiripan String JA3 pra-hash.

Kata Kunci: Analisis trafik terenkripsi, Sistem deteksi intrusi, Keamanan jaringan, Kemiripan string, TLS fingerprinting.

Item Type:	Tugas Akhir (Skripsi)
Uncontrolled Keywords:	Kata Kunci: Analisis trafik terenkripsi, Sistem deteksi intrusi, Keamanan jaringan, Kemiripan string, TLS fingerprinting.
Subjek:	Q Science > QA Mathematics > QA75 Electronic computers. Computer science T Technology > T Technology (General)
Divisions:	Fakultas Teknik Industri > (S1) Informatika
Depositing User:	UPA Perpustakaan
Date Deposited:	12 Oct 2026 04:19
Last Modified:	12 Oct 2026 04:19
URI:	http://eprints.upnyk.ac.id/id/eprint/49726

Actions (login required)

View Item