16 — Feature Engineering Berbasis Domain Knowledge
Tujuan: Menjelaskan cara merancang fitur baru yang berangkat dari pengetahuan domain/RQ — bukan transform generik tanpa substansi — serta cara mendokumentasikannya agar dapat diaudit di skripsi DS/ML.
Poin checklist terkait:
- Feature engineering berdasarkan domain knowledge (bukan asal transform)
Lihat Checklist Metodologi Penelitian ML-DS.
Materi sebelumnya: 15 — Scaling & normalisasi · Materi berikutnya: 17 — Feature selection
Terkait: 03 — Cross-validation & partisi · 04 — Data leakage · 05 — Baseline & perbandingan adil · 14 — Encoding kategorikal.
Rekayasa fitur yang dapat dibela
Feature engineering membuat atau mengubah representasi variabel agar sinyal relevan terhadap target atau RQ lebih mudah dipelajari model. Di skripsi, FE yang kuat biasanya lahir dari pemahaman domain — bukan dari daftar transform di tutorial.
Bedakan dari tetangga pipeline: cleaning/imputasi/encoding/scaling adalah pra-pemrosesan teknis (12–15); feature selection memilih subset yang sudah ada (17); PCA atau embedding generik tanpa narasi domain adalah reduksi matematis — sah, tetapi jangan diklaim sebagai “pengetahuan domain”.
Transform asal menerapkan log, polinomial, atau PCA ke semua kolom karena “biasanya dilakukan”, lalu mengklaim itu kontribusi utama. FE yang dapat dibela punya landasan domain atau hipotesis RQ, definisi operasional yang dapat diulang, dan arti yang masih bisa dijelaskan ke pembaca non-ML. Jika log dipakai semata karena skewness ekstrem, sebut sebagai transformasi numerik untuk stabilisasi — bukan FE berbasis domain.
Dari mana ide fitur berasal?
Sumber yang paling kuat adalah teori, instrumen, atau SOP domain: skor risiko baku, cut-off klinis, indikator akademik resmi, flag aturan bisnis (melewati_sla). Proses operasional menghasilkan frekuensi event dalam jendela waktu, rasio keterlambatan, atau waktu respons — selalu dengan grain (unit) yang jelas agar tidak double counting saat agregasi dari transaksi ke pelanggan atau dari kunjungan ke pasien.
Fitur waktu rawan leakage. Kalender (hari dalam minggu, hari libur) biasanya aman jika diketahui saat prediksi. Lag dan rolling hanya memakai masa lalu relatif ke titik prediksi; window harus berakhir sebelum \(t\). “Hari ke deadline” tidak boleh memakai informasi setelah label terbentuk.
Rasio dan selisih bermakna (hutang/pendapatan, dosis/berat_badan) serta interaksi hanya jika ada hipotesis — bukan semua pasangan fitur. Untuk teks, citra, atau sinyal, jelaskan mengapa TF–IDF, deskriptor bentuk, atau ringkasan spektral relevan bagi RQ, bukan sekadar karena tersedia di library.
| Domain | Fitur bermakna | Mengapa bukan asal-asalan |
|---|---|---|
| Akademik | rasio_sks_lulus / sks_tempuh |
Progres studi |
| Klinis tabular | MAP dari sistol/diastol | Rumus fisiologis baku |
| E-commerce | RFM | Kerangka domain mapan |
| Maintenance | jam sejak service terakhir | Proksi keausan |
Anti-leakage dan urutan pipeline
Leakage lewat FE sering lebih halus daripada scaling (04): kolom pasca-kejadian; mean target per kategori dari seluruh data (mendekati target encoding — 14); rolling yang menyentuh masa depan; agregasi user dari periode termasuk test. Untuk setiap baris pada waktu \(t\), pakai hanya informasi sah pada atau sebelum \(t\). Statistik yang dipelajari dari data (mean grup, IDF) di-fit pada train. Data panel mengikuti time-based split (03).
Cleaning → missing → encoding
→ FE domain (sebagian flag/rasio boleh lebih awal)
→ (opsional) feature selection
→ scaling pada kolom numerik final ([15](15_scaling_normalisasi.md))
→ model
Scaling biasanya setelah FE numerik final agar mean/std dihitung pada kolom yang benar-benar masuk model. AutoFE atau deep features boleh dipakai di S1 jika input, batasan, dan representasi dijelaskan, dan dibandingkan dengan baseline fitur sederhana bila diklaim lebih baik (05).
Dokumentasi
| Fitur baru | Definisi / rumus | Landasan | Sumber | Tersedia saat inferensi? |
|---|---|---|---|---|
bmi |
berat / tinggi² | antropometrik | berat, tinggi |
ya |
freq_login_7d |
count login pada [t-7, t) | engagement | log login | ya |
Feature engineering disusun berdasarkan [kerangka domain/SOP]. Fitur yang ditambahkan meliputi
…, didefinisikan sebagai …, dengan alasan …. Dihitung hanya dari informasi yang tersedia pada titik prediksi. Transformasi generik tanpa landasan domain tidak dijadikan klaim utama.
Yang sering bermasalah
- “Dilakukan feature engineering” tanpa daftar fitur.
- Polynomial/PCA pada semua kolom sebagai satu-satunya “FE”.
- Fitur tidak tersedia saat prediksi nyata.
- Kolom pasca-kejadian dipakai memprediksi kejadian.
- FE dan feature selection dicampur tanpa metode terpisah.
Sebelum lanjut ke selection/model
FE yang dapat dibela menambah sinyal karena ada alasan domain dan definisi jelas — bukan karena memperbanyak kolom. Setelah kandidat fitur terkunci, seleksi subset dibahas di 17.