Login
Login
Pengembangan chatbot layanan informasi pada PMI Surabaya menggunakan Retrieval-Augmented Generation
Palang Merah Indonesia (PMI) Surabaya menghadapi keterbatasan dalam menyediakan layanan informasi yang responsif dan tersedia 24/7. Penelitian ini bertujuan mengembangkan sistem chatbot berbasis Retrieval-Augmented Generation (RAG) yang menjawab pertanyaan umum seputar PMI dan memberikan pre-assessment kelayakan donor darah serta rekomendasi jadwal personal. Sistem dibangun menggunakan hybrid retrieval yang mengintegrasikan metode keyword-based (BM25) dengan semantic-based (XLM-RoBERTa embeddings). Studi komparatif dilakukan terhadap dua Large Language Model (LLM), yaitu Llama 3.1: 8B dan Mistral 7B melalui tiga fase pengujian mencakup seleksi kombinasi retrieval, optimasi parameter alpha, dan tuning top-k. Evaluasi objektif menggunakan framework RAGAS dengan metrik Faithfulness, Answer Relevancy, Context Recall, dan Context Precision menunjukkan Mistral 7B unggul dalam validitas informasi dengan Faithfulness 0.803, Context Recall 0.843, dan Context Precision 0.722, melampaui Llama 3.1 (masing-masing 0.730, 0.753, dan 0.671). Sementara itu, evaluasi subjektif melibatkan 199 responden membuktikan Llama 3.1: 8B unggul dibandingkan Mistral 7B dalam metrik readability, relevance, consistency, informativeness, dan naturalness. Rule-Based Classifier untuk pre-assessment kelayakan donor telah tervalidasi melalui 86 unit tests dengan tingkat keberhasilan 100%. Mempertimbangkan bahwa akurasi informasi adalah prioritas absolut dalam layanan informasi dibandingkan dengan gaya bahasa, Mistral 7B dengan konfigurasi optimal (α=0.4, top-k=10) dipilih untuk deployment sistem.
Program Business Information System
Universitas Kristen Petra
2026
Indonesian
S1
Skripsi No. 02022837/INF/2026; Cathlyn Angeline (C14220133)
Similar collections by subject
Close
Download QR code