Perkembangan teknologi kecerdasan buatan memungkinkan pembelajaran bahasa asing dilakukan secara lebih interaktif, termasuk dalam konteks percakapan yang selama ini kurang difasilitasi oleh aplikasi pembelajaran bahasa Jepang konvensional. Penelitian ini bertujuan mengembangkan sebuah aplikasi pembelajaran bahasa Jepang berbasis Large Language Models (LLM) dengan memanfaatkan teknik prompt engineering pada Qwen 3 dan Calm 3. Aplikasi ini menyediakan variasi persona, topik percakapan kontekstual, serta fitur analisis otomatis untuk memberikan koreksi dan umpan balik terhadap kesalahan pengguna.Efektivitas pembelajaran diuji menggunakan desain pre-test dan post-test kepada 16 responden dengan instrumen berupa 12 soal yang mencakup aspek pemahaman konteks percakapan, pemilihan tingkat kesopanan, dan penggunaan kosakata kontekstual. Kemudahan penggunaan diukur melalui usability testing dan instrumen System Usability Scale (SUS), sedangkan kualitas respons dan akurasi analisis LLM dievaluasi oleh enam narasumber ahli menggunakan skala Likert dan metrik accuracy, precision, recall, serta F1-Score. Hasil penelitian menunjukkan peningkatan signifikan pada kemampuan percakapan kontekstual, dengan rata-rata skor naik dari 7,19 menjadi 9,88. Pengujian usability menghasilkan skor SUS 90,16 (Grade A), menandakan tingkat penggunaan yang mudah. Evaluasi ahli menunjukkan bahwa Calm 3 lebih unggul memberikan respons sebagai persona, namun kedua model masih memerlukan penyempurnaan pada persona Klien. Secara keseluruhan, aplikasi terbukti efektif, akurat, dan layak digunakan sebagai media pembelajaran percakapan bahasa Jepang berbasis teks.