Chatbot AI yang Berguna, Bukan yang Sekadar Terdengar Pintar

Memanggil sebuah model AI dari aplikasi sekarang bisa dilakukan dalam beberapa baris kode. Hasilnya langsung terlihat meyakinkan: jawabannya lancar, rapi, dan terdengar pintar. Justru karena itu, bagian tersulit dari membangun chatbot sering kali bukan teknisnya, melainkan memutuskan apa yang sebenarnya boleh dan perlu dijawab.

Mulai dari pertanyaan pengguna, bukan dari modelnya

Sebelum memilih model, tulis dulu lima belas pertanyaan yang paling sering diajukan orang kepada tim Anda. Dari situ terlihat bahwa sebagian besar pertanyaan itu sempit dan berulang. Chatbot yang baik tidak perlu tahu segalanya. Ia perlu menjawab pertanyaan yang sempit itu dengan benar, setiap kali.

Beri batas yang jelas

Model bahasa cenderung menjawab walaupun tidak tahu. Karena itu saya memperlakukan tiga hal sebagai bagian dari desain, bukan tambahan:

  • Sumber jawaban yang jelas. Berikan dokumen atau data yang boleh dipakai, dan minta model menjawab hanya dari sana.
  • Jawaban "saya tidak tahu" yang sopan. Lebih baik mengarahkan pengguna ke manusia daripada memberi jawaban yang salah dengan nada yakin.
  • Topik yang di luar jangkauan. Tentukan sejak awal hal-hal yang tidak boleh dijawab, misalnya keputusan hukum atau medis.

Ukur dengan percakapan nyata

Contoh yang bagus di layar demo tidak membuktikan apa pun. Kumpulkan percakapan nyata, tandai mana yang berhasil dan mana yang gagal, lalu perbaiki instruksi dan datanya berdasarkan kegagalan itu. Pola yang sama terus berulang: pertanyaan ambigu, istilah internal yang tidak dikenal model, dan data yang sudah usang.

Rancang jalan keluarnya

Chatbot yang menyelesaikan 70 persen pertanyaan dengan baik dan mengoper sisanya ke manusia dengan konteks yang lengkap, lebih berguna daripada chatbot yang berusaha menjawab semuanya. Pengguna biasanya memaafkan chatbot yang jujur tentang batasnya. Mereka jarang memaafkan yang salah dengan penuh percaya diri.

Ringkasnya: model AI adalah bahan baku. Produknya adalah batas, data, dan cara chatbot itu gagal dengan baik.

← All posts