Memperkenalkan Fin: AI chatbot terobosan Intercom, dibangun di atas GPT-4
Diterbitkan: 2023-03-15Kedatangan ChatGPT OpenAI mengubah segalanya – implikasi besar untuk layanan pelanggan langsung terlihat jelas.
Kami dengan cepat meluncurkan kumpulan fitur AI untuk Kotak Masuk kami, menerapkan teknologi ini untuk memberikan peningkatan efisiensi. Tetapi pertanyaan nomor satu yang kami tanyakan adalah "Bisakah ChatGPT menjawab pertanyaan pelanggan saya?" Sangat jelas bahwa lebih baik dalam memahami bahasa alami daripada apa pun yang pernah kami lihat sebelumnya.
Sayangnya, eksplorasi awal kami menunjukkan bahwa halusinasi adalah masalah yang terlalu besar. GPT-3.5, yang mendukung ChatGPT, terlalu cenderung mengada-ada ketika tidak mengetahui jawabannya.
Namun pengumuman GPT-4 baru-baru ini telah mengubah banyak hal – model ini dirancang untuk mengurangi halusinasi. Kami senang berbagi apa yang telah kami buat dengan GPT-4 dalam pengujian awal kami.
Memperkenalkan chatbot AI baru kami: Fin
Hari ini kami mengumumkan bahwa kami telah membuat bot layanan pelanggan bertenaga AI yang memiliki manfaat dari teknologi baru ini, dan cocok untuk kebutuhan bisnis. Ini disebut Fin, dan kami yakin ini memiliki kapasitas untuk menjadi mitra yang berharga bagi tim dukungan Anda.
Saat kami mulai bereksperimen dengan membangun chatbot yang diberdayakan GPT, kami memiliki sejumlah tujuan desain. Kami ingin membuat bot yang dapat:
- Berkomunikasi secara alami, menggunakan teknologi GPT.
- Jawab pertanyaan tentang bisnis Anda, menggunakan informasi yang Anda kendalikan.
- Kurangi halusinasi dan respons yang tidak akurat ke tingkat yang dapat diterima.
- Memerlukan konfigurasi dan penyiapan minimal.
Kami percaya bahwa kami telah mencapai ini. AI chatbot baru kami berfungsi "di luar kotak", secara instan mengurangi volume dukungan dan waktu resolusi Anda.
Itu dapat berbicara lebih alami tentang permintaan dukungan daripada bot yang ada – menghadirkan kemampuan percakapan alami AI modern ke layanan pelanggan.
Ini dapat memahami kueri yang tersebar di beberapa percakapan, memungkinkan pelanggan Anda untuk mengajukan pertanyaan lanjutan, dan mendapatkan klarifikasi tambahan.
Fin terlibat dalam percakapan alami dengan pelanggan
Kami telah memperluas GPT-4 dengan fitur dan perlindungan yang dirancang khusus untuk memberikan dukungan pelanggan, di mana kepercayaan dan keandalan sangat penting.
Fin menolak untuk menanggapi pertanyaan di luar domain
Fin dirancang untuk hanya memberikan jawaban berdasarkan konten di pusat bantuan Anda yang ada, meningkatkan akurasi dan kepercayaan. Untuk memperkuat rasa percaya itu, itu selalu ditautkan ke artikel sumbernya, sehingga pelanggan Anda dapat memvalidasi tanggapan.
Ini tidak sempurna, seperti yang akan kita bahas di bawah, tapi kami yakin sekarang sudah siap untuk banyak bisnis.
Fin hampir tidak memerlukan waktu penyiapan awal. Itu menyerap informasi di pusat bantuan Interkom atau Zendesk Anda yang ada – menggunakan kekuatan AI untuk segera menginterpretasikan pertanyaan pelanggan yang rumit, dan menerapkan pengetahuan pusat bantuan Anda untuk menjawabnya.
Mau tidak mau, chatbot tidak akan bisa menjawab semua pertanyaan pelanggan. Dalam situasi tersebut, pertanyaan yang lebih sulit dapat diteruskan ke tim dukungan manusia dengan lancar. Ini bekerja secara efektif sebagai bagian dari tim layanan pelanggan, menggunakan semua alur kerja yang dimungkinkan oleh Intercom.
Jika Fin tidak dapat menjawab pertanyaan, pertanyaan tersebut dapat diteruskan ke perwakilan CS yang dapat melakukannya dengan mulus
Bagaimana kami membuat bot obrolan AI ini
Untuk membuat Fin, kami menggabungkan teknologi yang ada di belakang Bot Resolusi kami dengan GPT-4 baru OpenAI.
Kami meluncurkan Resolution Bot lebih dari empat tahun yang lalu, dan ini berfungsi dengan sangat baik saat disiapkan, tetapi membutuhkan "Jawaban" atau "Maksud" untuk dikuratori secara manual. Sayangnya, kami tahu bahwa beberapa pelanggan kesulitan mengatasi rintangan awal ini.
“Kami merancang Fin untuk dijalankan menggunakan pengetahuan yang sudah ada di pusat bantuan Anda”
Untuk bot baru kami, kami ingin mengurangi friksi ini.
Jadi kami merancangnya untuk dijalankan menggunakan pengetahuan yang telah dibuat untuk pusat bantuan Anda. Ini akan menggunakan artikel pusat bantuan Anda, dan menggunakan informasi tersebut untuk menjawab pertanyaan pelanggan secara langsung.
Saat mengajukan pertanyaan, chatbot kemudian akan menggunakan AI-nya untuk menyusun ulang informasi dari artikel tersebut menjadi jawaban yang terdengar alami, secara otomatis. Dan, saat Anda memperbarui artikel, balasan bot akan segera diperbarui. Ini berarti Anda hanya perlu menyimpan konten bantuan Anda di satu tempat, dan versi terbaru dapat disajikan kepada pelanggan secara otomatis.
Ini memberikan cara bagi bisnis untuk benar-benar memanfaatkan manfaat AI modern, dengan cara yang aman dan dapat diprediksi, dan menggunakan proses yang ada untuk membuat konten pusat bantuan.
Di masa mendatang, kami berencana untuk melangkah lebih jauh, dan mengintegrasikan teknologi pembelajaran mesin kami yang lain untuk membantu bot AI menjawab pertanyaan menggunakan data pihak pertama yang Anda miliki tentang pelanggan Anda.
Membuat chatbot yang terpercaya
Kami merancang chatbot ini untuk menjawab pertanyaan hanya dengan menggunakan konten bantuan yang telah Anda buat untuk menghindari risiko jawaban yang tidak akurat atau tidak terduga. Ini memberi Anda kontrol tingkat tinggi atas apa yang Fin katakan.
“Beberapa bot GPT lain mendasarkan jawaban mereka pada sejumlah besar informasi dari web, tetapi sebenarnya membatasi informasi yang dapat digunakan bot secara radikal meningkatkan prediktabilitas dan kepercayaannya”
Jika seseorang mengajukan pertanyaan yang tidak tercakup dalam pusat bantuan Anda, ia akan mengatakan bahwa ia tidak mengetahui jawabannya. Ini adalah fitur penting. Beberapa bot GPT lain mendasarkan jawaban mereka pada sejumlah besar informasi dari web, tetapi sebenarnya membatasi informasi yang dapat digunakan bot secara radikal meningkatkan prediktabilitas dan kepercayaannya.
Kami telah lebih lanjut mengurangi ketidakakuratan dengan merancang antarmuka pengguna baru untuk Fin dengan mempertimbangkan kepercayaan – ini dengan jelas tertaut ke artikel sumber ketika jawaban diberikan, yang memungkinkan pengguna memverifikasi apakah sumbernya relevan, mengurangi dampak kesalahan kecil.
Fin akan selalu menyediakan sumber untuk tanggapannya, memungkinkan pelanggan untuk memverifikasi jawabannya
Kami juga telah mengambil langkah-langkah untuk mengurangi kemampuan pengguna agar bot berdialog tentang topik apa pun yang tidak terdapat di pusat bantuan.
Keterbatasan
Ketepatan
Mungkin bagi pengguna akhir untuk secara sengaja mengatasi kendala yang telah kami rancang dan membuat AI chatbot mengatakan hal-hal yang tidak pantas. Jika ini benar-benar terjadi, kami percaya itu hanya akan terjadi setelah upaya yang ditentukan, bukan interaksi alami dengan pelanggan.
Kami harus menunjukkan bahwa AI tidak sempurna. Ada beberapa pelanggan yang risiko penyampaian informasi yang tidak relevan atau salah tidak dapat diterima. Mereka mungkin belum ingin mengadopsi chatbot bertenaga AI ini dulu.
Model bahasa besar saat ini memiliki mode kegagalan yang berbeda dari bot sebelumnya yang kami buat, seperti Resolution Bot. Meskipun Bot Resolusi terkadang memberikan jawaban yang tidak relevan , bot AI kami terkadang memberikan jawaban yang salah . Misalnya, mungkin bingung dengan konten artikel dan membuat pernyataan yang tidak benar kepada pengguna. Meskipun peluang ini telah jauh berkurang dengan model terbaru, ini bukanlah nol.
Untuk memungkinkan Anda mengukur batasan ini, kami membangun pengalaman di mana Anda dapat mengimpor pusat bantuan yang ada ke dalam bot dan mengujinya secara manual.
“Kami percaya bahwa model ini akan terus meningkat, dan sebagai hasilnya akurasi akan meningkat”
Secara keseluruhan, dengan peningkatan GPT-4 baru-baru ini dan batasan desain yang telah kami buat, kami yakin bahwa kinerjanya berada di atas bilah akurasi yang dibutuhkan oleh banyak bisnis.
Ke depan, kami percaya bahwa model ini akan terus meningkat, dan akurasi akan meningkat sebagai hasilnya. Kami juga percaya bahwa pemahaman pengguna tentang keterbatasan teknologi ini akan tumbuh seiring waktu; tanggapan bot AI kami diberi label dengan jelas sebagai "AI" untuk mengaktifkan ini.
Terakhir, kami percaya bahwa bisnis yang berbeda secara alami akan memiliki pengorbanan yang berbeda di bidang ini. Sejauh itu, kami sedang membangun pengaturan konfigurasi yang memungkinkan bisnis untuk mengatur pertukaran yang ingin mereka lakukan, seperti yang dapat dilihat pada prototipe desain ini.
Kami sedang menjajaki pengaturan konfigurasi untuk mengontrol tingkat kreativitas Fin
Biaya model GPT
Penting untuk diperhatikan bahwa model bahasa besar yang digunakan untuk menggerakkan chatbot ini saat ini mahal untuk dijalankan. Ini adalah teknologi mutakhir yang membutuhkan banyak daya komputasi. Namun, kami yakin biaya ini kemungkinan besar akan berkurang seiring berjalannya waktu.
Kami yakin bahwa untuk banyak bisnis, menerapkan chatbot AI kami akan menghasilkan ROI-positif, dibandingkan dengan perwakilan dukungan yang menjawab pertanyaan yang sama.
Latensi
Terakhir, model bahasa besar tingkat lanjut seperti GPT-4 memiliki latensi bawaan. Ini dapat dilihat saat berinteraksi dengan bot – latensi 10 detik atau lebih bukanlah hal yang aneh. Kami juga berharap ini akan meningkat seiring waktu.
Seberapa cepat Fin akan tersedia?
Kami telah membuat versi awal Fin, yang telah kami gunakan untuk pengujian internal sejauh ini, dan akan segera diluncurkan ke versi beta terbatas. Saat ini, kendala utama kami adalah biaya dan harga.
Kami masih terus mengulang dan memoles pengalaman pengguna berdasarkan pengujian, dan mengulangi integrasi antara Fin dan Resolution Bot. Kami yakin pelanggan tingkat lanjut akan terus menggunakan Resolution Bot dan teknologi serupa, terutama dalam situasi di mana tindakan harus diambil untuk sepenuhnya menyelesaikan permintaan pengguna – seperti membatalkan pesanan, misalnya.
“Di Intercom, kami telah lama membangun masa depan di mana sebagian besar percakapan pelanggan berhasil diselesaikan tanpa memerlukan dukungan manusia”
Kami berharap dapat melalui proses pengujian dengan cepat dalam beberapa minggu dan bulan mendatang. Sebagai referensi, fitur AI Inbox bertenaga GPT yang kami umumkan pada akhir Januari kini tersedia untuk semua pelanggan kami, dan sudah digunakan oleh ribuan pelanggan.
Mendaftar untuk masa depan layanan pelanggan
Di Interkom, kami telah lama membangun masa depan di mana sebagian besar percakapan pelanggan berhasil diselesaikan tanpa memerlukan dukungan manusia, membebaskan tim Anda untuk mengerjakan percakapan pelanggan yang bernilai lebih tinggi.
Kami yakin pengumuman hari ini menandai perubahan paradigma di bidang layanan pelanggan – masa depan sedang terjadi saat ini.
Anda dapat mempelajari lebih lanjut tentang bot bertenaga AI baru dan mendaftar untuk daftar tunggu di sini.