Eksperimen besar kami dengan GPT dan AI generatif

ChatGPT telah menggemparkan dunia, dan kami sangat bersemangat. Hari ini, kami mengungkapkan fitur layanan pelanggan yang telah kami buat menggunakan AI revolusioner ini.

Pada bulan Desember, Direktur Pembelajaran Mesin kami, Fergal Reid, dan saya duduk untuk mengobrol tentang peluncuran ChatGPT: baik, buruk, janji, hype. Kemungkinan untuk mengotomatiskan dan merampingkan proses untuk perwakilan dukungan tampaknya tidak ada habisnya, tetapi keberhasilan AI generatif di ruang ini pada akhirnya akan bergantung pada kemampuannya untuk memberikan nilai nyata bagi tim layanan pelanggan dan pelanggan. Jika tidak, ya, itu hanya mainan – mainan yang menyenangkan, tapi tetap saja mainan.

Untuk menguji ini, kami segera mulai bekerja. Kami membuat sketsa beberapa fitur bertenaga AI yang menurut kami dapat berguna, mulai diproduksi, dan menampilkan versi beta di depan 160 pelanggan. Anda dapat membaca semua tentang fitur baru ini di sini.

Dalam episode hari ini, Fergal dan saya membagikan apa yang telah kami pelajari dalam beberapa minggu terakhir, ke mana tujuan kami selanjutnya, dan bagaimana hal itu mengubah persepsi kami tentang apa yang mungkin terjadi di ruang ini.

☞ Klik di sini untuk bergabung dengan daftar tunggu beta untuk fitur AI kami atau menerima berita AI dari Interkom.

Berikut adalah beberapa takeaways utama:

• Kemampuan model ChatGPT untuk memproses bahasa alami dalam percakapan multi-kalimat terus meningkat dan membuka kemungkinan baru.
• Dalam pengembangan produk, pelanggan selalu menjadi wasit utama – Anda dapat membangun teknologi yang luar biasa, tetapi jika itu tidak menyelesaikan masalah bagi mereka, itu tidak sepadan.
• Kemampuan GPT-3.5 untuk mengedit dan mengubah teks membuatnya sangat berharga bagi layanan pelanggan, dan sudah dapat menangani tugas seperti meringkas teks dan menyesuaikan nada.
• Dengan kemajuan di ChatGPT, lebih banyak fitur dapat ditambahkan untuk memaksimalkan efisiensi dan agen garis depan gratis untuk fokus pada masalah yang lebih kompleks yang mendorong kepuasan pelanggan.
• Meskipun kami mulai menyelidiki penggunaan yang berpotensi mengubah permainan seperti balasan cerdas, model tersebut masih kurang memahami konteks bisnis agar dapat berfungsi.

Pastikan Anda tidak melewatkan sorotan apa pun dengan mengikuti Inside Intercom di Apple Podcasts, Spotify, YouTube, atau meraih umpan RSS di pemutar pilihan Anda. Berikut ini adalah transkrip episode yang diedit ringan.

Sebuah terobosan dalam pemahaman bahasa

Des Traynor: Halo sekali lagi, Fergal. Apa kabar?

Fergal Reid: Baik, terima kasih, Des. Sudah enam atau tujuh minggu terakhir ini sibuk di sini di Intercom, jadi saya sangat bersemangat untuk membicarakannya hari ini.

Des: Ya, baru enam atau tujuh minggu yang lalu kami duduk untuk mengobrol. Anda telah, saya kira, enam atau tujuh minggu membangun waktu rekayasa yang sebenarnya melawan revolusi AI yang diluncurkan pada akhir November. Apa yang telah kamu pelajari? Apakah itu mengubah persepsi Anda tentang apa yang mungkin terjadi di dunia layanan pelanggan?

Fergal: Ya, saya pikir sudah. Terakhir kali kami berbicara, kami berbicara banyak tentang ChatGPT dan itu mungkin seminggu setelah diluncurkan. Anda dapat membagi rambut tentang apakah perbedaan besar di sini adalah ChatGPT atau keluarga model yang dibuat oleh OpenAI – kami telah bekerja sebagian besar dengan GPT-3.5 atau dengan Text-Daviinci-003, untuk lebih spesifik.

Des: Itu adalah nama modul khusus ini.

Fergal: Ya, itu adalah nama model khusus ini. Dan sebenarnya, ada banyak kebingungan mengenai nama-nama ini dan perbedaannya. Tapi pada dasarnya, kami merasa bahwa seri model GPT-3.5, Davinci-002, Davinci-003, hal semacam ini, yang keluar tahun lalu, dan kemudian Davinci-003, yang turun pada waktu yang sama persis dengan ChatGPT, merupakan terobosan dan benar-benar memungkinkan kami untuk mulai mencoba membangun fungsionalitas yang berbeda dan lebih baik secara kualitatif.

“Itu membuka kunci besar karena ada begitu banyak tugas yang ingin kami lakukan yang paling baik dijelaskan dalam bahasa alami”

Des: Apa keyakinan Anda tentang apa yang mungkin sekarang? Ke mana tujuan kita dalam dunia layanan pelanggan?

Fergal: Menurut saya dalam layanan pelanggan, dan bahkan lebih jauh lagi, model ini memungkinkan kami menangani bahasa alami dengan cara yang lebih baik daripada sebelumnya. Saya kira saya bisa memberikan sedikit sejarah pemrosesan bahasa alami. Itu adalah hal-hal sederhana seperti ekspresi reguler dan sebagainya untuk waktu yang lama. Kemudian kami memiliki teks yang sangat bagus dalam melihat kata kunci yang banyak terdapat dalam data. Dan mungkin tiga, empat tahun yang lalu, jaringan saraf mulai memahami dengan sangat baik, "Hei, apa arti dari kalimat ini?" Tapi sekarang, saya akan mengatakan mereka mulai menjadi sangat pandai dalam "Hei, apa arti kalimat itu lebih dalam ..." menuju lebih dekat ke bagaimana manusia dapat melakukannya, dan memahami apa yang terjadi dalam percakapan beberapa kalimat . Apa yang orang itu bicarakan? Menggabungkan isi kalimat satu dengan isi kalimat tiga untuk mengetahui bahwa seseorang baru saja berkata, "Oh, saya punya pertanyaan tentang Salesforce." Dan rekan setimnya berkata, “Nah, apa pertanyaanmu? Apa yang bisa saya bantu?" Dan kemudian dikatakan, "Ya, saya benar-benar membutuhkan bantuan dengan integrasi saya." Dan sistem menjadi jauh lebih baik dalam memahami bahwa integrasi itu adalah tentang integrasi Salesforce, dan memiliki gagasan ke mana arah percakapan selanjutnya.

“Tiba-tiba, mesin dapat melihatnya dan membuatnya lebih masuk akal”

Bot Resolusi kami dan teknologi pembelajaran mesin yang sudah digunakan cukup bagus dalam hal itu dalam kalimat tertentu. Tapi sekarang, teknologinya menjadi lebih baik ke titik di mana itu bagus di banyak kalimat dan jauh lebih baik dalam konteksnya. Sebagai manusia yang berkomunikasi dan ingin berbicara satu sama lain dalam bahasa alami, itu wajar bagi kita. Itu membuka kunci besar karena ada begitu banyak tugas yang ingin kami lakukan yang paling baik dijelaskan dalam bahasa alami. Ada begitu banyak dokumen dan instruksi serta artikel tentang bagaimana melakukan sesuatu yang kita tulis dan komunikasikan satu sama lain dalam bahasa alami. Dan sekarang, tiba-tiba, mesin dapat melihatnya dan membuatnya lebih masuk akal. Dan setiap kali kemampuan itu menjadi lebih baik, banyak produk membuka banyak hal yang sebelumnya tidak mungkin dilakukan. Dan kami benar-benar merasa bahwa apa yang terjadi adalah hal yang besar. Itulah pendapat kami sampai kami membuat barang dan meletakkannya di depan pelanggan kami dan melihat pendapat pelanggan kami tentangnya.

Des: Dan itulah yang kami inginkan.

Fergal: Maksud saya, itulah yang kami coba lakukan.

Des: Apa itu software tapi codified opinion ya?

Fergal: Benar.

Terserah pelanggan

Des: Jadi, apa yang sudah kita bangun? Apa yang telah Anda kerjakan? Mari kita bicarakan.

Fergal: Jadi, dalam pengembangan produk, Anda selalu ingin memeriksa pendapat Anda. Pelanggan Anda selalu menjadi penentu utama apakah sesuatu itu baik atau tidak. Anda mungkin mengira Anda memiliki teknologi yang paling menakjubkan dan pengalaman produk yang paling menakjubkan, tetapi jika itu tidak menyelesaikan masalah dan jika tidak digunakan, Anda salah. Jadi, kami benar-benar ingin memotong hype di sini dan meyakinkan diri kami sendiri, "Oke, apa yang bisa kami buat untuk pelanggan dengan cepat, apa yang bisa kami dapatkan di hadapan mereka, bekerja sama dengan mereka untuk melihat berapa pun nilainya?" Jadi, kami pergi dan membuat sketsa fitur yang dapat kami bangun dan produksi dengan cepat yang akan menggunakan beberapa teknologi baru ini dan membantu kami mencari tahu apakah itu berharga atau mainan.

“Anda cukup menekan tombol atau menggunakan pintasan keyboard untuk mengatakan, 'Hai, saya ingin ringkasan fitur ini, letakkan di komposer saya sehingga saya dapat menambahkannya dengan ringan'”

Hal pertama yang kami putuskan untuk dilakukan adalah membuat fitur yang pada dasarnya melakukan peringkasan. Dan ada alasan mengapa kami memutuskan untuk melakukan ini. Tim saya, tim pembelajaran mesin di sini di Intercom, tim Kotak Masuk, menemukan bahwa ada dua pekerjaan pelanggan umum yang sering kami lihat. Di banyak bisnis, sebelum perwakilan dukungan menyerahkan percakapan, mereka harus menulis ringkasan percakapan itu. Jika mereka tidak melakukan itu, pengguna akhir harus mengulang sendiri atau perwakilan penerima harus pergi dan menggulir ke atas dan membaca banyak hal. Jadi, perwakilan dukungan yang menyerahkan harus menulis ringkasan dan itu pekerjaan nyata.

Sekitar satu setengah atau dua tahun yang lalu, tim saya mencoba melihat jaringan saraf terbaik saat itu, T5 dan semua jaringan besar ini, dan mencari tahu apakah kami dapat menggunakannya untuk membangun fitur peringkasan yang memadai. Dan sayangnya, kami menyimpulkan bahwa tidak mungkin. Percakapan terlalu degil. Alur percakapan mengalir di antara bagian-bagian yang berbeda ini dengan cara yang sangat baik bagi manusia – manusia dapat dengan mudah mencarinya dan cepat dan mereka dapat memindainya – tetapi bahkan jaringan saraf yang cukup besar yang kita miliki di Bot Resolusi mengalami kesulitan pada tugas semacam itu. Dan salah satu hal pertama yang kami lihat ketika kami bermain dengan model DaVinci-003 baru-baru ini, GPT-3.5, adalah tiba-tiba, sepertinya hebat dalam meringkas. Dan kami seperti, "Wow, itu terlihat luar biasa."

“Kami akan mencoba dan benar-benar nyata dengan orang-orang. Kami akan membantu pelanggan kami mengetahui bagian mana yang merupakan mainan ”

Jadi, kami membuat fitur dan melakukan beberapa putaran iterasi dengan fitur ringkasan di kotak masuk. Anda cukup menekan tombol atau menggunakan pintasan keyboard untuk mengatakan, "Hei, saya ingin ringkasan fitur ini, letakkan di komposer saya sehingga saya dapat menambahkannya dengan ringan." Itu tidak sempurna. Anda mungkin perlu menambahkan sedikit ke dalamnya, tetapi ini sangat menghemat waktu. Dan kami memiliki lebih dari 160 pelanggan dalam versi beta kami yang menggunakan fitur ini dan mereka telah mengadakan ringkasan sebagai pemenang sejati. Itu belum sepenuhnya mengubah permainan untuk perwakilan dukungan; itu mengambil satu pekerjaan inti, tetapi memberikan satu pekerjaan inti itu.

Des: Dan menguranginya. Apa yang akan Anda katakan pengurangan itu? Jika biasanya butuh tiga menit untuk menulis - apakah hanya 10 detik untuk menambahkan ringkasan atau semacamnya?

Ferga: Iya.

Des: Ini seperti 90% dari pekerjaan dihapus.

Fergal: Tepat sekali. Dan kami memiliki beberapa pelanggan yang sangat bersemangat tentang hal itu karena mereka mungkin memiliki utas email yang sangat panjang atau riwayat percakapan yang sangat, sangat panjang, dan ini hanya menghemat banyak waktu. Ini seperti jika Anda membaca makalah akademis atau semacamnya. Kadang-kadang hanya mendapatkan intinya membantu Anda menemukan detail persis yang Anda inginkan. Saya pikir kami telah mencapai sesuatu yang sangat bagus di sana, dan itu adalah salah satu fitur yang telah kami kerjakan.

“Sangat mudah untuk keluar dengan mesin hype; mudah untuk keluar dengan siaran pers: 'Kami telah mengubah dunia.' Dan dalam praktiknya, orang yang memutuskan itu adalah pelanggan kami”

Kami akan mencoba dan menjadi sangat nyata dengan orang-orang. Kami akan membantu pelanggan kami mencari tahu bagian mana yang merupakan mainan. Tidak semua yang kami buat dan kami masukkan ke dalam versi beta mengubah permainan, tetapi ringkasan adalah salah satu hal yang kami rasa paling kuat. Ini benar-benar siap. Teknologi ini melakukan sesuatu yang transformatif – baru, menarik, dan memberikan nilai pelanggan yang nyata.

Des: Satu hal yang selalu kami usahakan, terkait dengan AI, adalah tidak mabuk karena kami berusaha membantu pelanggan kami. Sangat mudah untuk keluar dengan mesin hype; mudah untuk keluar dengan siaran pers: "Kami telah mengubah dunia." Dan dalam praktiknya, orang yang memutuskan itu adalah pelanggan kami. Jadi, saat kami merilis peringkasan, kami mempercayai kata-kata mereka bahwa itu sangat berharga. Itu hal yang penting, bukan?

Fergal: Tepat sekali. Dan lihat, itu adalah sesuatu yang membuat kita menderita. Terkadang Anda kalah dari orang-orang yang hanya ingin hype up. Kami berusaha sangat keras untuk tidak melakukan itu karena begitu Anda mulai melakukannya, Anda akhirnya mempercayai hype Anda sendiri.

Des: Narasi mendahului perangkat lunak. Itu risiko nyata.

Fergal: Dan Anda mencoba menghindarinya. Kami sangat sadar akan hal itu dengan jenis teknologi ini, yaitu hampir berhasil, dan hampir melakukan sesuatu yang ajaib dan transformatif, tetapi terkadang gagal. Jadi, kami mencoba untuk tetap jujur ​​​​di sini tentang, "Oke, apakah ini sudah cukup bagus?" Kami tahu itu tidak sempurna, tetapi apakah itu sudah cukup baik? Dan untuk apa itu cukup baik? Dan ringkasan adalah sesuatu yang membuat kita merasa nyaman. Itu adalah fitur yang kami rasa memberikan nilai nyata.

Anda bisa kalah dengan melempar sesuatu yang terlihat bagus tetapi tidak benar-benar berfungsi dalam produksi, dan Anda juga bisa kalah karena terlalu konservatif. Dan di masa lalu, dengan Resolution Bot, kami mengalami saat-saat ketika kami terlalu konservatif. Kami seperti, "oh, kami benar-benar tidak ingin ini menjadi bumerang kecuali kami cukup yakin jawabannya." Dan kemudian beberapa pelanggan mendatangi kami dan memberi tahu kami, "Oh, pengguna tidak mendapatkan bantuan apa pun untuk sementara waktu, beri mereka sesuatu meskipun Anda salah." Dan kami menguji A/B dan menyetel aliran sampah tersebut dan seterusnya. Ada saat-saat menjadi terlalu konservatif. Jadi, kami mengambil pendekatan di sini untuk segera menghadirkan fitur beta baru kepada pelanggan kami. Pelanggan kami sangat senang dengan teknologi ini.

Pengeditan teks yang mudah

Des: Berapa banyak fitur dalam versi beta? Lima enam?

Fergal: Jadi, hal pertama yang kami lakukan adalah meringkas. Kami melakukan itu karena itu hanya pekerjaan yang mudah, mudah diintegrasikan, dan dipahami dengan baik. Setelah itu, kami pergi melihat komposernya. Karena kami memiliki telemetri dan metrik, kami tahu bahwa sekitar separuh waktu yang dihabiskan agen di Intercom, mereka habiskan di komposer untuk menulis teks atau mengeditnya. Mereka juga mengatur pemikiran mereka, tetapi mereka menghabiskan banyak waktu untuk menulis dan membentuk ulang teks. Dan saat kami melihatnya, kami seperti, "Oke, ini sangat bagus dalam mengedit dan mengubah teks." Kami memulai dengan beberapa fitur kecil di sana, beberapa seperti fitur MVP untuk menayangkannya dan melihat bagaimana kelanjutannya. Jadi, kami mulai dengan fitur pengeditan teks dan pembentukan ulang teks. Mungkin yang paling sederhana untuk dijelaskan adalah pengeditan sederhana. Mengatakan, "Hei, buat teks yang baru saja saya tulis ini lebih ramah," atau "lebih formal," karena teknologi ini sekarang bagus dalam menyesuaikan nada. Sebelumnya, tidak ada yang bisa Anda gunakan untuk menyesuaikan nada dengan andal. Kami melakukan banyak iterasi pada UX dan kami membuat UX di mana terdapat bilah alat dan Anda cukup memilih teks. Di versi pertama kami, Anda tidak dapat memilih teks dan kami mengulanginya. Pelanggan memberi tahu kami bahwa itu tidak berguna – mereka tidak ingin mengubah nada semua yang ada di komposer. Sekarang, Anda dapat memilih sedikit.

“Saya terkejut mengetahui bahwa kita mungkin melihat dunia di mana menu konteks baru seperti 'memperluas', 'meringkas', 'membuatnya lebih bahagia', dan 'membuatnya lebih formal'"

Ini hampir seperti mengedit gambar. Dan kami mulai berpikir ada paradigma yang muncul di sini. Saya ingat bahwa sekali waktu, pengolah kata di mana Anda bisa menebalkan dan memiringkan teks seperti "wow". Dan kami bertanya-tanya apakah, di masa depan, orang akan memikirkannya dalam hal nada. Ini seperti, "Oh, tentu saja, saya ingin mengedit nada dengan cepat." Jika Anda lelah di penghujung hari, Anda telah menulis draf dan berkata, "Saya tidak cukup ramah, ini akan memengaruhi CSAT saya," Anda tinggal mengklik tombol dan mengedit nada dan itu menjadi lebih ramah. Dan lebih mudah untuk menekan tombol itu sekali atau dua kali daripada pergi dan-

Des: Pergi dan tulis ulang.

Fergal: Menulis ulang teks adalah pekerjaan.

Des: Saya terkejut mengetahui bahwa kita mungkin melihat dunia di mana menu konteks baru seperti "memperluas", "meringkas", "membuatnya lebih bahagia", dan "membuatnya lebih formal". Itu akan menjadi transformasi yang Anda coba lakukan. Anda tidak terlalu fokus pada optik teks, melainkan pada nadanya.

Fergal: Benar-benar. Lihat, ketika kita maju dan mundur dalam hal ini, kita seperti, “apakah ini mainan? Sudahkah kita membuat mainan yang keren atau itu sesuatu yang luar biasa? Dan saya pikir itu akan bervariasi menurut pelanggan, tetapi kasus yang berani untuk fitur khusus itu adalah, “Hei, saya lelah di penghujung hari dan saya sangat peduli dengan nada karena CSAT saya adalah metrik yang besar untuk saya dan ini adalah cara untuk melakukannya. Ini adalah cara untuk memberikan pengalaman pelanggan yang lebih menyenangkan.

Des: Ambil "maaf, ini pengembalian dana Anda." Anda akan berkata, "tolong buat itu terdengar lebih empati," atau apa pun.

Fergal: Kami telah bereksperimen seputar empati. Apa yang sebenarnya kami ubah adalah "membuat segalanya lebih formal, membuat segalanya lebih bersahabat". Itu jenis spektrum yang tampaknya bekerja dengan sangat baik, jadi kami melakukannya. Dan saya kira itu cocok untuk Interkom. Banyak orang mencoba memberikan pengalaman dukungan yang sangat pribadi dan sangat bersahabat.

“Sering kali, ketika Anda menulis sesuatu, hasilnya salah. Jadi Anda bisa mengatakan, 'Hei, ulangi itu'”

Agar benar-benar transparan, kami masih belum yakin persis di mana letaknya dalam spektrum mainan hingga berharga. Beberapa pelanggan mengatakan itu sangat berharga dan kami terus mengevaluasinya. Tapi kami memilikinya dalam versi beta. Kami ingin memberi tahu pelanggan kami bahwa ini adalah hal-hal yang sedang kami bangun dan selidiki.

Itu salah satu fitur. Hal berikutnya yang kami mulai lihat adalah fitur pengulangan. Dan lagi, model bahasa ini sangat bagus dalam mengambil potongan teks yang dibatasi dan mengedit atau mengubahnya. Anda mulai melihatnya dengan peringkasan. Sering kali, ketika Anda menulis sesuatu, hasilnya salah. Jadi Anda bisa mengatakan, "Hei, ulangi itu." Dan lagi, UX cepat semacam itu di mana Anda hanya menyorotnya dan mengkliknya. Ini sedikit lebih mudah daripada menulis ulang sendiri. Ada sedikit latensi saat Anda melakukan itu. Jadi, kami masih mengevaluasi. Tetapi beberapa pelanggan, sekali lagi, sangat menyukainya, itu benar-benar bekerja untuk mereka dalam bisnis mereka dan kami berharap latensi akan turun seiring waktu karena model ini menjadi lebih baik dan lebih baik. Jadi itu teks rephrasing. Itu adalah semacam fitur pertama yang kami kejar di komposer.

Sekarang, barang tiket yang lebih besar datang berikutnya, dan kami mulai menyelidiki hal-hal yang berpotensi mengubah permainan. Satu hal yang kami coba lakukan dengan itu adalah apa yang kami sebut fitur perluasan. Kami terinspirasi oleh hal-hal seperti co-pilot untuk pemrogram. Di co-pilot, Anda dapat menulis komentar dan mengisi fungsi penuh dan hanya menghemat banyak waktu. Dan kami seperti, "Oh, bisakah kita membangun sesuatu yang mirip seperti itu untuk dukungan pelanggan?" Dan idenya adalah mungkin Anda menulis ringkasan singkat tentang apa yang Anda inginkan dan kemudian menyorotnya, misalnya perluas, dan komposer Anda akan mengisinya. Kami telah melakukan ini, kami telah mengirimkannya, dan pelanggan dengan jelas melihat bahwa ini berharga dan bukan mainan – jika berhasil. Tapi itu bekerja jauh lebih baik di beberapa domain daripada yang lain. Jika Anda menjawab pertanyaan bahwa informasi umum dari internet akan berfungsi dengan baik-

Des: Seperti jika Anda harus mengatur ulang ponsel Anda atau apa pun.

Fergal: Ya, persis. Ini bekerja sangat baik untuk itu. Namun, jika Anda mencoba melakukan sesuatu di mana Anda menulis steno dan sebenarnya ada banyak konteks khusus untuk bisnis Anda tentang bagaimana Anda menjawab jenis pertanyaan ini, maka itu bisa berhalusinasi dan itu akan mengatakan sesuatu yang perlu Anda edit. keluar. Namun, beberapa pelanggan sangat menyukainya dan itu bekerja dengan sangat baik untuk mereka. Tapi kami benar-benar berpikir itu semacam versi satu. Jika Anda menggunakan ini, Anda perlu memeriksanya dan melihat seberapa baik kerjanya untuk Anda dan bisnis Anda. Namun, kami memiliki proyek yang terus-menerus mengevaluasi hal-hal baru untuk itu, seperti, "Hei, bisakah kami mengambil balasan sebelumnya yang Anda berikan pada topik yang sama?" Jadi, Anda memberi kami ringkasan tiga kata tentang apa yang ingin Anda lakukan, seperti "mengembalikan uang terima kasih kepada pelanggan", dan kami akan mencari dan menemukan lima hal terakhir yang Anda katakan tentang pengembalian dana. Kami juga akan pergi dan melihat apakah mungkin Anda memiliki makro tentang pengembalian dana. Kami juga akan melihat konteks percakapan sebelumnya.

“Apa yang kami coba adalah: dapatkah kami mengatasi punuk? Bisakah kita mulai membuat sesuatu yang benar-benar transformatif dengan memasukkan konteks itu?”

Des: Jika ada sesuatu di pusat bantuan, semua itu.

Fergal: Kami belum sampai sejauh menarik artikel dan hal-hal lain dari pusat bantuan. Kami baru saja melihat apa yang Anda dan pengguna katakan dua putaran yang lalu, memasukkan semuanya ke dalam prompt yang kemudian akan berbunyi, “Oke, dengan semua informasi ini, silakan pergi dan ambil singkatan tiga kata itu, dan anti-ringkasan itu, mengubahnya menjadi hal yang besar.

Des: Ya, sama sekali. Jadi, ini akan mengubah, “Maaf, ini pengembalian dana, terima kasih,” menjadi, “Kami mohon maaf atas ketidaknyamanan ini. Kami telah mengeluarkan pengembalian dana dan Anda akan melihatnya dalam tiga hingga empat hari. Dan kami menyesal…”

Fergal: Dengan gaya yang biasa Anda gunakan – Anda secara pribadi, agen individu – dan juga menggunakan makro relevan yang Anda miliki. Itu benar-benar di mana kita berada. Dan bagian terakhir itu belum diproduksi. V1 sedang diproduksi. V1 telah digunakan oleh ratusan pelanggan beta. Tapi apa yang kami coba adalah: bisakah kita melewati punuk? Bisakah kita mulai membuat sesuatu yang benar-benar transformatif dengan memasukkan konteks itu? Dan itu masih berlangsung. Saya akan mengatakan kami optimis tetapi belum yakin. Ini berubah dari minggu ke minggu bagi kami, jadi kami sangat bersemangat tentang itu. Dan itulah perluasan fitur versi satu saat ini. Tapi kita bisa melihat versi dua dan versi tiga akan segera hadir.

Efisiensi dukungan mengemudi

Fergal: Fitur terakhir yang kami coba dalam versi beta kami adalah memberi pelanggan kami akses langsung ke GPT. Jadi, tidak ada permintaan, tidak memberi tahu model apa pun, hanya mengatakan, "Hei, taruh apa pun yang Anda inginkan di sana." Dan kami benar-benar melakukannya sebagai eksperimen beta yang bergerak cepat. Kami tidak memberikan banyak panduan kepada pelanggan dalam versi beta tentang cara menggunakannya. Kami membingungkan beberapa dari mereka dan itu tidak berjalan dengan baik, tetapi beberapa pelanggan menemukan kasus penggunaan baru, termasuk terjemahan, yang memberikan nilai nyata bagi mereka. Sekarang, model ini bukan yang terbaik dalam terjemahan, tapi mungkin itu taktik pengembangan produk AI yang menarik di sana, seperti, “Hei, jika Anda memiliki pelanggan beta, mungkin beri mereka sedikit lebih banyak kekuatan daripada yang Anda harapkan dan mereka akan memberi tahu Anda apa yang mereka butuhkan.

Des: Lihat apa yang muncul. Lihat apa yang diharapkan bahkan.

Fergal: Tepat sekali. Dan ekspektasi, menurut saya, akan berubah dengan cepat dalam hal ini. Mungkin itu memberi tahu kita bahwa kita membutuhkan terjemahan karena ada model terjemahan yang sangat dipahami di luar sana.

“Mungkin ada sumber di sampingnya, dan tiba-tiba, pencarian jawaban selama lima menit itu berubah seketika. Dan di situlah mulai benar-benar mengubah permainan ”

Des: Jadi sepertinya semua fitur ini adalah pemaksimal efisiensi untuk tim pendukung. Mereka mengurangi banyak hal yang tidak dibedakan, apakah itu intro dan outro atau apakah itu hanya menulis ulang sesuatu yang mungkin mereka tidak punya energi untuk membuatnya lebih bahagia atau lebih formal. Itu semua adalah cara berbeda untuk menghemat banyak waktu agen dukungan garis depan. Pada akhirnya memberi mereka lebih banyak waktu untuk fokus pada bagian percakapan yang lebih sulit, yaitu pencarian teknis atau penyelaman mendalam. Apakah itu tempat yang paling baik digunakan? Apakah itu pemikiran terbaik kita sejauh ini? Ketika Anda berpikir tentang di mana lagi kami dapat menggulirkan teknologi gaya GPT ini di seluruh pengalaman dukungan, apa lagi yang Anda pikirkan?

Fergal: Pelanggan kami yang lebih besar memiliki banyak perwakilan dukungan yang menghabiskan hari demi hari di komposer. Jadi, jika kita dapat membuatnya lebih cepat dan lebih efisien – peningkatan efisiensi 10% atau 20 sangatlah besar.

Des: Tentu saja, ya. Kami memiliki pelanggan dengan ribuan kursi, jadi ini benar-benar transformasional.

Fergal: Tepat sekali. Mengubah permainan. Dan itu adalah area yang membuat kami sangat tertarik. Dan teknologi ini semakin baik dan semakin baik. Ini bukan satu-satunya tempat, tapi kami sangat optimis tentang itu. Beberapa pelanggan kami akan dengan sangat baik berbagi video dengan kami tentang keseharian mereka yang sebenarnya. Dan Anda melihat alur kerja ini seperti, “Hei, saya mencoba menjawab pertanyaan, dan saya tidak tahu jawabannya. Saya perlu pergi dan mencari artikel meja bantuan internal atau menemukan percakapan serupa, dan saya menjelajahinya.” Jika kita dapat menghubungkannya ke titik di mana itu seperti, “Hei, ini AI-nya. Mungkin Anda memberikan beberapa kata…” Atau mungkin kita melampaui itu. Kami memiliki prototipe lain yang akan saya bicarakan dalam beberapa menit di mana mungkin jawabannya sudah menunggu Anda. Mungkin ada sumber di sampingnya, dan tiba-tiba, pencarian jawaban selama lima menit itu berubah seketika. Dan di situlah mulai benar-benar mengubah permainan. Saya pikir ke sanalah kita akan segera pergi.

Des: Ya, itu masuk akal. Keuntungan kecil pada tim besar masih besar, dan jelas, keuntungan besar dalam alur kerja tertentu, hal ringkasan, juga besar. Saya pikir beberapa orang memiliki dunia biner yang aneh ini di mana sampai kami mengotomatiskan semua dukungan, kami belum melakukan apa pun. Pandangan pribadi saya adalah saya rasa kami tidak akan pernah benar-benar mengotomatiskan semua dukungan. Apa yang menurut saya akan kami lakukan adalah benar-benar menghilangkan bagian dukungan yang tidak berbeda, hal-hal "pointy clicky", "intro-y outro-y" di mana Anda melakukan hal yang sama setiap hari.

Fergal: Dan mudah-mudahan, Anda akan menyingkirkan bagian yang membuat frustrasi. Anda berkeliling, mencoba mencari, dan Anda tahu jawabannya ada di suatu tempat di sini. Anda tahu Anda telah menjawab pertanyaan ini lima kali bulan lalu, tetapi Anda tidak dapat menemukannya.

“Sejujurnya, fitur-fitur ini melewati batas kegunaan jauh lebih cepat daripada yang saya perkirakan”

Fitur terakhir yang hidup dalam versi beta adalah expander berbasis artikel. Ini adalah sesuatu yang kami lihat hampir menjadi fitur standar dengan sangat cepat. Di mana pun Anda menulis artikel teks, sudah menjadi standar bahwa Anda menginginkan kemampuan untuk memanggil model bahasa yang besar dan berkata, “Hai, bantu saya menyelesaikan ini, perluas ini. Inilah poin-poin saya. Jadi, kami mengirimkannya dalam versi beta kami untuk produk artikel Intercom. Sekali lagi, ini masih awal. Semua hal ini masih awal – sudah enam minggu sampai delapan minggu, tapi terkadang ajaib. Kadang-kadang Anda dapat pergi dan menulis empat atau lima poin-poin untuk mendeskripsikan konten sebuah artikel, dan kemudian, dalam prompt, kami memberikannya format standar artikel Interkom, sehingga ia mengetahui cara memasukkannya ke dalam heading dan segera. Ajaib ketika berhasil dan seberapa sering berhasil dan seberapa baik bekerja untuk orang. Anda masih perlu memeriksa isinya. Itu bisa memasukkan barang ke sana, tapi kami pikir ada cara untuk menurunkannya. Dan sejujurnya, fitur-fitur ini melewati batas kegunaan jauh lebih cepat daripada yang saya perkirakan. Jadi ya, kami bereksperimen dengan itu.

Perbatasan terakhir

Des: Jadi, lebih jauh lagi, apa pendapat Anda tentang lintasan semua ini? Kemana dari sini?

Fergal: Itu adalah hal-hal yang kami miliki dalam versi beta. Kami memiliki ratusan pelanggan yang menggunakannya, dan kami mendapat sinyal nyata tentang nilai pelanggan. Saya akan memberi tahu Anda dengan tepat di mana kami sekarang berproduksi dengan pembelajaran mesin. Dalam satu atau dua hari terakhir, kami memiliki fitur yang digunakan oleh tim CS internal kami sendiri: sebelumnya, kami memiliki fitur balasan cerdas yang akan menggali salam umum Anda. Ini adalah hal-hal yang tidak memiliki informasi, yang tidak menjawab pertanyaan pengguna – mereka hanya meminyaki roda, membuatnya cepat dan tajam, dan mudah untuk berkata, “Oh, terima kasih. Sama-sama. Apakah ada hal lain yang bisa saya lakukan?” Dan teknologi ini luar biasa untuk hal semacam itu. Ahli bahasa menyebutnya ekspresi fatis.

Dalam beberapa hari terakhir, kami telah mengirimkan versi itu ke tim CS Interkom kami di mana mereka melihat teks berwarna abu-abu ini sudah terisi sebelumnya di komposer, tetapi ini relevan dengan percakapan tertentu. Jadi, jika sebelumnya mereka berkata, "Hai, ada yang bisa saya bantu," dan pengguna berkata, "Oh ya, saya ingin bantuan dengan produk artikel," maka pengguna akan menyarankan, "Oh ya, izinkan saya mencari artikelnya produk untuk Anda.” Itu belum mencarinya untuk Anda, tetapi kami akan melakukannya. Tiga atau empat hari yang lalu, kami seperti, “Oke, saya akan mengirimkan ini secara internal. Kami tidak yakin apakah itu akan mengganggu dan jika orang akan buta karena mereka sering melihatnya dan itu hanya membantu untuk subset, ”dan kami selalu sangat berhati-hati tentang itu. Namun sejauh ini, respon internal dari tim CS kami sangat bagus. Jadi, kami bermaksud untuk terus mengerjakannya. Mungkin kita perlu menempatkan sistem lain yang membatasi seberapa sering tampilannya. Itu satu hal yang sedang kami kerjakan.

Saya menyebutkan bagian perluasan sebelumnya, dan sekarang kami sedang mengerjakan, "Hei, bisakah kita melakukannya bahkan tanpa steno?" Bisakah kami mencari tahu apa yang akan Anda ketik selanjutnya berdasarkan apa yang baru saja dikatakan pengguna? Dan kami akan pergi dan melihat basis pengetahuan Anda, mencoba menemukan konteks yang relevan, dan memberikannya pada model. Modelnya sendiri tidak cukup baik untuk melakukan ini. Itu tidak tahu bisnis Anda, tapi mungkin kita bisa menambahnya. Mungkin kita bisa menggunakan kombinasi teks pembelajaran mesin yang lebih tradisional dengan model dan mendapatkan sesuatu yang bagus. Kami memiliki prototipe dan kami sedang mengerjakannya, tetapi kami belum mengirimkannya ke pelanggan kami, bahkan dalam bentuk beta apa pun, karena kami masih mengevaluasi apakah itu cukup baik untuk menjadi transformatif atau membosankan dan mengganggu. Di mana ambang itu tidak jelas. Kami sedikit lebih bullish tentang hal gaya perluasan di mana Anda harus memintanya karena pengguna dapat mempelajari kapan melakukannya. Mereka dapat mempelajari cara menanyakannya. Kami semua harus mempelajari cara menggunakan Google, dan kami berharap pengguna akan jauh lebih baik dalam menangani sistem ini juga.

Itu kira-kira di mana kita berada. Kami bergerak cepat dan kami mengirimkan barang dengan cepat ke pelanggan untuk benar-benar memeriksa dan mendapatkan nilai nyata di sini. Kami berusaha untuk berhati-hati agar tidak jatuh ke dalam jebakan hype. Kami yakin ada potensi besar di sini, tetapi terlalu mudah untuk memasang laman landas dan berkata, “Dapatkan di sini. Itu akan menjawab semuanya.” Dan itu tidak baik. Orang-orang hanya akan menjadi buta dan mati.

“Semua orang telah melihat ini dan berkata, 'ChatGPT sangat bagus. Jika saya bisa mendapatkan teknologi seperti itu untuk membantu dukungan pelanggan saya, itu luar biasa.' Tapi itu tidak akan melakukannya dari rak. Itu tidak tahu bisnis Anda ”

Des: Saya pikir Anda merusak reputasi Anda jika Anda berkata, "hal ini melakukan sesuatu," dan jelas tidak, tetapi Anda melakukannya untuk klik atau apa pun. Sepertinya produk nyata yang ditunggu semua orang di ruang baru ini adalah bot yang menghadap pengguna akhir yang selalu menjawab sebagian besar pertanyaan dengan benar. Pikiran tentang itu? Minggu, bulan, hari?

Fergal: Jelas, itu area yang sangat luas untuk semua orang. Saya juga tidak akan meremehkan sang komposer – sebagian pertanyaan akan selalu mengalir ke sang komposer. Dan jika kita dapat mengurangi waktu untuk itu, itu sangat bagus. Tapi tentu saja, salah satu hadiah besar di bidang ini adalah apakah kami dapat mengambil pengalaman pemahaman percakapan yang telah kami lihat dengan ChatGPT dan membuatnya berfungsi untuk bisnis pribadi Anda sambil menghindari halusinasi? Ada banyak orang yang menyelidiki itu. Itu juga sedang kami selidiki. Kami memiliki prototipe yang menarik dan menjanjikan, tetapi kami belum tahu pasti apakah kami telah melewati ambang batas di mana halusinasi cukup langka sehingga ini layak dilakukan dan berharga. Kami mulai melihat beberapa pendapat mengkristal tentang hal itu secara internal, tetapi kami belum siap untuk membagikan posisi kami saat ini.

Des: Sangat adil. Yah, saya kira kita akan check-in lagi dalam enam minggu atau lebih.

Fergal: Ini waktu yang bergerak sangat cepat. Lihat, ini adalah bidang yang sangat menarik untuk dikerjakan. Harapan pelanggan sangat tinggi. Semua orang telah melihat ini dan berkata, “ChatGPT sangat bagus. Jika saya bisa mendapatkan teknologi seperti itu untuk membantu dukungan pelanggan saya, itu luar biasa.” Tapi itu tidak akan melakukannya dari rak. Itu tidak tahu bisnis Anda. Anda tidak dapat menyempurnakannya hari ini. Bahkan jika Anda dapat menyempurnakannya pada bisnis spesifik Anda, itu mungkin tidak akan berhasil. Kita perlu menemukan teknik yang cerdas, dan menurut saya perusahaan seperti Intercom berada di posisi yang tepat untuk mencoba dan melakukannya. Dan ya, ada banyak model teknologi dan bahasa yang menarik di luar sana. Saya sangat senang melihat semua inovasi di ruang ini.

Des: Keren. Terima kasih banyak.

Fergal: Terima kasih. Terima kasih.

☞ Klik di sini untuk bergabung dengan daftar tunggu beta untuk fitur AI kami atau menerima berita AI dari Interkom.