Metrik Input vs Output dalam Eksperimen: Cara Memilih Apa yang Akan Diukur

Diterbitkan: 2022-07-29
Metrik Input vs Output dalam Eksperimen- Cara Memilih Apa yang Akan Diukur

Metrik yang Anda tentukan dan lacak untuk program eksperimen Anda sangat penting.

Apa yang Anda ukur menentukan fokus Anda. Mereka mengatakan "Anda tidak dapat mengelola apa yang tidak Anda ukur."

Dan sementara itu sepenuhnya benar (Anda pasti bisa menurunkan berat badan bahkan jika Anda tidak melihat timbangan), itu benar secara terarah dan praktis (jauh lebih mudah untuk menurunkan berat badan jika Anda melihat timbangan).

Saya telah menghabiskan banyak waktu untuk memikirkan metrik apa yang penting dalam eksperimen.

Lebih penting lagi, saya telah menghabiskan banyak waktu untuk memikirkan metrik input dan metrik output.

bersembunyi
  • Apa Perbedaan Antara Metrik Input dan Output?
  • Metrik Keluaran Eksperimen
  • Konversi mikro vs. Konversi makro (& Metrik Pemantauan)
    • Konversi makro
      • Metrik tingkat konversi (dari jenis apa pun)
      • Metrik nilai pelanggan
    • Konversi mikro
  • Metrik Masukan Eksperimen
    • 1. Kecepatan percobaan
    • 2. Tarif konklusif
    • 3. Tingkat kemenangan
    • 4. Peningkatan rata-rata per kemenangan
    • 5. Waktu pengembangan
    • 6. Waktu untuk produksi
  • Metrik Komposisi dan Kriteria Evaluasi Keseluruhan
  • Cara Memilih Sasaran Eksperimen dan KPI
  • Kesimpulan

Apa Perbedaan Antara Metrik Input dan Output?

Metrik input adalah indikator utama, hal-hal yang dapat Anda kendalikan secara langsung. Biasanya, mereka melacak upaya, alokasi sumber daya, dan efisiensi operasional.

Gagasan metrik input adalah bahwa metrik tersebut berkorelasi dengan metrik output.

Ide metrik input adalah bahwa metrik tersebut berkorelasi dengan metrik output
Sumber Gambar

Meskipun Anda tidak dapat memprediksi dengan sangat akurat, khususnya, berapa rasio konversi agregat Anda, Anda dapat dengan mudah mengontrol berapa banyak eksperimen yang Anda jalankan, seberapa efisien Anda dalam mendorong kemenangan ke produksi, dan sampai batas tertentu, berapa rasio kemenangan Anda dan ukuran kemenangan rata-rata adalah.

Hal-hal ini dapat dan harus dipetakan ke metrik keluaran Anda, yang biasanya merupakan metrik bisnis numerik yang diperhatikan oleh pemangku kepentingan. Itu adalah angka yang menunjukkan apakah semua upaya yang Anda lakukan dalam eksperimen benar-benar membuahkan hasil dari perspektif ROI.

Karena metrik keluaran berfokus pada hasil bisnis, saya akan membahasnya terlebih dahulu – alasannya karena metrik keluaran Anda harus menentukan metrik masukan Anda.

Sederhananya, metrik keluaran Anda adalah hal yang penting bagi bisnis, dan metrik masukan Anda adalah pengungkit yang dapat Anda kendalikan untuk mencapai hasil tersebut.

Metrik Keluaran Eksperimen

Metrik keluaran adalah apa yang Anda tunjukkan kepada atasan Anda. Mereka mengikat kembali nilai program eksperimen Anda dan menunjukkan bahwa, secara keseluruhan, Anda menghasilkan ROI positif.

Secara realistis, metrik keluaran eksperimen dapat berupa kuantitatif apa pun yang dapat Anda ukur. Dalam kebanyakan kasus, ini adalah metrik diskrit atau biner seperti rasio konversi, tetapi terkadang metrik berkelanjutan seperti pendapatan per pengunjung.

Dalam semua kasus, Anda ingin memetakan metrik keluaran yang paling mewakili nilai bagi bisnis Anda.

Cara terbaik untuk membagi metrik eksperimen menjadi dua kategori: konversi mikro dan konversi makro (juga dikenal sebagai metrik primer dan sekunder) .

Konversi mikro vs. Konversi makro (& Metrik Pemantauan)

Saran umum di ruang pengujian A/B adalah mengoptimalkan konversi makro.

Konversi makro, meskipun ditentukan oleh Anda dan bisnis Anda, adalah konversi yang paling dekat dengan uang. Dalam e-commerce, ini adalah pembelian atau pendapatan per pengunjung. Di B2B, ini bisa berupa konversi prospek berkualitas tinggi atau mungkin pendaftaran produk untuk perangkat lunak freemium.

Apa pun masalahnya, Anda dapat memetakan konversi mikro langsung ke pendapatan, dan dengan demikian, ROI dalam eksperimen ini mudah diukur dan membenarkan upaya.

Konversi mikro adalah tindakan yang mengarah ke konversi makro dan cenderung berkorelasi kuat dengan penyelesaian konversi makro.

Konversi mikro adalah tindakan yang mengarah ke konversi makro
Sumber Gambar

Dalam e-commerce, konversi mikro bisa berupa add-to-carts, klik banner, atau bahkan pendaftaran daftar email. Di B2B, itu mungkin klik ke halaman harga, klik CTA, atau pendaftaran daftar email.

Ada juga metrik pemantauan atau metrik pagar pembatas . Ini adalah indikator kualitas yang Anda mungkin tidak bertujuan untuk meningkatkan, tetapi bertujuan untuk tidak merugikan. Jadi, jika eksperimen meningkatkan rasio konversi, tetapi juga meningkatkan pengembalian produk atau rasio pengembalian dana, Anda tidak boleh mendorong eksperimen tersebut ke produksi.

Tidak ada pemisahan universal dan objektif antara kedua kategori, meskipun ada beberapa garis patahan yang jelas. Yaitu, apakah konversi langsung menghasilkan pendapatan untuk bisnis Anda?

Saya akan membahas 18 metrik keluaran di sini, membaginya menjadi konversi makro dan mikro. Di bagian akhir, kita akan membahas bagaimana memilih sasaran keluaran yang tepat untuk bisnis Anda.

Konversi makro

Metrik tingkat konversi (dari jenis apa pun)

Tingkat konversi adalah metrik keluaran yang paling umum, tetapi dapat berarti banyak hal untuk berbagai jenis bisnis.

Pada tingkat dasar, itu hanya berarti Anda mencoba meningkatkan proporsi mereka yang melihat sebuah pengalaman dan kemudian menyelesaikan tindakan yang diinginkan setelah melihat pengalaman itu.

1. Tingkat konversi prospek

Salah satu jenis tingkat konversi yang paling umum adalah tingkat konversi timbal.

Ini adalah proporsi pengunjung situs web Anda yang mendaftar untuk menjadi prospek. Definisi "lead" tentu saja tergantung pada bisnis Anda. Dalam beberapa kasus, seseorang yang mendaftar untuk meminta demo.

Terkadang, bisnis menelusuri lebih jauh dan hanya menghitung prospek "berkualitas", yang didasarkan pada pengayaan data atau penyaringan berbagai dimensi untuk menentukan apakah seseorang cocok untuk produk tersebut atau tidak.

Bisnis lain akan menghitung prospek yang memenuhi syarat pemasaran, seperti pengunjung yang mendaftar ke webinar atau mengunduh whitepaper.

2. Pendaftaran atau pembelian produk

Pendaftaran produk adalah konversi makro yang jelas. Jika Anda menjual barang fisik, ini adalah seseorang yang membelinya. Jika Anda adalah perusahaan SaaS freemium, ini adalah seseorang yang memasuki produk Anda untuk pertama kalinya.

Sulit membayangkan program eksperimen pemasaran yang tidak melacak ini sebagai KPI eksperimen inti.

3. Tingkat aktivasi

Masuk ke eksperimen produk, salah satu hal pertama yang perlu diingat untuk perusahaan pertumbuhan yang dipimpin produk adalah tingkat aktivasi.

Setelah seseorang mendaftar, apa tindakan pertama dalam produk yang bermakna dan menunjukkan keterlibatan pengguna?

Beberapa perusahaan telah memetakan ini ke tindakan atau jumlah tindakan tertentu (Facebook memiliki aturan 7 teman yang terkenal dalam 7 hari).

Momen ini biasanya disebut sebagai “momen aha”, momen atau tindakan yang menyebabkan pengguna memahami nilai produk. Momen ini biasanya ditemukan melalui umpan balik kualitatif dan kemampuan kuantitatif untuk menghubungkan tindakan ini dengan retensi yang lebih lama atau tingkat monetisasi yang lebih baik.

Contoh momen ah
Sumber Gambar

4. Tingkat monetisasi

Seperti tingkat aktivasi, tingkat monetisasi umumnya digunakan di perusahaan pertumbuhan yang dipimpin produk dengan banyak pengguna freemium, atau setidaknya beberapa tingkat produk yang meningkat.

Dalam model freemium, metrik ini bersifat diskrit – apakah pengguna gratis melewati batasan untuk menjadi pengguna berbayar atau tidak? Dalam model lain, metrik ini mungkin berkelanjutan – misalnya, jika perusahaan mengenakan biaya berdasarkan penggunaan seperti AWS, itu tidak sesederhana menggambarkan antara akun “berbayar” dan “tidak berbayar”.

5. Pendaftaran daftar email

Sebagian besar bisnis pada saat ini menyadari nilai pemasaran email dan membangun daftar email yang solid. Khusus untuk pemasar konten dan blogger, konversi makro yang paling menarik mungkin adalah mengubah pembaca menjadi pelanggan email.

Melukis ini dengan nilai dolar akan memerlukan beberapa pekerjaan analisis, tetapi jika Anda memiliki data historis yang cukup, Anda biasanya dapat menetapkan nilai pendapatan rata-rata ke email tertentu yang Anda kumpulkan.

6. Tingkat aktivasi email

Tingkat aktivasi email adalah metrik pemasaran yang diremehkan. Hanya karena seseorang mendaftar ke daftar email Anda tidak berarti mereka terlibat atau berharga.

Ini seperti versi pemasaran email yang "sangat cocok".

Anda dapat menentukan "aktivasi" di sini sesuai keinginan Anda, tetapi banyak yang akan menyertakan sesuatu seperti "membuka salah satu dari tiga email pertama" atau cara lain untuk menunjukkan bahwa orang tersebut benar-benar membaca dan membuka email Anda.

Metrik nilai pelanggan

Metrik nilai pelanggan biasanya merupakan variabel berkelanjutan, yang membuatnya sedikit lebih sulit untuk digunakan sebagai metrik eksperimen. Tapi mereka hampir selalu merupakan perkiraan terdekat dengan nilai bisnis nyata, dan mereka dapat bertindak sebagai indikator tertinggal yang bagus dari pekerjaan Anda.

7. Pendapatan per pengunjung

Pendapatan per pengunjung adalah salah satu metrik komposit terbaik untuk e-niaga. Tidak semua orang akan membeli sesuatu, tetapi beberapa akan. Dan beberapa dari mereka yang membeli akan membeli produk dalam jumlah besar.

Pendapatan per pengunjung menempatkan nilai rata-rata pada setiap pengunjung situs web, jadi Anda menyertakan ukuran pembelian serta jumlah pelanggan yang membeli dalam persamaan ini.

8. Nilai pesanan rata-rata

Nilai pesanan rata-rata menghitung, di antara mereka yang telah membeli, berapa ukuran pembelian rata-rata. Ini relevan, sekali lagi, untuk situs web e-niaga tempat Anda dapat membeli langsung di situs. Bisa juga ASP (harga jual rata-rata) dalam transaksi B2B.

Bagaimana cara menghitung Nilai Pesanan Rata-rata
Sumber Gambar

9. Jumlah pembelian

Semacam metrik retensi untuk e-commerce, Anda dapat melacak jumlah pembelian dalam periode waktu tertentu (bulan, kuartal, tahun).

Ini melacak pembelian berulang dan menunjukkan ciri situs web serta saluran pemasaran untuk mendorong lebih banyak pembeli berulang (biasanya pemasaran email dan iklan berbayar). Ini adalah metrik holistik yang berupaya tidak hanya untuk mengoptimalkan penjualan, tetapi juga penjualan kedua dan ketiga.

10. Retensi

Dalam produk SaaS, retensi pelanggan adalah kunci untuk pertumbuhan. Anda dapat mendorong ribuan pengguna untuk mendaftar, tetapi jika mereka tidak membayar dan terus membayar, bisnis Anda akan membocorkan pendapatan seiring waktu.

Sementara banyak hal memengaruhi retensi di luar produk itu sendiri, eksperimen juga dapat membantu menggerakkan jarum pada retensi. Namun, melacak retensi sebagai KPI eksperimen menjadi agak sulit bagi banyak bisnis, karena ini merupakan siklus umpan balik yang panjang.

Grafik retensi video Facebook
Sumber Gambar

11. Nilai seumur hidup pelanggan

Terakhir, puncak mistis piramida dalam hal metrik komposit: nilai umur pelanggan.

Ini memperhitungkan semua metrik sebelumnya seperti monetisasi atau harga jual rata-rata, retensi (berapa lama seseorang tetap menjadi pelanggan yang membayar), dan juga rasio konversi rata-rata, lalu membuat metrik gabungan menggunakan rumus nilai umur pelanggan untuk memperkirakan berapa banyak, rata-rata, pelanggan bernilai bagi bisnis Anda.

Ini jelas merupakan hal yang sangat sulit untuk diukur berdasarkan per eksperimen, tetapi sebagai KPI bisnis, penting untuk diketahui.

Ini memungkinkan Anda menemukan cara untuk meningkatkan nilai produk serta menunjukkan seberapa layak saluran pemasaran dan kampanye iklan tertentu.

Konversi mikro

1. Tarif klik-tayang (dari banyak jenis)

Rasio klik-tayang adalah jenis utama konversi mikro. Baik itu dari iklan ke halaman arahan atau dari halaman arahan ke halaman demo permintaan.

Dalam e-niaga, ini sering dilacak sebagai rasio klik-tayang ke halaman produk, atau bahkan mungkin tindakan 'tambah ke keranjang' atau melihat keranjang belanja. Ini juga bisa berupa tarif buka email atau tarif klik-tayang email untuk pemasar email. Alat pemasaran email Anda harus memberi Anda informasi ini dengan mudah serta kemampuan untuk menguji A/B versi yang berbeda.

Tentu saja, Anda harus mengeklik dari satu lokasi untuk menuju ke lokasi berikutnya, jadi rasio klik-tayang harus berkorelasi dengan volume pembelian atau konversi yang lebih tinggi.

Tetapi jika Anda hanya melacak rasio klik-tayang sebagai KPI eksperimen Anda, Anda sering dapat memainkan ini melalui tipuan salinan atau UX.

Seperti yang dikatakan Lukas Vermeer,

RKPT sangat buruk untuk mengoptimalkan pemesanan hotel (misalnya EMK dengan subjek "BIR GRATIS" akan meningkatkan RKT, tetapi mungkin mengurangi penjualan setelah pelanggan mengetahui bahwa tidak ada bir di situs Anda, tentu saja bukan bir gratis).

Andrew Chen menyebut ini konservasi niat dan berpendapat bahwa itu adalah salah satu alasan mengapa hasil tes A/B tidak diterjemahkan ke baris teratas.

2. Klik tautan

Klik tautan seperti itu – jumlah orang yang mengeklik tautan tertentu. Ini adalah metrik rasio klik-tayang lainnya, tetapi untuk bisnis tertentu (yaitu afiliasi), mengklik tautan keluar merupakan indikator niat yang penting.

Saya selalu menyiapkan pelacakan klik tautan di situs web tempat saya bekerja, sebagian besar karena ini dapat menunjukkan perilaku pengguna situs web dan peluang pengoptimalan.

Beberapa eksperimen juga disiapkan dengan maksud untuk mengubah arah perilaku pengguna (terkadang memetakan ke konversi makro, namun terkadang hanya melihat apakah eksperimen tersebut dapat mendorong lebih banyak klik ke modul baru).

3. Pemutaran video

Jika Anda memiliki video di halaman arahan, melacak berapa banyak orang yang benar-benar melihat atau memutar video itu penting.

Namun, saya telah melihat eksperimen di mana hanya menambahkan video meningkatkan konversi tanpa benar-benar membuat banyak pengunjung melihat video itu sendiri. Jadi, jika Anda melacak ini, saya tetap menyarankan untuk memetakan eksperimen Anda ke arah konversi makro di halaman.

4. Penyelesaian video

Ada berapa banyak orang yang memutar video, dan seberapa jauh orang menonton video. Penyelesaian video atau rasio penyelesaian video menunjukkan seberapa jauh rata-rata orang melewati video.

Sekali lagi, ini bisa menjadi penting, terutama pada halaman pendidikan, tetapi saya tetap menyarankan Anda untuk memilih KPI bisnis yang lebih tepat seperti tingkat konversi prospek. Anda masih dapat melacak penyelesaian video, dan Anda mungkin harus melakukannya, tetapi hanya karena seseorang menonton seluruh video tidak berarti mereka cenderung berkonversi.

5. Tampilan tur produk

Bagi banyak perusahaan B2B yang tidak memiliki paket freemium atau uji coba gratis, tur produk interaktif terbatas adalah cara yang bagus untuk menunjukkan kepada pengunjung seperti apa tampilan dan rasanya sebenarnya.

Berikut adalah contoh product tour Pendo:

contoh tur produk Pendo

Sebagai KPI, Anda harus memperlakukan ini seperti tampilan video atau tampilan modul promosi apa pun. Meskipun mereka dapat dan sering berkorelasi dengan KPI yang lebih berpusat pada bisnis seperti rasio konversi, namun tidak selalu. Jadi lacak hal ini, tetapi juga ukur konversi makro Anda sebagai KPI eksperimen utama.

6. Tingkat penyelesaian tur produk

Sekali lagi, ada yang melihat tur produk dan langsung terpental, dan pengunjung tersebut berbeda dengan mereka yang melihat tur produk dan menyelesaikannya. Mungkin ada korelasi antara tingkat penyelesaian tur produk dan tingkat konversi, tetapi mungkin juga tidak.

Jika Anda memperlakukan tur produk seperti produk itu sendiri, maka tentu saja penting untuk melihat berapa banyak orang yang menyelesaikannya. Ini adalah metrik UX yang bagus untuk tur produk.

7. Tampilan halaman harga

Sebagian besar pembeli B2B akan mengunjungi halaman harga sebelum membeli, meskipun itu penting ketika dalam perjalanan pelanggan mereka mengunjungi halaman ini. Begitu banyak pemasar akan melacak rasio klik-tayang ke halaman harga sebagai konversi mikro.

Ini seperti versi add-to-cart yang ada dalam optimasi e-commerce.

Metrik Masukan Eksperimen

Metrik masukan dalam program eksperimen Anda ditentukan di tingkat program. Mereka tidak secara langsung melacak pendapatan, tetapi mereka adalah tindakan yang berkorelasi dengan peningkatan metrik output Anda.

Dalam kebanyakan kasus, metrik masukan eksperimen Anda akan berusaha meningkatkan hasil eksperimen atau menurunkan biaya menjalankan eksperimen (melalui peningkatan efisiensi).

Saya akan menjalankan 6 metrik masukan eksperimen di sini.

1. Kecepatan percobaan

Kecepatan eksperimen mengukur berapa banyak eksperimen yang Anda luncurkan dalam jangka waktu tertentu.

Secara umum, tiga metrik masukan yang menjadi dasar ROI Anda adalah berapa banyak eksperimen yang Anda jalankan, berapa persentasenya yang menjadi pemenang, dan berapa rata-rata kemenangannya.

Sederhananya, menjalankan lebih banyak eksperimen (atau lebih banyak varian per eksperimen) meningkatkan peluang Anda untuk mendapatkan pemenang (asalkan eksperimen tersebut berkualitas baik).

Meningkatkan kecepatan eksperimen juga bagus sebagai fungsi pemaksaan; ini membantu Anda melihat di mana hambatan pengembangan dan produksi terjadi dan di mana Anda membutuhkan sumber daya tambahan.

2. Tarif konklusif

Bagi saya, tidak ada yang lebih mengecewakan daripada serangkaian eksperimen yang tidak meyakinkan. Saya lebih suka melihat kerugian konklusif kadang-kadang daripada tes yang tidak meyakinkan, karena setidaknya saya dapat menyindir bahwa apa yang saya uji penting bagi pengalaman pengguna.

Oleh karena itu, beberapa orang mulai melacak tingkat konklusif – jumlah eksperimen konklusif dari semua eksperimen yang Anda jalankan.

Jika program Anda berada pada tahap awal atau Anda tampaknya menjalankan banyak eksperimen yang tidak meyakinkan dengan sedikit pembelajaran, ini bisa menjadi metrik yang bagus untuk memaksa Anda keluar dari kebiasaan itu.

3. Tingkat kemenangan

Kita semua ingin menjalankan eksperimen kemenangan. Bagian dari eksperimen adalah menerima bahwa mereka tidak semua akan menjadi pemenang (jika memang demikian, Anda perlu mempertanyakan seberapa banyak buah menggantung rendah yang Anda tangani versus mencoba hal-hal inovatif baru).

Tingkat kemenangan menunjukkan kepada Anda, dari eksperimen yang Anda jalankan, berapa banyak di antaranya yang menjadi pemenang?

Jika Anda meningkatkan jumlah eksperimen dan mempertahankan rasio kemenangan, ROI Anda akan meningkat (dengan asumsi biaya marjinal untuk menjalankan lebih banyak eksperimen). Jika Anda mempertahankan kecepatan eksperimen tetapi meningkatkan tingkat kemenangan, ROI Anda juga meningkat.

Ini adalah tuas kunci dalam meningkatkan ROI eksperimen.

4. Peningkatan rata-rata per kemenangan

Terakhir, dari eksperimen kemenangan yang Anda jalankan, berapa peningkatan rata-rata yang mereka menangkan?

Ini sangat sulit dikendalikan, karena jika kita bisa memprediksi besarnya eksperimen, kita tidak perlu menjalankannya.

Namun, ada baiknya untuk melacak, karena, seperti kecepatan eksperimen dan tingkat kemenangan, ini merupakan indikator utama yang jelas dari nilai program eksperimen Anda.

Selain itu, memberi insentif untuk kemenangan yang lebih besar sering kali dapat membuat pemasar dan pemasar produk berpikir di luar kebiasaan dan mencoba eksperimen yang lebih besar dan lebih inovatif.

5. Waktu pengembangan

Saya memecah proses eksperimen saya menjadi langkah-langkah yang berbeda.

Biasanya, alur kerja terlihat seperti ini:

Ide eksperimen > dokumen eksperimen > gambar rangka > desain > pengembangan > QA > jalankan uji > analisis > dokumen > dorong ke produksi

Saya menetapkan perkiraan tanggal jatuh tempo untuk setiap langkah pada tahap perencanaan, dan kemudian saya menghitung delta antara tanggal jatuh tempo yang diharapkan dan yang sebenarnya. Jika ada perbedaan yang terlalu besar, ini menunjukkan kepada saya bahwa kita mungkin mengalami hambatan proses.

Paling sering, ini akan terjadi pada tahap desain atau pengembangan.

Jika Anda dapat meningkatkan tahapan ini, Anda dapat meningkatkan throughput eksperimen Anda, yang merupakan salah satu KPI input utama yang kami lihat.

6. Waktu untuk produksi

Serupa dengan waktu pengembangan, waktu hingga produksi mengukur tahapan proses eksperimen: berapa lama waktu yang dibutuhkan dari menganalisis eksperimen yang berhasil hingga menerapkannya secara langsung di produk atau di situs web Anda.

Tahap ini sering diremehkan. Eksperimen akan merayakan kemenangan dan kemudian beralih ke yang berikutnya, tetapi seberapa cepat Anda mengimplementasikan sesuatu itu penting. Pertama, ini mengurangi penyesalan – waktu Anda beroperasi dengan varian yang kurang optimal.

Kedua, peningkatan pada tahap ini memungkinkan Anda untuk lebih memfokuskan waktu pengembang untuk menyiapkan eksperimen berikutnya.

Metrik Komposisi dan Kriteria Evaluasi Keseluruhan

Ada konsep dalam eksperimen yang dikenal sebagai kriteria evaluasi keseluruhan. Orang mungkin juga menyebutnya metrik Bintang Utara.

kriteria evaluasi keseluruhan
Sumber Gambar

Ini adalah metrik yang memperhitungkan metrik pagar pembatas (yaitu metrik yang harus diperhatikan dan diperhitungkan yang dapat menyiratkan kerugian atau kerugian pengalaman pengguna). Metrik pagar pembatas dapat mencakup hal-hal seperti rasio pentalan, rasio keluar, atau bahkan skor sikap seperti NPS atau CSAT.

Evaluasi keseluruhan juga terkadang menggabungkan beberapa metrik keluaran yang berbeda menjadi satu metrik keberhasilan tunggal.

Metrik ini hampir tidak pernah menjadi indikator jangka pendek seperti klik, melainkan melacak beberapa sasaran bisnis makro.

Ronny Kohavi memberikan contoh-contoh ini, "unit yang dibeli, pendapatan, laba, nilai umur yang diharapkan, atau beberapa kombinasi tertimbang dari semua ini."

Meskipun membuat kriteria evaluasi keseluruhan sangat diinginkan, biasanya dibutuhkan banyak pekerjaan rekayasa data, terutama jika model bisnis Anda adalah pasar atau sesuatu yang kurang mudah daripada e-niaga (walaupun dalam kasus ini, sulit untuk melacak nilai seumur hidup pelanggan pada per percobaan dasar).

Namun, poin yang lebih luas adalah ini: semakin dekat Anda untuk membentuk satu indikator keberhasilan yang komprehensif – indikator yang memperhitungkan nilai bisnis jangka panjang serta memperhitungkan metrik pagar pembatas – semakin jelas program eksperimen dan tujuannya.

Cara Memilih Sasaran Eksperimen dan KPI

Oke, kami membahas selusin metrik keluaran dan beberapa metrik masukan.

Pertanyaannya, kemudian, adalah bagaimana Anda dan bisnis Anda memilih apa yang menjadi fokus – karena *adalah* sebuah pilihan, dan dari pilihan itu akan mengalir segala jenis insentif, perilaku, dan tindakan.

Cara terbaik yang saya temukan untuk memilih metrik, sasaran, dan KPI Anda adalah dengan membuat pohon sasaran.

Speero memiliki contoh visualisasi pohon tujuan yang bagus di sini:

Speero memiliki contoh visualisasi pohon tujuan yang bagus
Sumber Gambar

Di dalamnya, mereka mulai dengan tujuan tingkat perusahaan, yang mencakup metrik kepuasan pelanggan. Ini mengalir ke tujuan tingkat tim, yang berfokus pada pengembangan fitur yang sukses. Kemudian melambat menjadi tujuan tingkat pribadi, yang berfokus pada pengujian dan pembuatan ide proposal fitur baru.

Saya percaya semua tujuan tim dan pribadi harus secara langsung mencerminkan dan berkontribusi terhadap tujuan perusahaan. Ini adalah keselarasan, dan ketika Anda mencapai hasil yang berkontribusi terhadap tujuan perusahaan, Anda akan memiliki lebih banyak kegembiraan untuk program Anda karena Anda menunjukkan ROI nyata terhadap misi perusahaan.

Bagaimana ini akan terlihat di perusahaan Anda tergantung pada banyak faktor. Yang penting adalah menjalani latihan ini dan berpikir kritis tentang tujuan mana yang Anda pilih.

Kesimpulan

Cara Anda menentukan sasaran dalam eksperimen memengaruhi hampir semua tindakan di hilir sasaran tersebut.

Secara teori, ada ribuan metrik yang dapat Anda lacak secara layak pada tingkat output dan input. Memilih metrik yang tepat, tidak hanya untuk dilacak tetapi juga untuk mengukur efektivitas eksperimen atau program Anda, sangat penting untuk keberhasilan program Anda.

Jadi pada kenyataannya, saya yakin Anda harus memilih untuk fokus pada metrik sesedikit mungkin. Ini memungkinkan untuk fokus, tetapi juga memberi Anda waktu untuk meningkatkannya selama berbulan-bulan atau bertahun-tahun.

Saya suka membagi sasaran saya menjadi dua kategori: metrik masukan dan keluaran. Metrik keluaran adalah apa yang saya nilai dari eksperimen individu saya atau hasil dari program eksperimen saya. Merekalah yang saya laporkan kepada tim dan eksekutif.

Metrik masukan membantu saya membuat program yang lebih efektif. Merekalah yang saya nilai atas usaha saya sendiri dan tim saya.

Bagaimana Anda menentukan metrik eksperimen untuk program Anda? Apakah Anda fokus pada metrik input, atau hanya pada output dan hasil?