Bagaimana Scotiabank Membangun Budaya AI yang Etis dan Terlibat

Apa yang dibutuhkan untuk menghasilkan inisiatif AI yang memenangkan penghargaan? Scotiabank — yang secara resmi bernama Bank of Nova Scotia, dan salah satu bank terbesar di Kanada — baru-baru ini memenangkan dua penghargaan untuk AI dalam satu acara. DataIQ memberi Bank tersebut mendapatkan penghargaan Penggunaan AI Paling Inovatif untuk chatbot-nya dan mengakui keseluruhan program data dan etika AI-nya sebagai Program AI Bertanggung Jawab Terbaik, menyebutnya sebagai “inisiatif perintis dalam industri keuangan.”

Kami rasa akan sangat membantu jika menjelaskan bagaimana kasus penggunaan AI yang inovatif dan bertanggung jawab muncul, dan bagaimana kasus penggunaan AI tertentu mencerminkan budaya tempat kasus tersebut dikembangkan. terakhir menulis tentang Scotiabank pada tahun 2021tetapi banyak hal telah berubah sejak saat itu — dan bukan hanya munculnya AI generatif.

Cara Membuat Chatbot yang Sukses

Aplikasi yang memenangkan penghargaan inovasi DataIQ mendukung chatbot untuk pusat kontak Scotiabank. Anda mungkin tahu bahwa chatbot berbasis AI umum digunakan di bank-bank besar. Yang membuat satu chatbot lebih baik daripada yang lain adalah kualitas pengetahuan dasar yang tertanam di dalamnya, dan kualitas model AI yang menyajikannya kepada pelanggan. Scotiabank menangani kedua masalah tersebut.

Grace Lee, kepala bagian data dan analitik bank, mengatakan bahwa ia sangat bangga dengan upaya partisipatif pusat kontak untuk meningkatkan kualitas pengetahuan. Pusat tersebut mengambil alih kepemilikan basis pengetahuannya dan menyusunnya secara efektif untuk memastikan bahwa setiap dokumen yang dimasukkan ke dalam chatbot jelas, unik, dan terkini. Penghargaan tersebut mengakui penerapan kreatif alat tersebut pada model AI tambahan yang meningkatkan dan mempertahankan pelatihan chatbot. Strategi AI-untuk-AI ini telah memungkinkan tim Lee untuk mengotomatiskan sebagian besar proses pelatihan bot, seperti mengidentifikasi topik pelatihan baru yang optimal, sehingga menghemat ribuan jam kerja manual. Dengan efisiensi ini muncul produk yang lebih baik: Sejak diperkenalkan pada akhir tahun 2022, tingkat akurasi chatbot telah meningkat dari 35% akurat menjadi 90%.

Lebih dari 40% pertanyaan nasabah melalui chat dijawab tanpa campur tangan manusia. Ketika nasabah memutuskan bahwa mereka perlu berbicara dengan agen manusia, mereka berharap agen tersebut memahami apa yang telah mereka diskusikan dengan chatbot. Untuk menyediakan kemampuan ini, bank telah mengembangkan kemampuan ringkasan cepat menggunakan model bahasa yang besar. Agen diberikan ringkasan teks singkat dari percakapan tersebut, termasuk maksud nasabah dan tindakan yang diminta. Dengan adanya ringkasan tersebut, waktu yang dibutuhkan agen untuk merespons berkurang hingga 60% hingga 70%.

Staf pusat kontak bukan satu-satunya yang bekerja pada chatbot. Kelompok lain termasuk organisasi wawasan pelanggan, data, dan analitik Lee; produk dan desain digital; dan rekayasa perangkat lunak. Lee memberi tahu kami bahwa pengembangan chatbot yang partisipatif dan kolaboratif merupakan indikasi perubahan budaya di bank.

Karena alat AI generatif seperti ChatGPT telah membuat AI lebih mudah diakses, orang-orang cukup bersemangat dan terlibat tentang apa yang dapat dilakukan AI sekarang sehingga mereka lebih bersedia untuk melakukan perbaikan dalam data tidak terstruktur yang digunakan untuk mengisinya. Hal ini konsisten dengan temuan survei terbaru kami tentang lingkungan data organisasi besar tentang keadaan data dan AI di perusahaan terkemuka pada tahun 2024: Untuk pertama kalinya, jumlah responden yang mengatakan organisasi mereka telah membangun budaya data dan analitik meningkat dua kali lipat (dari 21% menjadi 43%) dalam setahun. Kami menyimpulkan bahwa AI generatif adalah penyebab yang paling mungkin, dan komentar Lee tampaknya mendukung hipotesis tersebut.

Domain Data Baru

Ketika kami menulis tentang Scotiabank tiga tahun lalu, fokus pengelolaan data adalah menciptakan kumpulan data otoritatif yang dapat digunakan kembali, atau RAD. Karena bank telah memindahkan datanya ke cloud, fokusnya sekarang adalah pada konsolidasi RAD dalam model data perusahaan yang dihosting cloud agar dapat diakses oleh seluruh bank: Ini menciptakan satu versi kebenaran dan menyederhanakan pengelolaan, tata kelola, dan penggunaan data. Data terstruktur jenis ini akan selalu penting bagi bank dan sebagian besar organisasi lainnya.

Namun, yang baru di Scotiabank adalah upaya untuk mengelola data tidak terstruktur, seperti yang dilakukan pusat kontak dengan pertanyaan dan jawaban pelanggannya. Jenis data ini adalah bahan bakar AI generatif, tetapi sebagian besar organisasi belum benar-benar mulai mengelolanya secara efektif. Dalam survei pemimpin data pada akhir tahun 2023, 93% setuju bahwa strategi data baru sangat penting untuk keberhasilan AI generatif, tetapi 57% belum mengambil langkah apa pun menuju pendekatan baru.

Namun Lee dari Scotiabank mengambil tindakan. Ia berkata, “(meskipun faktanya) manajemen pengetahuan merupakan kegiatan yang terus-menerus dan berat, dengan banyak dokumen dan kebijakan yang terkait dengan sejumlah besar produk dan layanan di berbagai wilayah,” ia memandang manajemen pengetahuan, informasi, dan dokumen sebagai bagian dari tugas datanya. “Kami pasti akan menemukan banyak duplikasi dan tantangan dengan basis pengetahuan kami,” katanya, mengutip penemuan beberapa versi kebijakan bank yang sama oleh pusat kontak, sering kali dalam bentuk cetakan kertas.

Bank telah mulai mengatasi masalah tersebut dengan berbagai inisiatif. Karena ada gelombang besar minat dalam eksperimen AI generatif, dan hubungan erat antara pengetahuan bisnis dan pengetahuan di setiap bagiannya, Lee mengatakan bahwa ia berharap bahwa sisi bisnis bank akan semakin mengambil alih kepemilikan atas kualitas data yang tidak terstruktur. Selain pusat kontak, Scotiabank juga telah membersihkan basis pengetahuan untuk bisnis pembayaran. Itu adalah rangkaian produk yang lebih sempit daripada yang perlu ditangani oleh pusat kontak, dan Lee mengatakan bahwa kelompoknya berhasil membuat tim bisnis kelompok itu memahami dengan cepat cara menyusun konten mereka sendiri. Ia berharap kelompoknya akan melakukan itu secara progresif di bagian lain bank.

Etika yang Terbangun

Seperti yang telah kita bahas di kolom sebelumnya tentang Unileverkami berpendapat bahwa organisasi perlu menanamkan pemikiran berorientasi etika ke dalam proses membangun solusi AI sejak tahap awal. Scotiabank mengambil pendekatan itu tidak hanya untuk AI generatif tetapi juga untuk semua jenis AI dan analitikdan penggunaan data di bank secara lebih luas. Selain memiliki kebijakan manajemen risiko AI, Scotiabank memiliki kebijakan etika data dan tim etika data untuk memajukannya. Kebijakan tersebut sekarang menjadi bagian dari kode etik bank, yang harus dibuktikan oleh semua karyawan setiap tahun. Pendekatan etika data juga memenangkan penghargaan menghadiahkan untuk karyanya di Qorus-Accenture Banking Innovation Awards (OK, medali perunggu, tetapi itu dari lebih dari 680 entri perbankan).

Untuk mengidentifikasi masalah etika AI pada tahap awal pengembangan kasus penggunaan, Scotiabank bekerja sama dengan Deloitte Kanada untuk mengembangkan Asisten Etikasebuah aplikasi yang mengevaluasi dampak etis dari kasus penggunaan AI sebelum diterapkan sepenuhnya. Menjalankan asisten adalah langkah pertama untuk semua proyek AI dan pembelajaran mesin baru di bank. Jika ditemukan masalah etika, kasus penggunaan tersebut berada pada tahap yang cukup awal untuk mengubah desain.

Selain itu, bank mengembangkan program pendidikan etika data wajib bagi siapa pun yang berkecimpung dalam organisasi wawasan pelanggan, data, dan analitik atau yang melakukan pekerjaan analitik tingkat lanjut di tempat lain di bank. Semua fokus etika ini secara bersama-sama cukup unik bagi Scotiabank untuk menonjol dari organisasi keuangan lain dan memenangkan penghargaan AI yang bertanggung jawab dari DataIQ.

Ketika kami mendeskripsikan Scotiabank di kolom kami tahun 2021, kami menggambarkan bank yang sedang mengejar ketertinggalan dibandingkan dengan para pesaingnya. Sekarang tampaknya bank ini memimpin dalam banyak hal. Luasnya aktivitas dan partisipasi dalam AI di seluruh organisasi menjadi pertanda baik bagi masa depannya.