Setiap tim yang mengirimkan fitur AI memiliki cerita tentang hal yang hampir mereka rilis. Chatbot yang memberikan nasihat medis tidak seharusnya. Sistem rekomendasi yang menampilkan konten yang tidak akan disetujui oleh siapa pun di tim jika mereka melihatnya. Integrasi model bahasa yang menghafal dan memuntahkan informasi pribadi seseorang.
Tim yang beruntung menangkapnya sebelum pengguna melakukannya. Yang kurang beruntung mengetahuinya dari Twitter.
Perbedaan antara kedua hasil tersebut biasanya bukan terletak pada infrastruktur pengujian yang lebih baik atau teknisi yang lebih cerdas. Pertanyaannya adalah apakah tim tersebut memiliki latihan rutin untuk mundur dan mengajukan pertanyaan sulit tentang apa yang sebenarnya dilakukan sistem AI mereka di dunia nyata. Praktik tersebut merupakan retrospeksi etika dan keselamatan — dan jika Anda mengirimkan fitur AI, Anda memerlukannya.
Mengapa Retro Standar Melewatkan Masalah Etika AI
Retrospektif sprint reguler Anda dirancang untuk memunculkan masalah proses: peninjauan kode yang lambat, persyaratan yang tidak jelas, hambatan penerapan. Ini tidak dirancang untuk memunculkan pertanyaan-pertanyaan yang dituntut etika AI, seperti:
- Apakah model kami berperilaku berbeda untuk kelompok demografi yang berbeda?
- Apa yang terjadi jika seseorang dengan sengaja mencoba membuat AI kita menghasilkan keluaran yang berbahaya?
- Apakah kita mengumpulkan atau menyimpan data yang tidak seharusnya?
- Siapa yang dirugikan jika AI kita salah, dan seberapa parahnya?
Pertanyaan-pertanyaan ini tidak muncul secara alami dalam format "apa yang berjalan dengan baik/apa yang dapat ditingkatkan". Hal ini memerlukan dorongan yang disengaja, data spesifik, dan jenis percakapan yang berbeda dari yang biasa dilakukan kebanyakan tim.
Itu tidak berarti Anda memerlukan proses kelas berat yang terpisah. Artinya, Anda harus sengaja menyediakan ruang untuk pertanyaan-pertanyaan ini secara rutin — baik itu sesi bulanan khusus atau segmen berulang di retro Anda yang sudah ada.
Empat Area yang Penting
Saat Anda mengevaluasi etika dan keamanan sistem AI, ada baiknya jika Anda memiliki kerangka kerja yang konsisten sehingga Anda tidak melewatkan titik buta. Berikut empat area yang mencakup bidang yang paling dibutuhkan tim:
1. Keadilan dan Bias
Pertanyaannya sederhana: apakah AI Anda memperlakukan kelompok orang yang berbeda secara adil? Jawabannya hampir tidak pernah sederhana.
Mulailah dengan apa yang dapat Anda ukur. Jika sistem Anda mengambil keputusan tentang orang (rekomendasi, penilaian, pemfilteran, pemeringkatan), kelompokkan hasilnya berdasarkan dimensi demografis yang dapat Anda akses. Carilah perbedaan. Jika model moderasi konten Anda menandai postingan dari komunitas tertentu dengan tingkat yang lebih tinggi, hal ini perlu diselidiki.
Untuk retrospeksi Anda, tanyakan:
- Sudahkah kami menguji perilaku model kami di berbagai kelompok demografi dalam sebulan terakhir?
- Apakah ada keluhan atau masukan pengguna yang menunjukkan perlakuan bias?
- Apakah kumpulan data pelatihan kami mewakili basis pengguna kami yang sebenarnya?
- Asumsi apa yang dimasukkan ke dalam model kita yang belum kita periksa baru-baru ini?
Jawaban jujur atas sebagian besar pertanyaan ini bagi sebagian besar tim adalah "kami belum memeriksanya". Tidak apa-apa — retrospektif adalah tempat Anda memutuskan untuk memulai.
2. Pencegahan Keamanan dan Bahaya
Hal ini mencakup cara sistem AI Anda dapat membahayakan pengguna secara langsung: menghasilkan instruksi berbahaya, memproduksi konten yang seharusnya tidak ada, membuat kesalahan berisiko tinggi, atau dimanipulasi menjadi perilaku yang tidak Anda inginkan.
Keparahannya bergantung sepenuhnya pada konteks Anda. Chatbot yang menulis puisi buruk berisiko rendah. Sebuah sistem yang memberi nasihat kepada pasien tentang dosis pengobatan adalah hidup atau mati. Retrospeksi Anda harus mencerminkan tingkat risiko sebenarnya dari produk spesifik Anda.
Pertanyaan retro yang berguna:
- Apakah kami menemukan kasus di mana AI kami menghasilkan keluaran yang dapat membahayakan pengguna?
- Apakah ada yang menguji masukan permusuhan sejak tinjauan terakhir kami? Apa yang terjadi?
- Apakah filter konten dan pagar pengaman kami berfungsi sebagaimana mestinya? Apa yang terjadi?
- Jika model kita salah dalam kasus terburuk, apa konsekuensinya?
3. Transparansi dan Penjelasan
Pengguna yang berinteraksi dengan AI berhak mengetahui beberapa hal: bahwa mereka berinteraksi dengan AI, seberapa yakin sistem tersebut, dan — jika memungkinkan — mengapa sistem menghasilkan keluaran tertentu.
Ini sebagian merupakan pertanyaan UX dan sebagian lagi merupakan pertanyaan etis. Jika bot layanan pelanggan Anda yang didukung AI tidak mengidentifikasi dirinya sebagai bot, pengguna dapat berbagi informasi yang tidak akan mereka bagikan dengan mesin. Jika sistem rekomendasi Anda tidak menjelaskan alasannya menyarankan sesuatu, pengguna tidak dapat mengevaluasi saran tersebut secara bermakna.
Untuk gaya retro:
- Apakah pengguna mengetahui saat mereka berinteraksi dengan sistem AI?
- Apakah kita menyampaikan tingkat keyakinan atau ketidakpastian dengan cara yang dapat dipahami pengguna?
- Bisakah kami menjelaskan keluaran model kami ketika ada yang bertanya? Bisakah kita melakukannya dalam bahasa non-teknis?
- Apakah kami sudah transparan mengenai keterbatasan fitur AI kami?
4. Privasi dan Penanganan Data
Sistem AI membutuhkan banyak data, dan batasan antara "data yang diperlukan agar model dapat berfungsi" dan "data yang tidak boleh dikumpulkan" dapat menjadi kabur dengan cepat. Model bahasa khususnya dapat mengingat data pelatihan, sehingga menimbulkan risiko privasi nyata jika salah satu data tersebut bersifat pribadi.
Pertanyaan masa lalu:
- Data apa yang kami masukkan ke dalam model kami, dan apakah kami memiliki izin yang jelas untuk penggunaannya?
- Sudahkah kita menguji apakah model kita dapat diminta untuk mengungkapkan data pelatihan atau informasi pribadi?
- Apakah kami mempertahankan interaksi pengguna? Berapa lama, dan siapa yang memiliki akses?
- Apakah kami mematuhi peraturan perlindungan data yang berlaku bagi pengguna kami?
Menjalankan Retrospektif
Siapa yang Harus Ada di Ruangan
Ini bukan sekadar latihan teknik. Anda memerlukan orang-orang yang memahami sistem secara teknis (insinyur, praktisi ML) DAN orang-orang yang memahami dampak manusianya (manajer produk, desainer, siapa pun yang berperan dalam menangani pelanggan). Jika Anda memiliki staf hukum atau kepatuhan, sertakan mereka secara berkala — tidak setiap sesi, tetapi setiap triwulan.
Pertahankan grup antara 4-8 orang. Kelompok yang lebih besar mempersulit percakapan jujur dan terkadang tidak nyaman yang diperlukan dalam format ini.
Format Praktis (60 menit)
Tinjau data (15 menit). Sebelum rapat, seseorang harus menyiapkan ringkasan singkat tentang sinyal yang relevan: keluhan pengguna, log moderasi, tren metrik keselamatan, hasil pengujian bias, insiden relevan, atau kejadian nyaris celaka. Pelajari hal ini dengan cepat untuk mendasari percakapan tentang apa yang sebenarnya terjadi.
Diskusikan setiap area (30 menit). Anda tidak perlu membahas keempat area tersebut setiap sesi. Putar fokus, habiskan lebih banyak waktu di area di mana Anda pernah melihat sinyal atau di tempat yang sudah lama tidak Anda periksa. Pembahasannya harus berpusat pada: apa yang kita pelajari, apa yang kita khawatirkan, dan apa yang harus kita selidiki lebih lanjut.
Tentukan tindakan (15 menit). Pilih 1-3 tindak lanjut yang konkrit. Contoh:
- Jalankan audit bias pada model rekomendasi sebelum versi retro bulan depan
- Tambahkan pengujian permusuhan ke proses QA untuk chatbot
- Perbarui pemberitahuan privasi untuk mencerminkan cara kami menggunakan data percakapan
- Siapkan pemantauan otomatis untuk mode kegagalan spesifik yang kami identifikasi
Menjadikannya Berkelanjutan
Risiko terbesar bukanlah menjalankan satu putaran yang buruk — melainkan berhenti setelah tiga sesi karena terasa seperti overhead. Berikut cara menghindarinya:
Mulai setiap bulan, bukan setiap minggu. Peninjauan etika memerlukan waktu yang cukup antar sesi agar data baru dapat terakumulasi dan item tindakan dapat diselesaikan.
Rotasi fasilitator. Hal ini mencegahnya menjadi "inisiatif satu orang" dan menyebarkan rasa kepemilikan ke seluruh tim.
Hubungkan dengan kejadian nyata. Saat terjadi kesalahan — keluhan pengguna tentang bias, hasil yang seharusnya tidak terjadi, nyaris terjadi kecelakaan — rujuk ke versi retro berikutnya. Hal ini memperkuat bahwa sesi ini memiliki tujuan lebih dari sekadar teater kepatuhan.
Buat catatan berjalan. Dokumentasikan apa yang Anda diskusikan, apa yang Anda putuskan, dan apa yang terjadi sebagai hasilnya. Seiring waktu, catatan ini menjadi pengetahuan institusional yang berharga — dan bukti bahwa tim Anda menganggap serius etika, jika hal itu penting (dan suatu hari nanti mungkin terjadi).
Pola Umum dan Tindakan yang Harus Dilakukan untuk Mengatasinya
Setelah menjalankannya beberapa saat, Anda akan melihat tema yang berulang. Berikut ini yang paling sering muncul:
"Kami tidak memiliki data untuk mengevaluasi keadilan." Hal ini umum dan nyata. Jika Anda belum menyiapkan pengujian demografi, Anda tidak dapat mengukur bias demografis. Item tindakannya bukanlah melakukan diskusi filosofis — melainkan menentukan data apa yang Anda perlukan dan mencari cara mendapatkannya secara etis.
"Kami tahu ada masalah, namun memperbaikinya membutuhkan biaya besar." Di sinilah penentuan prioritas menjadi tidak nyaman. Masalah bias pada model Anda mungkin memerlukan pelatihan ulang, yang mungkin memerlukan waktu berminggu-minggu. Pendekatan retro harus menghasilkan penilaian risiko yang jujur: seberapa parah dampaknya, seberapa besar kemungkinannya, dan berapa biaya yang harus ditanggung jika kita memperbaiki atau tidak memperbaikinya? Kemudian tingkatkan tradeoff tersebut kepada siapa pun yang memiliki keputusan.
"Pengujian keamanan semakin tidak diprioritaskan untuk fitur-fitur." Jika hal ini muncul berulang kali, ini merupakan masalah sistem. Perbaikannya bukan pada tingkat tim, melainkan pada tingkat peta jalan. Gunakan data masa lalu untuk menyampaikan argumen kepada pimpinan bahwa pekerjaan keselamatan memerlukan kapasitas yang dilindungi.
"Kami tidak yakin apa yang diwajibkan oleh peraturan tersebut." Hal ini semakin umum seiring dengan berkembangnya peraturan AI di seluruh yurisdiksi. Item tindakannya spesifik: dapatkan pengarahan dari bagian hukum, baca peraturan yang relevan (EU AI Act adalah yang paling komprehensif pada awal tahun 2026), dan identifikasi apa yang berlaku pada klasifikasi risiko sistem Anda.
Membangun Budaya Keselamatan
Inti dari retrospektif etika dan keselamatan bukanlah untuk mencentang kotak atau melindungi perusahaan dari tanggung jawab (meskipun perusahaan juga melakukan hal tersebut). Ini untuk membangun kebiasaan tim yang bertanya "haruskah kita?" di samping "bisakah kita?"
Seiring waktu, percakapan ini mengubah cara berpikir orang selama pengembangan, bukan hanya selama peninjauan. Para insinyur mulai menandai potensi masalah keadilan selama diskusi desain. Manajer produk mulai bertanya tentang mode kegagalan dalam PRD. Retrospektif tidak hanya memunculkan masalah — tetapi juga melatih tim untuk melihatnya lebih awal.
Itulah hasil sebenarnya yang Anda cari: sebuah tim yang menerapkan etika dan pemikiran keselamatan dalam pekerjaan, bukan langsung setelah kejadian.
Coba NextRetro gratis — Gunakan mode anonim untuk mengungkapkan masalah etika sensitif yang mungkin tidak diungkapkan secara terbuka oleh tim Anda.
Terakhir Diperbarui: Februari 2026
Waktu Membaca: 7 menit
