Responsible AI in HR: Cara Mengelola Risiko Bias dan Menjaga Keputusan yang Adil

Apakah AI Selalu Membuat Keputusan HR Lebih Objektif?

Teknologi kecerdasan buatan semakin banyak digunakan untuk mendukung pekerjaan HR, mulai dari menyusun deskripsi lowongan hingga membantu menyaring lamaran dan menganalisis data tenaga kerja. Teknologi ini dapat mempercepat proses dan mengurangi pekerjaan administratif yang berulang.

Namun, otomatisasi tidak otomatis menghasilkan keputusan yang adil. Sistem AI dapat mengulang pola bias dalam data historis, menggunakan indikator yang tidak relevan, atau menghasilkan rekomendasi yang sulit dijelaskan. Kesalahan juga dapat terjadi ketika pengguna terlalu mempercayai hasil sistem tanpa melakukan pemeriksaan.

Karena keputusan HR memengaruhi kesempatan kerja, pengembangan karier, dan pengalaman karyawan, penggunaan AI perlu disertai tata kelola yang jelas. Tujuannya adalah memanfaatkan manfaat teknologi sambil menjaga akurasi, keadilan, privasi, dan akuntabilitas.

Memahami Risiko AI dalam HR

AI dalam HR dapat digunakan untuk berbagai kebutuhan, seperti membantu menyusun materi rekrutmen, mengelompokkan pertanyaan kandidat, mendukung analisis survei, atau menemukan pola dalam data tenaga kerja. Tingkat risiko bergantung pada tujuan penggunaan, jenis data, dan dampak keputusan terhadap individu.

Salah satu risiko utama adalah algorithmic bias. Bias dapat muncul ketika data historis mencerminkan ketidaksetaraan sebelumnya, sampel tidak mewakili populasi, atau variabel yang digunakan menjadi proksi bagi karakteristik sensitif.

Contohnya, sistem seleksi yang dilatih menggunakan data perekrutan masa lalu dapat mempelajari pola yang tidak relevan dengan kemampuan kerja. Jika pola tersebut diterapkan tanpa evaluasi, kandidat yang sebenarnya memenuhi kualifikasi dapat dirugikan.

Risiko lain meliputi kebocoran data pribadi, informasi yang tidak akurat, kurangnya transparansi, dan ketergantungan berlebihan pada rekomendasi otomatis. Penggunaan AI generatif juga memerlukan pemeriksaan karena hasilnya dapat terdengar meyakinkan meskipun mengandung kesalahan.

Karena itu, HR perlu memetakan setiap penggunaan AI, menentukan tujuan yang sah, mengevaluasi data yang diproses, dan mengidentifikasi konsekuensi jika sistem menghasilkan keputusan yang keliru.

Membangun Penggunaan AI yang Bertanggung Jawab

Langkah pertama adalah menetapkan batas penggunaan. Perusahaan perlu membedakan aplikasi berisiko rendah, seperti membantu membuat draf komunikasi internal, dengan penggunaan yang dapat memengaruhi peluang seseorang dalam rekrutmen atau keputusan kepegawaian.

Untuk proses berisiko tinggi, pengawasan manusia harus bermakna. Peninjau perlu memiliki informasi, kompetensi, dan kewenangan untuk memeriksa serta menolak rekomendasi sistem. Persetujuan manusia yang hanya bersifat formal tidak cukup untuk mengendalikan risiko.

Kedua, lakukan pengujian sebelum dan selama penggunaan. Evaluasi kualitas hasil, kesalahan, konsistensi, dan perbedaan dampak terhadap kelompok yang relevan jika pengukuran tersebut sah dan sesuai konteks. Dokumentasikan keterbatasan model serta kondisi ketika sistem tidak boleh digunakan.

Ketiga, lindungi data. Batasi informasi yang dimasukkan ke dalam alat AI, periksa ketentuan pemrosesan data penyedia, dan hindari memasukkan informasi pribadi atau rahasia perusahaan ke layanan yang tidak disetujui.

Keempat, jelaskan peran AI kepada pihak terkait secara proporsional. Kandidat dan karyawan perlu memperoleh informasi yang sesuai mengenai penggunaan teknologi, mekanisme peninjauan, dan jalur untuk mengajukan pertanyaan atau keberatan jika relevan.

Buat Tata Kelola AI untuk HR

Mulailah dengan membuat inventaris penggunaan AI di seluruh proses HR. Untuk setiap penggunaan, dokumentasikan tujuan, pemilik proses, jenis data, risiko, kontrol, dan pihak yang bertanggung jawab atas hasilnya.

Tetapkan prosedur persetujuan sebelum aplikasi baru digunakan. Libatkan HR, tim teknologi, keamanan informasi, legal, dan fungsi lain sesuai kebutuhan. Untuk sistem yang berdampak besar terhadap individu, lakukan penilaian risiko dan pengujian yang lebih mendalam.

Pantau kinerja sistem secara berkala karena kualitas data, kebutuhan organisasi, dan perilaku pengguna dapat berubah. Sediakan mekanisme pelaporan insiden serta proses penghentian penggunaan jika risiko tidak dapat dikendalikan.

Terakhir, latih tim HR agar memahami kemampuan dan keterbatasan AI. Dengan tata kelola yang terstruktur, AI dalam HR dapat dimanfaatkan untuk meningkatkan efisiensi tanpa mengabaikan keadilan, privasi, dan tanggung jawab manusia.

Baca Juga Cara Memprediksi Risiko Turnover Karyawan