AI semakin banyak digunakan di tempat kerja.

AI membantu membuat laporan.
AI menganalisis data.
AI menyaring kandidat.
AI memberikan rekomendasi.
Bahkan, AI agent mulai dapat menjalankan sebagian proses kerja secara lebih mandiri.

Namun ada satu pertanyaan yang sering tertinggal di belakang perkembangan tersebut:

Ketika AI membuat keputusan atau rekomendasi yang salah, siapa yang bertanggung jawab?

Apakah orang yang menggunakan AI?

Apakah atasan yang menyetujui hasilnya?

Apakah tim IT yang menyediakan sistem?

Apakah HR yang membuat kebijakannya?

Atau perusahaan yang memutuskan menggunakan AI sejak awal?

Di sinilah muncul fenomena yang semakin relevan di dunia kerja:

AI Accountability Gap.

Apa Itu AI Accountability Gap?

AI Accountability Gap adalah kondisi ketika perusahaan menggunakan AI dalam proses kerja atau pengambilan keputusan, tetapi belum memiliki kejelasan mengenai siapa yang memiliki tanggung jawab atas keputusan, risiko, dan dampak dari penggunaan AI tersebut.

Masalahnya bukan semata-mata apakah AI bisa melakukan kesalahan.

AI memang bisa menghasilkan output yang tidak akurat, tidak relevan, atau tidak sesuai konteks.

Masalah yang lebih besar adalah:

ketika kesalahan terjadi, sistem tanggung jawab perusahaan tidak selalu sejelas sistem AI yang digunakan.

Dalam studi global IBM terhadap 1.500 CHRO dan 8.800 karyawan, 43% karyawan mengatakan bahwa ketika sesuatu yang berkaitan dengan AI berjalan salah, mereka yang menerima dampaknya atau disalahkan. Sementara itu, 36% CHRO mengatakan ketidakjelasan accountability menjadi hambatan dalam penerapan AI.

Artinya, perusahaan bisa saja sudah memiliki AI.

Tetapi belum tentu memiliki AI accountability.

Ketika AI Menjadi “Alasan”

Bayangkan seorang HR menggunakan AI untuk membantu melakukan screening kandidat.

AI memberikan rekomendasi:

Kandidat A memiliki kecocokan paling tinggi.

HR kemudian mengikuti rekomendasi tersebut.

Setelah kandidat diterima, ternyata performanya tidak sesuai ekspektasi.

Kemudian muncul pertanyaan:

Siapa yang salah?

HR bisa mengatakan:

“Saya hanya mengikuti rekomendasi sistem.”

Tim IT bisa mengatakan:

“Kami hanya menyediakan tools.”

Vendor AI bisa mengatakan:

“Output AI tetap harus divalidasi pengguna.”

Atasan bisa mengatakan:

“Saya mengira proses screening sudah dilakukan dengan benar.”

Akhirnya semua orang terlibat.

Tetapi tidak ada yang benar-benar merasa menjadi owner atas keputusan tersebut.

Inilah accountability gap.

Masalahnya Bukan Hanya pada AI

Sering kali ketika membicarakan risiko AI, perusahaan langsung berpikir mengenai:

• keamanan data
• cybersecurity
• bias algoritma
• akurasi model
• compliance
• biaya teknologi

Semua itu penting.

Tetapi ada satu lapisan yang sering terlupakan:

bagaimana manusia bertanggung jawab ketika AI menjadi bagian dari proses pengambilan keputusan?

Deloitte pada 2026 menyoroti bahwa ketika AI semakin mampu mengambil tindakan secara mandiri, organisasi menghadapi tantangan dalam menentukan siapa yang bertanggung jawab atas hasil keputusan tersebut. Dalam surveinya, hampir 70% responden menganggap ketidakmampuan mempercayai dan mengatur AI agents sebagai hambatan utama untuk memperoleh nilai dari teknologi tersebut.

Dengan kata lain:

semakin besar autonomy AI, semakin penting kejelasan accountability manusia.

Studi Kasus

Sebuah perusahaan sedang meningkatkan penggunaan AI dalam proses recruitment.

Sebelumnya, recruiter melakukan:

• screening CV
• membuat shortlist
• melakukan interview
• memberikan rekomendasi kandidat

Kemudian perusahaan mulai menggunakan AI untuk mempercepat proses.

AI digunakan untuk:

• membaca CV
• mencocokkan kandidat dengan job description
• memberikan ranking kandidat
• merangkum hasil interview

Awalnya proses menjadi jauh lebih cepat.

Recruiter yang sebelumnya membutuhkan beberapa jam untuk melakukan screening dapat menyelesaikannya dalam waktu yang jauh lebih singkat.

Namun beberapa bulan kemudian muncul masalah.

Sejumlah kandidat yang sebenarnya memiliki pengalaman relevan tidak masuk shortlist.

Sementara beberapa kandidat yang mendapat ranking tinggi ternyata kurang sesuai ketika menjalani interview.

Manajemen kemudian mempertanyakan:

“Mengapa kandidat ini lolos dari proses screening?”

Recruiter menjawab:

“Rekomendasinya berasal dari AI.”

Tim IT mengatakan:

“Sistem berjalan sesuai konfigurasi.”

Manajemen kemudian menyadari bahwa perusahaan memiliki SOP penggunaan AI.

Tetapi tidak memiliki kejelasan mengenai:

• siapa yang bertanggung jawab memvalidasi rekomendasi AI
• kapan recruiter boleh menolak rekomendasi AI
• keputusan mana yang tidak boleh sepenuhnya diserahkan kepada AI
• siapa yang melakukan audit terhadap pola rekomendasi
• siapa yang bertanggung jawab ketika terjadi kesalahan

Masalahnya bukan karena perusahaan menggunakan AI.

Masalahnya adalah AI dimasukkan ke dalam proses tanpa mendesain ulang accountability.

Human-in-the-Loop Tidak Cukup

Salah satu solusi yang sering disebut adalah:

“Tetap harus ada human-in-the-loop.”

Namun keberadaan manusia saja belum tentu cukup.

Jika manusia hanya menjadi orang yang menekan tombol Approve, maka manusia sebenarnya hanya menjadi formalitas.

Human-in-the-loop yang efektif harus memiliki:

Authority

Manusia memiliki kewenangan untuk menolak rekomendasi AI.

Capability

Manusia memiliki kemampuan untuk memahami dan mengevaluasi output AI.

Context

Manusia memahami kondisi yang mungkin tidak terlihat oleh sistem.

Accountability

Manusia memahami bahwa keputusan akhir tetap memiliki konsekuensi.

Deloitte juga menekankan pentingnya merancang decision rights secara jelas ketika AI digunakan dalam pengambilan keputusan, termasuk hak untuk melakukan override, jalur eskalasi, dan titik-titik yang membutuhkan human review.

Jadi pertanyaannya bukan hanya:

“Apakah ada manusia dalam proses?”

Tetapi:

“Apakah manusia tersebut benar-benar memiliki kemampuan dan kewenangan untuk mengendalikan proses?”

Dampak Jika Accountability Tidak Jelas

AI Accountability Gap dapat menciptakan beberapa masalah.

1. Blame Shifting

Ketika terjadi kesalahan, orang mulai saling melempar tanggung jawab.

“AI yang merekomendasikan.”

“User yang menggunakan.”

“IT yang membuat sistem.”

Akhirnya organisasi sibuk mencari siapa yang salah daripada memperbaiki sistem.

2. Karyawan Takut Meng-Override AI

Jika karyawan selalu diminta mengikuti rekomendasi AI, mereka bisa merasa tidak aman ketika ingin menolaknya.

Padahal dalam kondisi tertentu, keputusan manusia justru diperlukan.

IBM menemukan 41% CHRO menilai karyawan mungkin tidak merasa aman untuk mempertanyakan atau meng-override output AI. Di organisasi yang CHRO-nya ikut bertanggung jawab menentukan keputusan mana yang harus tetap human-led, 76% karyawan merasa aman untuk mempertanyakan atau meng-override rekomendasi AI.

3. Keputusan Menjadi Cepat, tetapi Tidak Selalu Tepat

AI dapat mempercepat proses.

Namun jika tidak ada mekanisme validasi, perusahaan hanya akan:

membuat keputusan yang salah dengan lebih cepat.

4. Muncul Invisible Work

Ironisnya, AI yang seharusnya menghemat waktu juga dapat menciptakan pekerjaan baru:

• memeriksa output
• memperbaiki kesalahan
• memberikan konteks
• menangani exception
• melakukan validasi
• mendokumentasikan keputusan

IBM menemukan 80% CHRO dalam studi mereka percaya adopsi AI menciptakan pekerjaan “tidak terlihat” semacam ini.

5. Kepercayaan terhadap AI Menurun

Ketika kesalahan terjadi berulang kali dan tidak jelas siapa yang bertanggung jawab, karyawan bisa kehilangan kepercayaan terhadap sistem.

Akhirnya muncul dua ekstrem:

AI dipercaya terlalu banyak.

Atau:

AI tidak dipercaya sama sekali.

Keduanya sama-sama bermasalah.

Lalu, Siapa yang Harus Bertanggung Jawab?

Jawabannya bukan:

“Satu orang harus bertanggung jawab atas semuanya.”

Justru perusahaan perlu membagi accountability berdasarkan tahapan dan jenis keputusan.

Misalnya:

Management

Menentukan tujuan, risk appetite, dan batas penggunaan AI.

IT

Memastikan sistem, akses, keamanan, dan integrasi teknologi berjalan dengan baik.

HR

Memastikan perubahan pekerjaan, kompetensi, kebijakan, dan dampak terhadap karyawan diperhatikan.

User/Process Owner

Memvalidasi output dan memastikan AI digunakan sesuai konteks pekerjaan.

Business Leader

Memiliki accountability terhadap outcome bisnis dari keputusan yang diambil.

Risk/Legal/Compliance

Memastikan penggunaan AI memenuhi batasan risiko dan regulasi yang relevan.

Dengan demikian, AI governance bukan hanya urusan IT.

Ia menjadi tanggung jawab lintas fungsi.

Deloitte juga menekankan bahwa governance AI sebaiknya tidak menjadi fungsi “bayangan” yang berdiri sendiri, tetapi terintegrasi dengan struktur governance dan oversight organisasi yang sudah ada.

Apa yang Bisa Dilakukan Perusahaan?

Beberapa langkah sederhana dapat mulai dilakukan.

1. Tentukan Keputusan yang Tetap Human-Led

Tidak semua keputusan harus diperlakukan sama.

Perusahaan perlu menentukan:

• mana yang boleh diotomatisasi
• mana yang AI hanya memberikan rekomendasi
• mana yang wajib mendapat human approval
• mana yang tidak boleh sepenuhnya diserahkan kepada AI

2. Tentukan Hak untuk Meng-Override

Karyawan harus mengetahui bahwa mempertanyakan AI bukan berarti melawan teknologi.

Jika ada alasan yang kuat, mereka harus memiliki mekanisme untuk mengatakan:

“Rekomendasi AI ini tidak sesuai konteks.”

3. Buat Audit Trail

Untuk keputusan yang penting, perusahaan perlu dapat mengetahui:

• data apa yang digunakan
• AI menghasilkan rekomendasi apa
• siapa yang melakukan review
• apakah rekomendasi diterima atau ditolak
• alasan keputusan akhir
• apa yang terjadi setelah keputusan dibuat

4. Ukur Kualitas, Bukan Hanya Kecepatan

Jangan hanya mengukur:

“Berapa cepat AI menyelesaikan pekerjaan?”

Tetapi juga:

• berapa banyak error?
• berapa banyak output yang harus direvisi?
• berapa banyak rekomendasi yang di-override?
• apakah outcome membaik?
• apakah customer atau employee experience membaik?

Deloitte juga menekankan bahwa pengukuran AI perlu memperhatikan error rate dan kualitas output, bukan hanya speed dan adoption.

5. Tingkatkan Kemampuan Manusia

AI accountability membutuhkan manusia yang mampu:

• berpikir kritis
• memahami konteks
• mengevaluasi informasi
• mengenali risiko
• mempertanyakan asumsi
• mengambil keputusan

IBM menemukan 71% CHRO menilai kemampuan untuk mengawasi, memvalidasi, dan meng-override output AI sebagai salah satu skill paling penting di era AI.

Artinya, investasi AI seharusnya tidak hanya berupa software.

Tetapi juga human capability.

Mengapa Ini Penting bagi HR?

HR memiliki posisi yang semakin penting dalam persoalan ini.

AI tidak hanya mengubah teknologi.

AI mengubah:

• pekerjaan
• kompetensi
• struktur organisasi
• performance management
• recruitment
• learning
• decision making
• employee experience

Karena itu, HR tidak cukup hanya bertanya:

“Apakah karyawan sudah bisa menggunakan AI?”

Pertanyaan yang lebih penting adalah:

“Apakah karyawan tahu kapan harus mempercayai AI, kapan harus mempertanyakannya, dan kapan harus mengambil alih keputusan?”

Itulah perbedaan antara:

AI adoption

dan

AI maturity.

Insight Penting

AI dapat menghasilkan rekomendasi.

AI dapat menganalisis data.

AI bahkan semakin mampu menjalankan proses secara otomatis.

Tetapi satu hal tidak boleh ikut diotomatisasi tanpa kejelasan:

accountability.

Ketika keputusan dibuat oleh manusia dengan bantuan AI, tanggung jawab tidak otomatis berpindah kepada mesin.

Dan ketika AI semakin autonomous, perusahaan justru membutuhkan sistem yang semakin jelas dalam menentukan:

siapa yang memutuskan, siapa yang mengawasi, siapa yang dapat melakukan override, dan siapa yang bertanggung jawab atas outcome.

Karena pada akhirnya, masalah terbesar bukan ketika AI membuat kesalahan.

Masalah yang lebih besar adalah ketika tidak ada manusia yang merasa bertanggung jawab atas kesalahan tersebut.

Perusahaan yang matang dalam menggunakan AI bukan hanya perusahaan yang mampu membuat AI bekerja.

Tetapi perusahaan yang mampu memastikan bahwa ketika AI bekerja, manusia tetap memiliki judgment, authority, dan accountability.

Menurut Anda, di perusahaan saat ini:

ketika keputusan yang dibantu AI ternyata salah, apakah sudah jelas siapa yang bertanggung jawab?

Atau jangan-jangan perusahaan sudah memiliki AI, tetapi belum memiliki AI Accountability?

---

---