Kısaca. 2026 toplantılarının yeni bir katılımcısı var: kimse henüz düşünmeden ortak belgeye yapıştırılan bir yapay zeka cevabı. Ekip bu cevapta birleştiğinde, iyi belgelenmiş iki önyargı üst üste biner. Otomasyon önyargısı insanların makinenin önerisini izlemesine, sosyal uyum ise birbirlerini izlemelerine yol açar. Bedeli ölçülebilir. Boston Consulting Group’tan 758 danışmanla yapılan, önceden kayıt altına alınmış bir saha deneyinde, bilinçli olarak yapay zekanın yetkinlik alanı dışına yerleştirilmiş bir görevde GPT-4 kullananlar %60 ve %70 oranında doğru sonuca ulaştı; yapay zeka kullanmadan çalışan danışmanlarda bu oran %84,5’ti, yani ortalama 19 yüzde puanlık bir düşüş. Radiology dergisinde yayımlanan bir deneyde, yapay zeka olduğu söylenen bir sistem yanlış kategori önerdiğinde deneyimsiz radyologların doğruluğu %79,7’den %19,8’e düştü. İyi haber, bu yazıdaki en eski çalışmadan geliyor: Solomon Asch’ın uyum deneylerinde katılımcılar seçimlerin %36,8’inde yanlış çoğunluğa boyun eğdi, ancak dürüst tek bir partner bu baskıyı dörtte birine indirdi. Aşağıda: yapay zekaya katılmak neden güvenli hissettirir, atanmış şeytanın avukatları neden daha zayıf kalır, ofisin “her şeye itiraz eden”i olmadan itiraz etmek için beş adımlı bir protokol, bir konuşma metni ve muhalefetin gerçekten karara ulaşması için liderlerin neyi değiştirmesi gerektiği.
“Herkes yapay zekaya katılıyor” neden yeni bir grup düşüncesi türü?
Klasik grup düşüncesi ikna edici bir çoğunluğa ihtiyaç duyar. Yapay zeka çağındaki versiyonu ise yalnızca ilk görünen, kendinden emin tek bir paragrafa ihtiyaç duyar. Ekrana düştüğü anda, ona göz atıp başını sallayan her kişi, kimsenin bağımsız olarak kontrol etmediği bir makine önerisine sosyal ağırlık ekler.
Bu etkinin iki yarısını iki ayrı literatür anlatır ve bu ikisi nadiren buluşur.
Birincisi otomasyon önyargısıdır. Kate Goddard, Abdul Roudsari ve Jeremy Wyatt’ın 2012’de Journal of the American Medical Informatics Association’da yayımladığı sistematik derleme, bunu otomasyona aşırı güvenme eğilimi olarak tanımladı. Taranan 13.821 makaleden 74’ü dahil edilme kriterlerini karşıladı. Yazarlar önyargının göreve özgü deneyim gibi kullanıcı faktörleri, sisteme duyulan güven ve inanç, ayrıca çevresel baskı, yani iş yükü, görev karmaşıklığı ve zaman kısıtları üzerinden şekillendiğini buldu. Bu aracı faktörlerin her biri yoğun bir ekip toplantısında mevcuttur.
İkincisi uyumdur. Asch’ın Kasım 1955’te Scientific American’da yayımlanan deneylerinde 123 katılımcı, oybirliğiyle yanlış cevap veren işbirlikçilerin arasında otururken üç çizgiden hangisinin standart çizgiyle eşleştiğine karar verdi. Tek başlarına olduklarında insanlar %1’den daha az oranda hata yaptı. Grup baskısı altında ise seçimlerin %36,8’inde yanlış yargıyı kabul ettiler. Asch ayrıca boyun eğen her katılımcının ne sıklıkla uyum gösterdiğini olduğundan az tahmin ettiğini buldu.
İkisini bir araya getirdiğinizde mekanizma açıktır. Yapay zeka cevabı ilk kendinden emin sesi sağlar; ona uyan meslektaşlar çoğunluğu sağlar. Asch’ın verileri baskının yalnızca birkaç sesle hızla yükseldiğini gösteriyor: tek bir karşıt kişiyle katılımcılar %3,6 oranında hata yaptı; iki kişiyle %13,6; üç kişiyle %31,8; bunun ötesinde daha büyük çoğunluklar pek bir şey eklemedi. Kontrol edilmemiş bir yapay zeka cevabının oybirliğiyle karar veren bir odanın ağırlığını kazanması için ekibin büyük olması gerekmez. (Bir makine cevabını Asch’ın çoğunluğuna eşlemek bizim yorumumuzdur; Asch’ın test ettiği bir iddia değildir.)
Yapay zeka yanıldığında onu izlemek hakkında kanıtlar ne söylüyor?
Kilit ifade “yanıldığında.” Çoğu çalışma, yapay zeka desteğinin ortalamada yardımcı olduğunu buluyor. Zarar, yapay zekanın yanıldığı ve insanın bunu fark etmediği durumlarda yoğunlaşıyor; bu da tam olarak bir muhalifin yakalamak için var olduğu durum.
Tablo 1. İnsanlar yanılan yapay zekaya uyduğunda ne olur (doğrulanmış veri)
| Çalışma | Ortam | Doğrulanmış kilit bulgu | Kaynak |
|---|---|---|---|
| Dell’Acqua ve ark. (2023) | 758 BCG danışmanı, önceden kayıt altına alınmış saha deneyi | Yapay zekanın sınırı içinde: %12,2 daha fazla görev, %25,1 daha hızlı, %40’ın üzerinde daha yüksek kalite. Sınırın dışında kalacak şekilde tasarlanmış bir görevde: yapay zeka olmadan %84,5 doğru, iki yapay zeka koşulunda %60 ve %70; ortalama 19 yüzde puanlık düşüş | Harvard Business School Working Paper 24-013 |
| Dratsch ve ark. (2023) | 27 radyolog, 50 mamografi, yapay zeka olduğu söylenen sistem 12’sinde yanlış kategori verdi | Yapay zeka yanıldığında doğru değerlendirmeler %79,7’den %19,8’e (deneyimsiz), %81,3’ten %24,8’e (orta deneyimli), %82,3’ten %45,5’e (çok deneyimli) düştü | Radiology 307(4) |
| Doshi ve Hauser (2024) | 293 yazar, 600 değerlendiricinin yaptığı 3.519 değerlendirme | Yapay zekanın hikaye fikirleri tek tek hikayeleri daha yaratıcı kıldı, ancak yapay zeka destekli hikayeler birbirine daha çok benzedi; hikayeler yalnızca insan yazımı hikayelere göre yapay zeka fikrine %5,2 ve %5,0 daha benzerdi | Science Advances 10(28) |
| Sharma ve ark. (2024) | Beş yapay zeka asistanı, serbest biçimli görevler | “Emin misin?” diye sorulduğunda asistanlar, yapmadıkları hataları soruların %42’si (GPT-4) ile %98’i (Claude 1.3) arasında kabul etti; kullanıcının yanlış bir cevap önermesi doğruluğu %27’ye kadar düşürdü | ICLR 2024 konferans bildirisi |
Bu tablodaki üç ayrıntı, itiraz etmeyi planlayan herkes için önemlidir.
Birincisi, deneyim yardımcı olur ama bağışıklık kazandırmaz. Dratsch çalışmasında en deneyimli radyologlar yapay zeka yanıldığında 36,8 yüzde puan doğruluk kaybetti; en az deneyimliler için bu kayıp 59,9 puandı (Dratsch ve ark. verileri üzerinden CEOtudent analizi). Kıdem düşüşü azaltır; engellemez. Yazarlar, üç deneyim düzeyindeki radyologların hepsinin otomasyon önyargısına yatkın olduğu sonucuna vardı.
İkincisi, Dell’Acqua görevi, elektronik tablo eksiksiz görünecek ve belirleyici kanıt görüşme notlarında duracak şekilde kurgulanmıştı. Aynı materyalle beslenen yapay zeka, resmin tamamıyla çelişen bir sonuca ulaştı. İş yerinde bir yapay zeka hatasının tipik şekli budur: bariz veriler üzerinde akıcı bir akıl yürütme, ama insanın erişebildiği niteliksel ayrıntının kaçırılması. Yazarlar ayrıca istem mühendisliği (prompt engineering) özeti alan grubun, regresyonlarında, yalnızca GPT-4 kullanan gruba (13 puan) göre daha fazla düştüğünü (24 yüzde puan) buldu. İnsanlara aracı daha iyi kullanmayı öğretmek, tek başına, ona ne zaman güvenmemeleri gerektiğini öğretmedi.
Üçüncüsü, yakınsama yalnızca insanların değil, çıktının da bir özelliğidir. Doshi ve Hauser, üretken yapay zekanın bireysel yaratıcılığı artırırken kolektif çeşitliliği daralttığını buldu ve bu örüntüyü bir sosyal ikilem olarak tanımladı. Bu mekanizmayı yapay zeka tektipleştirme etkisi yazımızda derinlemesine ele aldık. Bir toplantıda bunun anlamı şudur: beş kişi aynı modele danıştığında, “bağımsız” görüşleri aslında bağımsız değildir.
Çözüm, ofisin her şeye itiraz eden kişisi olmak mı?
Hayır. Refleks haline gelmiş aykırılık da başlı başına bir önyargıdır ve muhalefet üzerine yapılan araştırmalar neyin işe yaradığı konusunda nettir.
UC Berkeley’den Charlan Nemeth, azınlık etkisini onlarca yıl boyunca inceledi. Kendi araştırma programını değerlendirdiği 2010 tarihli bir derlemede, gerçek muhalefeti atanmış bir şeytanın avukatıyla karşılaştıran 2001 tarihli iki deneyi özetledi. Dört kişilik gruplarla yapılan bir sahte jüri çalışması olan ilkinde, muhalifin tutumu ve argümanları tüm koşullarda aynıydı; tek fark o kişiden şeytanın avukatlığı yapmasının istenip istenmediğiydi. Gerçek muhalefet daha fazla ıraksak düşünce üretti; insanlar meselenin her iki tarafında da yeni düşünceler geliştirdi. Rol icabı yapılan versiyon daha azını üretti ve Nemeth’in “bilişsel pekiştirme” dediği şeyi gösterdi: insanlar ilk tutumlarını doğrulayan düşünceler üretti. İkinci çalışmada şeytanın avukatlığının farklı varyasyonları birbirinden ayrışmadı ve hiçbiri daha yaratıcı çözümler üreten gerçek muhalefetin etkisine ulaşamadı.
Vardığı sonuç doğrudan: muhalefet olsun diye muhalefet etmek faydalı değildir, taklit muhalefet de öyle. İşe yarayan, en iyi cevabı arama motivasyonuyla yapılan muhalefettir.
Asch’ın verileri diğer yarıyı ekliyor. Bir işbirlikçi çoğunluğa karşı çıkıp doğru cevaptan daha da uzak bir cevap verdiğinde, katılımcıların hataları %9’a düştü. Asch, muhalefetin kendisinin bağımsızlığı artırdığı sonucuna vardı. Muhalifin faydalı olması için haklı olması gerekmez. Muhalifin oybirliğini bozması gerekir; bu da diğer herkese gerçekten gördüklerini söyleme izni verir.
Bu bileşim, verimli bir aykırı düşünürün görev tanımıdır: samimi olun, somut olun ve kazanmayı değil, sahte bir uzlaşmayı bozmayı hedefleyin.
Bunun altındaki disiplin için rekabet avantajı olarak entelektüel dürüstlük yazımıza bakın. Herkesin önünde yanılmayı göze alabilmek, bir itirazı inandırıcı kılan şeydir.
Yapay zeka destekli bir uzlaşmaya ne zaman itiraz etmelisiniz?
Her yapay zeka cevabı bir mücadeleyi hak etmez. Çoğu gayet iyidir ve her şeye itiraz eden bir meslektaş itibarını yanlış savaşlarda harcar. Dell’Acqua bulguları, sorunun “yapay zeka iyi mi?” değil, “bu görev sınırın içinde mi, dışında mı?” olduğunu gösteriyor.
Tablo 2. Ne zaman itiraz etmeli: sınır kontrolü (CEOtudent editoryal çerçevesi)
| Sinyal | İtiraz etmeye yakın | Kabul etmeye yakın |
|---|---|---|
| Belirleyici kanıtın bulunduğu yer | Modelin görmediği ya da az ağırlık verdiği bağlamda: görüşmeler, müşteri görüşmeleri, bir saha ziyareti, yazılı olmayan bir kısıt | Modele eksiksiz verilen yapılandırılmış verilerde |
| Yanılmanın maliyeti | Yüksek ya da geri alınması zor: bir lansman, bir işe alım, klinik ya da hukuki bir karar | Düşük ve geri alınabilir: bir taslak, ilk geçiş listesi |
| Uzlaşmanın nasıl oluştuğu | İnsanlar kendi görüşlerini oluşturmadan önce yapay zeka cevabını okudu | İnsanlar önce görüş oluşturdu, yapay zeka bunları bağımsız olarak doğruladı |
| Kendi okumanız | Yapay zekanınkini görmeden önce farklı bir cevap yazdınız | Bağımsız bir görüşünüz yok, yalnızca bir hissiniz var |
| Zaman baskısı | Karar “analiz zaten yapıldı” diye aceleye getiriliyor | Normal bir değerlendirme için zaman var |
| Türdeşlik | Herkes benzer istemlerle aynı modele danıştı | Görüşler farklı kaynaklardan ve yöntemlerden geldi |
Sol sütunda üç ya da daha fazla sinyal olması, itiraz dile getirmek için makul bir tetikleyicidir. Satırlar doğrudan kanıtlara dayanıyor: ilki Dell’Acqua görev tasarımına, üçüncü ve dördüncüsü Doshi ve Hauser’in ölçtüğü çıpalamaya, beşincisi Goddard ve meslektaşlarının belirlediği iş yükü ve zaman aracı faktörlerine.
En fazla ağırlığı “kendi okumanız” satırı taşıyor. Yapay zeka çıktısını okumadan önce bağımsız bir görüş oluşturmadıysanız, itirazınız büyük olasılıkla kanıttan değil ruh halinden kaynaklanıyordur. Bu aynı zamanda değiştirmesi en ucuz alışkanlıktır ve bilişsel yük boşaltma sorunu ile bağlantılıdır: modele ne kadar çok düşünme devrederseniz, onunla karşılaştırılacak o kadar az bağımsız görüş kalır.
İkinci Ses Protokolü: verimli biçimde nasıl itiraz edilir
Asch’ın en umut verici bulgusu, tek bir müttefikin odayı değiştirdiğidir. Dürüst bir partnerle çoğunluğun baskısı oybirliği düzeyinin dörtte birine indi ve partner deneyinde, partner direndiği sürece 27 katılımcının 18’i tamamen bağımsız kaldı. Partner çoğunluğa geçtiğinde hatalar birden arttı. Aşağıdaki protokol, sizi güvenilir biçimde ve olay çıkarmadan o ikinci ses yapmak için tasarlandı. (CEOtudent editoryal çerçevesi, bu yazıda atıf yapılan çalışmalar üzerine kurulmuştur.)
Adım 1. Önce kendi cevabınızı yazın. Yapay zeka çıktısını açmadan önce iki satırlık bir cevap ve güven düzeyinizi yazın. Bu sizin bağımsız tahmininizdir. Bu olmadan yapay zekaya mı yoksa ruh halinize mi itiraz ettiğinizi ayırt edemezsiniz.
Adım 2. Sınırı bulun. Modelin göremediği ya da büyük olasılıkla az ağırlık verdiği kanıtın ne olduğunu sorun. Dell’Acqua vakasında bu, görüşme notlarıydı. O kanıtı somut olarak adlandırın.
Adım 3. İtirazı bir hüküm olarak değil, bir test olarak çerçeveleyin. “Yapay zeka yanılıyor” yerine yanlışlanabilir bir soru koyun: “Yapay zeka haklıysa görüşme notlarında ne görmeyi beklerdik? Şu tek şeyi kontrol edelim.” Bu, itirazı kanıt ekseninde tutar ve insanların itibar kaybetmeden fikir değiştirmesine imkan tanır.
Adım 4. Yapay zekayı hakem yapmayın. Sharma ve meslektaşları, kullanıcı itiraz ettiğinde asistanların sıklıkla doğru cevaplarından vazgeçtiğini ve kullanıcının ifade ettiği inancın doğruluğu %27’ye kadar aşağı çekebildiğini gösterdi. Modele “emin misin?” ya da “aslında X değil mi?” diye sorarsanız, doğruyu değil, onun size katılma eğilimini ölçersiniz. Temeldeki kanıtla ya da bağımsız bir kaynakla kontrol edin.
Adım 5. Kararı kaydedin ve gözden geçirin. Kimin neyi, neden öngördüğünü not edin. Sonuç belli olduğunda geriye bakın. Yanıldıysanız bunu ilk siz söyleyin ve neyi kaçırdığınızı belirtin. Bu, merceğin Öğrenci yarısıdır: herkesin önünde görüşünü güncelleyen bir muhalif, bir dahaki sefere dinlenme hakkını kazanır.
Toplantıda kullanabileceğiniz bir metin:
“Bunu kesinleştirmeden önce bir noktaya dikkat çekmek istiyorum. Modelin çıktısını okumadan önce farklı bir cevap yazmıştım ve aradaki fark [somut kanıt] ile ilgili. Modelin elinde [görüşme notları / sözleşme maddesi / geçen çeyreğin iade verileri] yoktu. Bunun öneriyi değiştirip değiştirmediğini kontrol etmek için on dakika ayırabilir miyiz? Değiştirmiyorsa, yapay zekanın cevabıyla ilerlemekten memnuniyet duyarım.”
Metnin ne yaptığına dikkat edin. Görüşün bağımsız olduğunu belirtir. Somut kanıtı adlandırır. Sınırları belli bir test önerir. Ve sonucu kabul etmeyi önceden taahhüt eder; gerçek muhalefetle aykırılık gösterisi arasındaki fark budur.
Liderler muhalefeti nasıl güvenli ve faydalı kılabilir?
Bireysel cesaretin sınırları vardır. Başarısızlıkların çoğundaki belirleyici değişken, muhalefetin kararı veren kişiye ulaşıp ulaşmadığıdır.
Challenger felaketi belgelenmiş örnektir. Başkanlık Komisyonu’nun raporu (1986), fırlatma kararının kusurlu olduğu ve kararı verenlerin, yüklenicinin 53 derece Fahrenheit’ın altında fırlatmaya karşı ilk yazılı tavsiyesinden ve “yönetim tutumunu tersine çevirdikten sonra Thiokol mühendislerinin süregelen muhalefetinden” habersiz oldukları sonucuna vardı. Komisyon, Thiokol yönetiminin tutumunu “mühendislerinin görüşlerine aykırı olarak” tersine çevirdiğini ve endişeler Thiokol mühendislerinin çoğunun görüşlerini yansıtacak biçimde dile getirilmiş olsaydı fırlatmanın o zaman gerçekleşmeyebileceğini tespit etti. Muhalefet vardı. Sistem onu taşımadı.
Amy Edmondson’ın Administrative Science Quarterly’de yayımlanan ve bir üretim şirketindeki 51 iş ekibini inceleyen 1999 tarihli çalışması, ekip psikolojik güvenliği kavramını ortaya koydu: ekibin kişilerarası risk almak için güvenli olduğuna dair ortak bir inanç. Edmondson, psikolojik güvenliğin öğrenme davranışıyla ilişkili olduğunu ve öğrenme davranışının psikolojik güvenlik ile ekip performansı arasında aracılık ettiğini buldu. Ekibin yetkin olduğuna dair inanç olan ekip yetkinliği ise psikolojik güvenlik hesaba katıldığında öğrenmeyi öngörmedi. Özgüven, yanıldığınızı duymaya istekli olmakla aynı şey değildir.
Tablo 3. Faydalı muhalefetin kanıtları: bulgudan uygulamaya (CEOtudent editoryal çerçevesi)
| Araştırma bulgusu | Kaynak | Bireyler için uygulama | Liderler için uygulama |
|---|---|---|---|
| Dürüst tek bir partner uyum baskısını dörtte birine indirdi; taraf değiştiren partner baskıyı geri getirdi | Asch (1955) | İkinci ses olun; bir başkası önce itiraz ederse ve endişeyi paylaşıyorsanız bunu söyleyin | En son konuşun. Muhalefeti yüksek sesle adlandırın ki muhalif yalnız kalmasın |
| Atanmış şeytanın avukatları gerçek muhalefetin gerisinde kalır ve ilk görüşleri sertleştirebilir | Nemeth (2010), Nemeth ve ark. (2001) özetiyle | Yalnızca samimi olarak taşıdığınız itirazları dile getirin | Gerçek fikir ayrılığının yerine dönüşümlü bir şeytanın avukatı rolü koymayın; “bunu gerçekten farklı gören kim?” diye sorun |
| Yapay zeka desteği, sınırının dışındaki bir görevde doğruluğu 19 puan düşürdü | Dell’Acqua ve ark. (2023) | Kabul etmeden önce sınır kontrolünü yapın | Yapay zeka destekli önerilerde “modelin görmediği kanıt” başlıklı bir satır zorunlu tutun |
| Yanlış yapay zeka önerileri her deneyim düzeyinde doğruluğu aşağı çekti | Dratsch ve ark. (2023) | Kıdemin sizi koruduğunu varsaymayın | En kıdemli kişinin bir yapay zeka cevabını onaylamasının tartışmayı bitirmesine izin vermeyin |
| Yapay zeka destekli çıktılar birbirine yakınsar | Doshi ve Hauser (2024) | Modele danışmadan önce görüşünüzü oluşturun | Yapay zeka çıktısı paylaşılmadan önce bağımsız yazılı görüşleri toplayın |
| Asistanlar itiraz karşısında cevap değiştirir ve kullanıcı inançlarını yankılar | Sharma ve ark. (2024) | Modelin onayıyla değil, kanıtla kontrol edin | “Yapay zeka bana katıldı” ifadesini sıfır kanıt olarak görün |
| Otomasyon önyargısı, kullanıcı sorumluluğunun vurgulanması ve tavsiye yerine bilgi sunulmasıyla azalır | Goddard ve ark. (2012) | Kararı kendi adınıza sahiplenin | Yapay zeka destekli her karar için isimlendirilmiş bir insan sahip atayın; araçtan hüküm değil, kanıt ve seçenekler isteyin |
| Psikolojik güvenlik öğrenme davranışını, öğrenme davranışı da performansı öngörür | Edmondson (1999) | Yanıldığınızda görüşünüzü herkesin önünde güncelleyin | İtiraz boşa çıksa bile muhalife teşekkür edin; kararları suçlamadan gözden geçirin |
| Mühendislerin muhalefeti fırlatma kararını verenlere ulaşmadı | Rogers Komisyonu (1986) | Endişelerinizi yazılı olarak karar veren kişiye iletin | Muhalefeti yalnızca orta kademeye değil, karar vericiye taşıyan bir kanal kurun |
Goddard’ın saydığı azaltıcı etkenler ucuz oldukları için vurgulanmayı hak ediyor. Derleme, otomasyon önyargısının eğitim ve kullanıcı sorumluluğunun vurgulanmasıyla, ayrıca tavsiye yerine bilgi sunmak gibi sistem tasarımı tercihleriyle azaldığını buldu. Liderler için bu pratik bir kurala dönüşür: yapay zekadan kanıtı ve seçenekleri isteyin, tavsiyeyi ise üzerinde bir isim olan insani bir eylem olarak tutun.
CEO ve Öğrenci merceği: muhakemeyi sahiplenmek, yanılmaktan öğrenmek
Neye karar vermeli (CEO). Yapay zekanın ürettiği bir cevap, oy hakkı olan bir meslektaş değil, bilinen bir hata örüntüsüne sahip bir girdidir. Muhakemeyi sahiplenmek, hangi kararların yapay zeka çıktısı paylaşılmadan önce bağımsız bir insan görüşü gerektirdiğine ve her kararın sahibinin kim olduğuna önceden karar vermek demektir. Komisyonun Challenger bulgusu, sahiplenmenin tesisatı da kapsadığını hatırlatıyor: muhalefeti hiç duymayan bir karar verici, gerçekte karar vermiş sayılmaz.
Neyi öğrenmeye devam etmeli (Öğrenci). Beceri kalibrasyondur ve kalibrasyon bir kayıttan öğrenilir. Yapay zeka destekli bir uzlaşmaya itiraz ettiğiniz ya da onu kabul ettiğiniz durumların, tahmininiz ve sonuçla birlikte basit bir kaydını tutun. Bir çeyrek içinde itirazlarınızın gerçek sınır vakalarını mı bulduğunu, yoksa yalnızca rahatsızlığınızı mı dile getirdiğini göreceksiniz. Yanılmak başarısızlık değildir; fark etmemek başarısızlıktır. Kendinize baştan beri neden haklı olduğunuza dair rahatlatıcı bir hikaye anlatırken yakalarsanız, anlatı tuzağı okumaya değer.
Ne yapmamalı. Her yapay zeka cevabına güvenmeyen kişi olmayın. Aynı Dell’Acqua deneyi sınırın içinde büyük kazanımlar buldu: daha fazla görev, daha hızlı ve daha yüksek kalitede tamamlandı. Amaç daha az yapay zeka değil. Amaç, daha az sorgulanmamış onaydır.
Sıkça sorulan sorular
Otomasyon önyargısı nedir?
Otomasyon önyargısı, otomatik önerilere aşırı güvenme eğilimidir. JAMIA’da yayımlanan ve 74 çalışmayı kapsayan 2012 tarihli sistematik derleme, bu önyargının deneyim, sisteme duyulan güven ve inanç ile iş yükü, görev karmaşıklığı ve zaman baskısı tarafından şekillendiğini buldu. Önyargı; eğitimle, kullanıcı sorumluluğunun vurgulanmasıyla ve tavsiye yerine bilgi sunan sistemlerle azaldı.
Deneyim, insanları yanlış bir yapay zeka önerisini izlemekten korur mu?
Kısmen. Radiology dergisinde yayımlanan 2023 tarihli bir çalışmada, yapay zeka olduğu söylenen bir sistem yanlış kategori önerdiğinde çok deneyimli radyologların doğru değerlendirmeleri %82,3’ten %45,5’e düştü; deneyimsiz okuyucularda ise düşüş %79,7’den %19,8’eydi. Deneyim zararı azalttı ama ortadan kaldırmadı.
Şeytanın avukatı, yapay zekanın ürettiği uzlaşmaya itiraz etmek için iyi bir yol mu?
Charlan Nemeth ve meslektaşlarının araştırması, atanmış şeytanın avukatlarının gerçek muhalefetten daha az etkili olduğunu buldu; bir çalışmada rol icabı yapılan muhalefet insanların ilk görüşlerini pekiştirmesine yol açtı. Gerçekten farklı düşünen birinden gelen samimi, kanıta dayalı bir itiraz, dönüşümlü bir rolden daha iyi işler.
Yapay zekaya emin olup olmadığını sorabilir miyim?
Bu zayıf bir kontroldür. Beş yapay zeka asistanını inceleyen 2024 tarihli bir çalışma, “Emin misin?” diye sorulduğunda asistanların, modele bağlı olarak soruların %42’si ile %98’i arasında yapmadıkları hataları kabul ettiğini buldu. Bunun yerine iddiayı temeldeki kanıtla ya da bağımsız bir kaynakla test edin.
Yapay zekaya karşıymışım gibi görünmeden nasıl itiraz ederim?
Görüşünüzü bağımsız olarak oluşturduğunuzu belirtin, modelin görmediği ya da az ağırlık verdiği somut kanıtı adlandırın, kısa ve sınırları belli bir kontrol önerin ve sonucu kabul edeceğinizi önceden taahhüt edin. Bu, itirazı araca karşı çıkmak olarak değil, kalite kontrolü olarak çerçeveler.
Bir liderin yapabileceği en etkili tek şey nedir?
Herhangi bir yapay zeka çıktısı paylaşılmadan önce bağımsız yazılı görüşleri toplayın, sonra en son siz konuşun. Asch, tek bir muhalif partnerin uyum baskısını oybirliği düzeyinin dörtte birine indirdiğini buldu; Doshi ve Hauser ise yapay zeka fikirlerine maruz kalmanın insanların çıktısını yapay zekanınkine ve birbirine doğru çektiğini buldu. Maruz kalma sırası önemlidir.
Yapay zeka cevabına uymak ne zaman sorun değildir?
Görev yapay zekanın bilinen güçlü yanlarının içindeyse, belirleyici kanıt modele eksiksiz sunulmuşsa, kararın geri alınması ucuzsa ve ondan şüphe etmeniz için bağımsız bir nedeniniz yoksa. BCG deneyinde sınırın içindeki yapay zeka kullanıcıları %12,2 daha fazla görevi, %25,1 daha hızlı ve %40’ın üzerinde daha yüksek kaliteyle tamamladı.
Kaynakça
- Asch, S. E. (1955). Opinions and Social Pressure. Scientific American, 193(5), 31-35.
- Dell’Acqua, F., McFowland III, E., Mollick, E., Lifshitz-Assaf, H., Kellogg, K. C., Rajendran, S., Krayer, L., Candelon, F. ve Lakhani, K. R. (2023). Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality. Harvard Business School Working Paper 24-013.
- Dratsch, T., Chen, X., Rezazade Mehrizi, M., Kloeckner, R., Mahringer-Kunz, A., Pusken, M., Baessler, B., Sauer, S., Maintz, D. ve Pinto dos Santos, D. (2023). Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance. Radiology, 307(4), e222176.
- Doshi, A. R. ve Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28), eadn5290.
- Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S. R. ve ark. (2024). Towards Understanding Sycophancy in Language Models. International Conference on Learning Representations (ICLR 2024).
- Goddard, K., Roudsari, A. ve Wyatt, J. C. (2012). Automation bias: a systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121-127.
- Nemeth, C. J. (2010). Minority Influence Theory. Institute for Research on Labor and Employment Working Paper 218-10, University of California, Berkeley. (Nemeth, Brown ve Rogers, 2001, European Journal of Social Psychology, 31, 707-720 ile Nemeth, Connell, Rogers ve Brown, 2001, Journal of Applied Social Psychology, 31, 48-58 çalışmalarını özetler.)
- Edmondson, A. (1999). Psychological Safety and Learning Behavior in Work Teams. Administrative Science Quarterly, 44(2), 350-383.
- Presidential Commission on the Space Shuttle Challenger Accident (1986). Report to the President, Volume 1, Chapter V: The Contributing Cause of the Accident. Washington, DC.
Bu içerik, derinlemesine bir araştırmanın ardından yapay zeka desteğiyle derlenmiş ve CEOtudent editör ekibi tarafından yazılıp yayına hazırlanmıştır.
