Özet. Bir işi yapay zeka ajanına devretmek görevi devreder, hesap verebilirliği asla. Şubat 2024’te British Columbia’daki bir mahkeme, bir havayolu şirketinin sohbet robotunun kendi eylemlerinden sorumlu ayrı bir varlık olduğu yönündeki savunmasını reddetti; bu savunmayı “şaşırtıcı” diye niteledi ve şirketi web sitesindeki tüm bilgilerden sorumlu tuttu. İlke basit. Kurumların içindeki uygulama ise hiç de basit değil. KPMG ve Melbourne Üniversitesinin 48.340 kişiyle yürüttüğü 2025 tarihli küresel çalışma, çalışanların %66’sının yapay zeka çıktısına doğruluğunu değerlendirmeden güvendiğini, %56’sının yapay zeka nedeniyle işinde hata yaptığını ve %57’sinin yapay zeka kullanımını gizlediğini ya da yapay zekanın ürettiği içeriği kendi işi gibi sunduğunu ortaya koydu. Yalnızca beşte ikisi, işyerinde üretken yapay zeka araçlarının kullanımına yön veren bir politika bulunduğunu söyledi. Stanford’un AI Index raporunda aktarılan ayrı bir ankette ise katılımcıların %14’ü kurumlarında yapay zeka yönetişimine özel roller bulunduğunu belirtti. Kurallar, işleyen bir sorumluluk haritasının neye benzediğini zaten tarif ediyor: (AB) 2024/1689 sayılı Tüzük (Yapay Zeka Yasası), yüksek riskli sistemlerin uygulayıcılarının insan gözetimini bu görevi yerine getirecek yetkinliğe, eğitime ve yetkiye sahip kişilere vermesini şart koşuyor; NIST Yapay Zeka Risk Yönetimi Çerçevesi de kuruluşlardan insan-yapay zeka yapılanmalarında kimin neden sorumlu olduğunu belgelemelerini istiyor. Bu yazı, gözlemlenen davranışı bu gerekliliklerle buluşturuyor ve aradaki açığı, yöneticilerin ajan kullanan her ekibe uygulayabileceği yeni bir sorumluluk haritasına dönüştürüyor.
Bir daha asla öne sürülmemesi gereken savunma
Dava parasal açıdan küçük, ilke açısından büyük. Bir müşteri, bir havayolu şirketinin web sitesindeki sohbet robotuna yakın kaybı (vefat) indirimli bilet ücretlerini sordu, seyahatten sonra iade talep etme konusunda yanlış bilgi aldı ve bu bilgiye güvendi. Müşteri aradaki farkı talep ettiğinde havayolu şirketi, özünde sohbet robotunun kendi eylemlerinden sorumlu ayrı bir tüzel kişilik olduğunu savundu.
British Columbia Uyuşmazlık Çözüm Mahkemesi (Civil Resolution Tribunal), Moffatt v. Air Canada, 2024 BCCRT 149 kararında bunu “şaşırtıcı bir savunma” olarak nitelendirdi. Mahkeme üyesi, sohbet robotunun etkileşimli bir bileşeni olsa da hâlâ şirketin web sitesinin bir parçası olduğunu ve şirketin, bilgi ister statik bir sayfadan ister bir sohbet robotundan gelsin, web sitesindeki tüm bilgilerden sorumlu olduğunu yazdı. Mahkeme, havayolu şirketinin sohbet robotunun doğru bilgi vermesini sağlamak için makul özeni göstermediğine hükmetti ve 650,88 $ tazminat ile karar öncesi faiz ve mahkeme harçlarından oluşan toplam 812,02 $ ödenmesine karar verdi.
Bu, Kanada’nın tek bir eyaletindeki küçük uyuşmazlıklara bakan bir mahkemenin tek bir kararı ve başka hiçbir yerde kimseyi bağlamıyor. Değeri, ajan kullanan her yöneticinin içselleştirmesi gereken ilkeyi sade bir dille ortaya koymasında yatıyor: çıktıyı üreten araç, o çıktının hesabını veren taraf değildir.
Sorun şu ki çoğu ekip çalışma düzenini bu ilke etrafında yeniden kurmadı. Kullandıkları sorumluluk haritası, her görevin kendisine “neden?” diye sorulabilecek bir insan tarafından yapıldığı bir dünya için çizilmişti.
Eski sorumluluk haritası neden çöküyor
Çoğu ekip, resmi olsun ya da olmasın, bir tür sorumluluk matrisiyle çalışır: biri işi yapar, biri sonuçtan hesap verir, birine danışılır, biri bilgilendirilir. Bu tasarım, işi yapan kişinin aynı zamanda işi açıklayabileceğini, bir şeylerin ters gittiğini fark edebileceğini ve durabileceğini varsayar.
Bir yapay zeka ajanı bu varsayımı aynı anda üç noktada bozar.
- İşi yapan hesap veremez. Bir ajan bir görevi yerine getirebilir, ama hesaba çekilemez, disipline edilemez ya da bir sonucun sahipliğini üstlenmesi istenemez. “Sorumlu” hücresi, sorumluluk taşıyamayan bir şeyle doldurulmuş olur.
- İnceleme onaya dönüşür. Çıktı akıcı göründüğünde, onu kontrol etmek zamanla onaylayıp geçmeye dönüşme eğilimindedir. Tasarım Gereği İnsan Denetimi yazısında ele aldığımız otomasyon yanlılığı araştırmaları, otomatik çıktıya aşırı güvenme yönündeki tam da bu eğilimi tarif ediyor.
- İş görünmez hale gelir. İnsanlar ajan kullandıklarını söylemeden kullanırsa, yöneticinin haritası aslında bir sistemin yaptığı görevi bir kişi yapıyormuş gibi gösterir. Kimse göremediği bir riski yönetemez.
Bu üç noktanın her biri için veriler artık elimizde.
Kurumların içindeki hesap verebilirlik açığı: doğrulanmış veriler
Doğrulanmış veri: insanlar işte yapay zekayı gerçekte nasıl kullanıyor ve kurumlar bunu nasıl yönetiyor
| Ölçüt | Değer | Kaynak |
|---|---|---|
| Örneklem | 47 ülkede 48.340 kişi; işte yapay zeka kullanımına ilişkin soruları 32.352 çalışan yanıtladı | KPMG ve Melbourne Üniversitesi, 2025 |
| İşte yapay zekayı bilinçli ve düzenli olarak kullanan çalışanlar | %58 | KPMG ve Melbourne Üniversitesi, 2025 |
| Yapay zeka çıktısına, sağladığı bilgiyi değerlendirmeden güvenmiş çalışanlar | %66 | KPMG ve Melbourne Üniversitesi, 2025 |
| Yapay zeka nedeniyle işinde hata yapmış çalışanlar | %56 | KPMG ve Melbourne Üniversitesi, 2025 |
| Yapay zeka kullanımını gizlemiş ya da yapay zekanın ürettiği içeriği kendi işi gibi sunmuş çalışanlar | %57 | KPMG ve Melbourne Üniversitesi, 2025 |
| Üretken yapay zeka araçlarının kullanımına yön veren bir politika bulunduğunu söyleyen çalışanlar | Beşte iki | KPMG ve Melbourne Üniversitesi, 2025 |
| Yapay zeka yönetişimine özel rolleri olan kurumlar | Katılımcıların %14’ü | Stanford HAI AI Index 2025’te aktarılan McKinsey anketi |
| AI Incident Database’e bildirilen yapay zeka kaynaklı olaylar, 2024 | 233; 2023’e göre %56,4 artış | Stanford HAI AI Index 2025 |
Okuma notları. KPMG çalışmasındaki “düzenli” kullanım yalnızca her gün kullananları değil, birkaç ayda bir yapay zeka kullananları da kapsıyor. %66 ve %56 oranları, bu davranışı en azından nadiren sergilediğini bildiren herkesi sayıyor; bunu alışkanlık haline getirenlerin payı daha küçük. %57, iki ayrı sorudan oluşan birleşik bir ölçüt. Olay sayısı medya haberlerine dayanıyor ve gerçek sayının altında kalıyor olması muhtemel. Bu kayıtlar rakamları daha az endişe verici değil, daha kesin kılıyor: bu davranışlar evrensel olmasa da yaygın.
Satırları bir araya getirdiğinizde açık netleşiyor. Çalışanların çoğu zaten yapay zeka kullanıyor, çoğunluğu çıktısını kontrol etmeden kullanmış, çoğunluğu bu yüzden hata yapmış, çoğunluğu bir noktada bu kullanımı gözlerden uzak tutmuş ve çoğu, kendilerine kuralları söylememiş ya da riskin sahibini belirlememiş kurumlarda çalışıyor.
Çerçeveler zaten neyi şart koşuyor
Yöneticilerin sıfırdan bir sorumluluk yapısı icat etmesine gerek yok. Yaygın olarak başvurulan iki çerçeve bu yapıyı zaten tarif ediyor.
AB Yapay Zeka Yasası. (AB) 2024/1689 sayılı Tüzük (Yapay Zeka Yasası), Madde 26’da yüksek riskli yapay zeka sistemlerinin uygulayıcılarına özel yükümlülükler getiriyor. Uygulayıcılar insan gözetimini gerekli yetkinliğe, eğitime ve yetkiye, ayrıca gerekli desteğe sahip gerçek kişilere vermek zorunda (Madde 26(2)). Sistemin işleyişini kullanım talimatları temelinde izlemeli ve sistemin bir risk oluşturduğunu düşünmeleri için gerekçe varsa kullanımı askıya alıp sağlayıcıyı ve yetkili makamları bilgilendirmeliler (Madde 26(5)). Sistemin ürettiği kayıtları, bu kayıtlar kendi kontrolleri altında olduğu ölçüde, başka bir mevzuat aksini öngörmedikçe en az altı ay saklamalılar (Madde 26(6)). İşverenler, yüksek riskli bir sistemi işyerinde kullanıma almadan önce çalışan temsilcilerini ve etkilenen çalışanları bilgilendirmeli (Madde 26(7)).
İki tarih önemli. Komisyonun dijital omnibus paketinin parçası olan değiştirici (AB) 2026/1744 sayılı Tüzük 27 Temmuz 2026’da yürürlüğe girdi ve bu yüksek risk yükümlülüklerinin uygulanma tarihini değiştirdi: yükümlülükler artık istihdam alanındaki kullanımları da kapsayan Ek III kapsamında yüksek riskli olarak sınıflandırılan sistemler için 2 Aralık 2027’den, Ek I ürün mevzuatının kapsadığı sistemler için ise 2 Ağustos 2028’den itibaren uygulanacak. Aynı değişiklik Madde 4’teki yapay zeka okuryazarlığı yükümlülüğünü de yeniden yazdı: sağlayıcılar ve uygulayıcılar personelinin yapay zeka okuryazarlığını desteklemeye yönelik önlemler almak zorunda, ancak herhangi bir kişi için belirli bir düzeyi garanti etmeleri gerekmiyor.
Özetleme, taslak hazırlama ve araştırma yapan ofis ajanlarının çoğu Yasa kapsamında yüksek riskli sistem değildir; dolayısıyla Madde 26 okurların çoğunu hukuken bağlamayacak. Yine de mevcut en özenli kaleme alınmış işleyen gözetim rolü tanımıdır ve her ekip için makul bir tasarım ölçütüdür.
NIST Yapay Zeka Risk Yönetimi Çerçevesi 1.0. Çerçevenin GOVERN (yönetişim) işlevi roller konusunda açık. GOVERN 2.1, yapay zeka riskini yönetmeye ilişkin rollerin, sorumlulukların ve iletişim hatlarının belgelenmesini ve bireyler ile ekipler için net olmasını istiyor. GOVERN 2.3, üst yönetimin yapay zeka riskleriyle ilgili kararların sorumluluğunu üstlenmesini istiyor. GOVERN 3.2 ise insan-yapay zeka yapılanmaları ve yapay zeka sistemlerinin gözetimi için rolleri ve sorumlulukları tanımlayan ve birbirinden ayıran politika ve prosedürler istiyor.
Hiçbir çerçeve “sorumlu olan yapay zekadır” demiyor. İkisi de mahkemenin söylediğini söylüyor: sonucun sahibi, isimleri belli insanlardan oluşan bir yapı olmalıdır.
Davranışı gereklilikle buluşturmak
CEOtudent sentezi: gözlemlenen davranış sorumluluk yapısını nerede bozuyor
| Gözlemlenen davranış | Çalışanlar içindeki pay | Bozduğu sorumluluk unsuru | Referans gereklilik | Yeni haritadaki çözüm |
|---|---|---|---|---|
| Yapay zeka çıktısına onu değerlendirmeden güvenmek | %66 | Reddetme yetkisine sahip, adı belirlenmiş bir doğrulayıcı yok | AB Yapay Zeka Yasası Madde 26(2); NIST GOVERN 2.1 | Her ajan çıktısı sınıfı için, ajana görevi tanımlayan kişiden ayrı bir Doğrulayıcı belirleyin |
| Yapay zeka nedeniyle işte hata yapmak | %56 | İzleme döngüsü yok, eskalasyon sahibi yok | AB Yapay Zeka Yasası Madde 26(5) | Bir hata kaydı tutun ve bir ajan iş akışını duraklatma kararını kimin vereceğini belirleyin |
| Yapay zeka kullanımını gizlemek ya da yapay zeka çıktısını kendi işi gibi sunmak | %57 | Devir görünmez, dolayısıyla risk yönetilmiyor | AB Yapay Zeka Yasası Madde 26(7) (işyeri şeffaflığı) | Ajan kullanımını beyan etmeyi bir itiraf değil, ekip normu haline getirin |
| Üretken yapay zeka kullanımına yön veren bir politika olmadan çalışmak | Yaklaşık beşte üçü böyle bir politika bildirmiyor | Roller ve sınırlar belgelenmemiş | NIST GOVERN 2.1 ve 3.2 | Her ajan iş akışı için tek sayfalık bir sorumluluk haritası yayımlayın |
| Yönetişime özel rollerin bulunması | Katılımcıların %14’ü | Yapay zeka riskinin üst düzey bir sahibi yok | NIST GOVERN 2.3 | Her iş akışına, onu durdurma yetkisine sahip düzeyde tek bir hesap verebilir sahip atayın |
| Ajan eylemlerinin kayda geçirilmemesi | Bu çalışmalarda ölçülmedi | Bir şey ters gittiğinde kanıt izi yok | AB Yapay Zeka Yasası Madde 26(6), en az altı aylık kayıtlar | Müşterilere, paraya ya da insanlarla ilgili kararlara dokunan ajan iş akışları için çalışma kayıtları tutun |
Davranış payları KPMG ve Melbourne Üniversitesi, 2025 çalışmasından alınmıştır; yönetişim rolleri satırı bunun dışındadır ve Stanford HAI’nin atıf yaptığı McKinsey verilerindeki anket katılımcılarını gösterir. “Yaklaşık beşte üç” ifadesi, raporun yalnızca beşte ikinin kullanıma yön veren bir politika olduğunu söylediği bulgusundan CEOtudent tarafından türetilmiştir. Her davranışın bir gereklilik ve bir çözümle eşleştirilmesi CEOtudent’in editöryel sentezidir; çerçeveler bu anket bulgularına atıf yapmaz.
Yeni Sorumluluk Haritası
Yeni Sorumluluk Haritası, artık bir ajanın doldurduğu tek “Sorumlu” hücresini, sonucun sahipsiz kalmamasını birlikte sağlayan bir dizi insan rolüyle değiştiriyor. Küçük bir ekipte bir kişi birden fazla rolü üstlenebilir. Kural şu: her rolün başında adı belli biri olmalı.
CEOtudent editöryel çerçevesi: ajan işi için Yeni Sorumluluk Haritası
| Aşama | Eski harita (görevi bir kişi yapar) | Yeni haritadaki rol | Rol sahibinin yapabilmesi gerekenler | Ajana devredilemez, çünkü |
|---|---|---|---|---|
| Görev tanımı | İşi yapan kişi talebi yorumlar | Görevlendiren | Hedefi, kısıtları, kaynakları ve işin ne zaman “bitmiş” sayılacağını belirlemek | Ajan kendisine verilen görev tanımını uygular; muğlak bir görev tanımı insanın başarısızlığıdır |
| Yürütme | İşi yapan kişi işi gerçekleştirir | Ajan (araç) | Görevi görev tanımının sınırları içinde yerine getirmek | Yürütme, ajanın sahiplenebileceği tek aşamadır |
| Doğrulama | İşi yapan kişi kendi işini kontrol eder | Doğrulayıcı | Çıktıyı akıcılığına göre değil kaynağa göre kontrol etmek; çıktıyı reddetmek | Kontrol mekanizmasının kendisi bağımsız muhakemedir; ajan kendini doğrulayamaz |
| Yayına alma | Yönetici onaylar | Sahip | Çıktının dışarı çıkmasının sonucunu üstlenmek | Hesap verebilirlik bir kişiye ya da kuruma bağlanır, asla araca değil |
| İzleme | Sorunlar işi yapan kişi aracılığıyla görünür olur | İzleyici | Çalıştırmalar boyunca hata örüntülerini izlemek, kaydı tutmak | Örüntüler ancak çok sayıda çıktı boyunca görünür hale gelir |
| Durdurma | İşi yapan kişi kafası karıştığında durur | Durdurma yetkilisi | İş akışını izin istemeden duraklatmak ya da kapatmak | Bir ajan ne zaman durması gerektiğini güvenilir biçimde fark etmez |
| Açıklama | İşi yapan kişi ne olduğunu açıklar | Sahip, kaydı kullanarak | Ajanın ne yaptığını ve çıktının neden yayına alındığını yeniden kurgulamak | “Ajan yaptı”, mahkemenin reddettiği cevaptır |
Bu çerçeve, AB Yapay Zeka Yasası Madde 14 ve Madde 26’daki gözetim rollerinden ve NIST Yapay Zeka Risk Yönetimi Çerçevesi GOVERN 2 ve 3’ten yararlanan CEOtudent editöryel sentezidir. Yasal uyum kontrol listesi değil, bir tasarım kalıbıdır.
Yeni haritayı işler kılan üç tasarım kuralı var:
- Önemli sonuçları olan çıktılarda Doğrulayıcı ile Görevlendiren aynı kişi olmamalı. Görev tanımını yazan kişi, görmeyi beklediği şeyi görür. Düşük riskli işlerde iki rolü bir kişi üstlenebilir; bir müşteriye, bir sözleşmeye ya da bir kişi hakkındaki karara ulaşan her şeyde bu rolleri ayırın.
- Sahip, iş akışını durdurma yetkisine sahip olmalı. AB Yapay Zeka Yasasının ifadesi nettir: yetkinlik, eğitim ve yetki. Bir ajanı duraklatamayan sahip, sahip değildir.
- Beyan tasarımın içine yerleştirilir, denetimle dayatılmaz. %57 oranı yöneticilere bir şey söylüyorsa o da şudur: insanlar, izin verildiğinden emin olmadıklarında yapay zeka kullanımını gizler. Ajan kullanımını varsayılan olarak görünür kılan ekipler gerçek risklerini görür; bunu yapmayan ekipler ise artık var olmayan bir işin haritasına bakar.
Bu yeni haritanın dayandığı temel beceriler için şu yazılara göz atın: görev tanımını yazmak için Yapay Zeka Ajanına Nasıl Görev Devredilir, çıktıyı değerlendirmek için Yapay Zeka Yönetim Rehberi ve hangi kararların hiç devredilmemesi gerektiğini belirlemek için Yapay Zekanın Karar Vermesine İzin Vermeli misiniz?.
Dikkat edilmesi gereken üç başarısızlık kalıbı
“Ajan yaptı.” Bir hatanın izi sürülür ve açıklama araçta biter. Bu, mahkemedeki davanın küçük bir örneğidir. Olay sonrası incelemeniz bir rol adıyla değil de bir sistem adıyla bitiyorsa, yeni haritanızda bir Sahip eksik demektir.
Göstermelik onay. Kâğıt üzerinde bir Doğrulayıcı vardır, ama çıktı iyi okunduğu ve kuyruk uzun olduğu için neredeyse her şeyi onaylar. Faydalı bir sinyal ret oranıdır: neredeyse hiçbir şeyi reddetmeyen bir doğrulama adımı ya alışılmadık derecede güvenilir bir işi inceliyordur ya da gerçekte inceleme yapmıyordur.
Sahipsiz zincir. Bir ajanın çıktısı başka bir ajanın girdisi olur ve uçtan uca sonucun sahibi olan hiçbir insan yoktur. Her adım denetleniyor gibi görünür; bütün ise denetlenmez. Sahipliği tek tek adımlara değil, sonuca atayın.
Bir ekip için 30 günde yeni sorumluluk haritası
- 1. hafta: envanter. Bir ajanın ya da yapay zeka aracının artık ekipten dışarı çıkan çıktı ürettiği her tekrarlayan görevi listeleyin. İnsanlara doğrudan sorun ve beyanın hiçbir yaptırım doğurmayacağını açıkça belirtin.
- 2. hafta: rolleri adlandırın. Her iş akışı için Görevlendiren, Doğrulayıcı, Sahip ve Durdurma yetkilisi rollerini kimin üstlendiğini yazın. Önemli sonuçları olan işlerde dört rolü de aynı kişi üstleniyorsa, en azından Doğrulayıcı rolünü ayırın.
- 3. hafta: doğrulama standardını belirleyin. Her çıktı sınıfı için Doğrulayıcının neyle karşılaştırarak kontrol edeceğini tanımlayın ve retleri ve hataları kayda geçirmeye başlayın.
- 4. hafta: tatbikat yapın. Bir iş akışı seçin ve varsayımsal bir hatayı baştan sona adım adım ele alın: kim fark ediyor, kim duraklatıyor, kim açıklıyor, ne olduğunu hangi kayıt gösteriyor. Başında adı belli biri olmayan her adımı düzeltin.
Sonuç, iş akışı başına tek bir sayfaya sığar. Bu sayfa aynı zamanda NIST çerçevesinin GOVERN 2.1 maddesinin tarif ettiği belge ve AB Yapay Zeka Yasası Madde 26(2)’nin yüksek riskli sistem uygulayıcılarından istediği türden bir gözetim görevlendirmesidir.
CEO ve öğrenci
CEO bakışı. Bir üst yönetici hesap verebilirliği bir astına devredemez, bir yazılıma ise hiç devredemez. Bir CEO’nun yapabileceği, önemli sonuçları olan her çıktının yetkin, eğitimli ve o çıktıyı durdurmaya yetkili, adı belli bir sahibinin olduğu bir yapı tasarlamaktır. Ajanlar bu tasarım işini önemsizleştirmez, tersine daha önemli hale getirir; çünkü bir ekibin ürettiği çıktı sayısını, bu çıktıların hesabını verebilecek kişi sayısını artırmadan katlarlar.
Öğrenci bakışı. Doğrulama rolü bir beceridir ve her beceri gibi kullanılmadığında körelir. Ajan çıktısını kaynaklarla karşılaştırmayı sürdüren ekipler, kontrolü mümkün kılan muhakemeyi korur. Kontrol etmeyi bırakan ekipler bu muhakemeyi kaybeder ve kaybı ancak bir hata çoktan dışarı çıktığında fark eder. Öğrenci kalmak, reddedilen her çıktıyı ajanın, görev tanımının ya da incelemecinin nerede yetersiz kaldığına dair bir bilgi olarak görmek demektir.
Sıkça sorulan sorular
Bir yapay zeka ajanı hata yaparsa kim sorumludur?
Araç değil; kurum ve sistemi devreye alıp çıktıyı yayına alan kişiler. Moffatt v. Air Canada kararı, bir sohbet robotunun kendi beyanlarından sorumlu olduğu fikrini reddetti. Bu, farklı yargı alanlarında bağlayıcı bir emsal değil tek bir mahkeme kararıdır ve bu yazı hukuki tavsiye değildir; ancak kararın gerekçesi AB Yapay Zeka Yasasının ve NIST çerçevesinin mantığıyla örtüşüyor.
AB Yapay Zeka Yasası ekibimin kullandığı ajanlara uygulanır mı?
Madde 26, belirli istihdam kullanımlarını da içeren Ek III’te listelenen sistemler gibi yüksek riskli yapay zeka sistemlerinin uygulayıcılarına uygulanır. Taslak hazırlamak, özetlemek ya da araştırma yapmak için kullanılan ajanların çoğu yüksek riskli değildir. 27 Temmuz 2026’dan bu yana yürürlükte olan dijital omnibus değişikliğinin ardından, Ek III yüksek risk yükümlülükleri 2 Aralık 2027’den itibaren uygulanacak. Madde 4’teki yapay zeka okuryazarlığı yükümlülüğü 2 Şubat 2025’ten beri uygulanıyor ve yapay zeka okuryazarlığını destekleyen önlemler alınmasını gerektirecek şekilde değiştirildi.
Çalışanlar işlerinde yapay zeka kullandıklarını beyan etmeli mi?
Hesap verebilirlik açısından, evet. Görünmez devir, yöneticinin kimin neyi yaptığına dair görüşünün yanlış olması demektir ve görülemeyen bir risk yönetilemez. KPMG çalışması, çalışanların %57’sinin yapay zeka kullanımını gizlediğini ya da yapay zeka çıktısını kendi işi gibi sunduğunu ortaya koydu; bu genellikle kötü niyetten çok belirsiz kurallara işaret eder.
Her yapay zeka çıktısının ikinci bir incelemeciye ihtiyacı var mı?
Hayır. İncelemeyi sonucun ağırlığına göre ayarlayın. İç taslaklar, ajana görevi tanımlayan kişi tarafından kontrol edilebilir. Müşterilere ulaşan, parayı etkileyen ya da insanlarla ilgili kararlara girdi sağlayan çıktılarda, Görevlendiren olmayan bir Doğrulayıcı bulunmalıdır.
Bunun asgari uygulanabilir sürümü nedir?
Her ajan iş akışı için Sahibi, Doğrulayıcıyı ve iş akışını durdurabilecek kişiyi adlandıran tek bir sayfa ve buna ek olarak basit bir hata kaydı. Bu, iki çerçevenin istediklerinin özünü karşılar.
Ajan kayıtları ne kadar süre saklanmalı?
AB Yapay Zeka Yasası kapsamındaki yüksek riskli sistemlerde uygulayıcılar, kendi kontrolleri altındaki otomatik olarak üretilmiş kayıtları, başka bir mevzuat aksini öngörmedikçe en az altı ay saklamak zorundadır. Sıradan iş akışlarında ise kayıtları, hâlâ itiraz edilebilecek herhangi bir çıktıyı yeniden kurgulayabilecek kadar uzun süre saklayın.
Kaynakça
Avrupa Parlamentosu ve Konseyi, (AB) 2024/1689 sayılı Tüzük (Yapay Zeka Yasası), Madde 4, 14, 26 ve 113, Avrupa Birliği Resmi Gazetesi, 12 Temmuz 2024 ve 27 Temmuz 2026 tarihli konsolide metin.
(AB) 2024/1689 sayılı Tüzüğü değiştiren (AB) 2026/1744 sayılı Tüzük (yapay zekaya ilişkin dijital omnibus), Avrupa Birliği Resmi Gazetesi, 24 Temmuz 2026.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Ocak 2023, GOVERN kategorileri 2 ve 3.
Nicole Gillespie, Steven Lockey, Tabi Ward, Alexandria Macdade ve Gerard Hassed, Trust, attitudes and use of artificial intelligence: A global study 2025, Melbourne Üniversitesi ve KPMG, 2025.
Moffatt v. Air Canada, 2024 BCCRT 149, British Columbia Uyuşmazlık Çözüm Mahkemesi (Civil Resolution Tribunal), 14 Şubat 2024 tarihli karar.
Stanford İnsan Merkezli Yapay Zeka Enstitüsü (Stanford HAI), Artificial Intelligence Index Report 2025, Bölüm 3, Responsible AI.
Bu içerik, derinlemesine bir araştırmanın ardından yapay zeka desteğiyle derlenmiş ve CEOtudent editör ekibi tarafından yazılıp yayına hazırlanmıştır.
