Model demosu strateji değildir

Bir yapay zekâ demosu birkaç dakikada etkileyici bir metin, tablo ya da kod üretebilir. Fakat modelin iyi bir çıktı vermesi, kurumun doğru kararı vereceği anlamına gelmez. Asıl soru şudur: Bu çıktı hangi iş akışına girecek, kim tarafından kontrol edilecek, hangi kanıt eşiğinde kullanılacak ve hata yaptığında kim durduracak?

Yapay zekâ stratejisi bu nedenle yalnızca model seçme işi değildir. Model, daha geniş bir düzenin parçasıdır. O düzenin içinde görev tanımı, veri, karar yetkisi, teşvik, kontrol, itiraz ve geri bildirim vardır.

Bu, Frankenstein hikâyesindeki temel hataya benzer. Parçaları birleştirmek kolaydır. Zor olan, ortaya çıkan sistemin ne zaman çalışacağına, ne zaman duracağına ve sonuçlarından kimin sorumlu olacağına karar vermektir.

İlk soru model değil, iş akışıdır

Bir şirket yeni bir model seçmeden önce beş soruyu yanıtlamalıdır:

  1. Hangi kararı veya müşteri sonucunu iyileştirmeye çalışıyoruz?
  2. Bu kararın yanlış verilmesinin maliyeti nedir?
  3. Modelin hangi görevlerde güvenilir olduğu test edildi?
  4. İnsan hangi noktada neyi kontrol edecek?
  5. Sistem beklenmedik bir sonuç verdiğinde süreç nasıl duracak ve geri alınacak?

Bu sorular cevapsız kalırken daha büyük, daha hızlı ya da daha ucuz bir model seçmek, sorunu çözmek yerine büyütebilir. Çünkü teknoloji, belirsiz bir görevi kendiliğinden iyi tanımlanmış bir göreve dönüştürmez.

2026'da Organization Science dergisinde yayımlanan bir deney bu sınırı görünür kılıyor. Boston Consulting Group'ta çalışan 758 danışman, 18 gerçekçi bilgi görevi üzerinde değerlendirildi. Yapay zekâ, yetenek sınırının içinde kalan görevlerde tamamlanan iş sayısını ortalama yüzde 12,2 artırdı, süreyi yüzde 25,1 kısalttı ve çözüm kalitesini yükseltti. Ancak sınırın dışında seçilen karmaşık bir yönetim görevinde yapay zekâ kullananların doğru çözüm üretme ihtimali yüzde 19 daha düşüktü. Örneklem tek bir danışmanlık şirketindeki ağırlıkla erken kariyer çalışanlarıyla sınırlıydı; bu oranlar bütün işlere ve kurumlara genellenemez.

Bu sonuç, yapay zekânın iyi ya da kötü olduğunu göstermiyor. Daha önemli bir şey gösteriyor: Aynı araç, görev değiştiğinde farklı sonuç verebilir. Bu yüzden değerlendirme modelin genel zekâsından önce görevin sınırına, hatanın bedeline ve iş akışındaki kontrol noktasına bakmalıdır.

Karar hakkı kimin?

Bir yapay zekâ sistemi için insan kontrolü var demek tek başına yeterli değildir. İnsan neyi kontrol ediyor? Kontrol için zamanı var mı? Gerekçeyi sorgulayacak bilgiye sahip mi? Yanlış bulduğunda sistemi durdurma yetkisi var mı? Durdurursa performans hedefi veya yöneticisi onu cezalandırıyor mu?

Karar zincirini en az şu parçalara ayırmak gerekir:

  • Önerme: Sistem hangi seçeneği veya metni öneriyor?
  • Karar verme: Son kararı kim alıyor?
  • Onaylama: Sonucu dışarıya veya müşteriye kim çıkarıyor?
  • İtiraz etme: Kim, hangi kanıtla sonuca itiraz edebiliyor?
  • Durdurma: Hangi koşulda iş akışı otomatik olarak duruyor?
  • Yayımlama: İçeriği veya işlemi kamuya kim taşıyor?
  • Emekliye ayırma: Sistem artık çalışmadığında kim kapatıyor?

Shrestha, Ben-Menahem ve von Krogh'un California Management Review çerçevesi, insan ve yapay zekâ kararlarını birleştirmenin tek bir yolu olmadığını gösteriyor. Tam yetki devri, yapay zekânın önce süzüp insanın sonra karar verdiği yapı, insanın seçenekleri daraltıp yapay zekânın değerlendirdiği yapı ve kararların insan ile yapay zekâ arasında toplandığı yapı birbirinden farklıdır. Doğru seçim; arama alanının büyüklüğüne, yorumlanabilirliğe, hız ihtiyacına ve kararın tekrarlanabilirliğine bağlıdır.

Bu ayrım, şirketin yapay zekâyı kullanalım demesinden daha değerlidir. Çünkü kullanım kararı değil, yetki mimarisi tasarlar.

Kanıt eşiği olmadan kontrol kapısı dekor olur

Kontrol kapısı, yalnızca bir onay kutusu değildir. Bir sonucun kullanılabilmesi için hangi kanıtın gerektiğini belirleyen karardır.

NIST'in gönüllü Yapay Zekâ Risk Yönetimi Çerçevesi (AI Risk Management Framework) bu işi dört işlevle düşünmeyi önerir: Govern, Map, Measure ve Manage. Türkçesiyle kurum önce yönetişimi kurar, kullanım alanını ve riskleri haritalar, sistemi ölçer, sonra riski yönetir. NIST'in 2024 tarihli Üretken Yapay Zekâ Profili (Generative AI Profile) bu yaklaşımı özellikle yönetişim, içerik kaynağının izlenmesi, kullanım öncesi test ve olay bildirimine bağlar.

ISO/IEC 42001:2023 de modeli tek başına değil, kurumun yapay zekâ yönetim sistemini ele alır. Standart; sistemi kurmayı, uygulamayı, sürdürmeyi ve sürekli iyileştirmeyi tarif eder. Bu, sertifika veya süreç adı ne olursa olsun, sorunun yalnızca model parametrelerinden ibaret olmadığını hatırlatır.

OECD'nin 2024'te güncellenen Yapay Zekâ İlkeleri insan denetimi, açıklık, güvenlik, hesap verebilirlik ve izlenebilirliği öne çıkarır. 19 Şubat 2026 tarihli OECD'nin Sorumlu Yapay Zekâ için Özen Yükümlülüğü Rehberi ise şirketler için altı adımlı bir çerçeve sunar: ilkeleri yönetime yerleştirmek, olumsuz etkileri belirlemek, önlemek veya azaltmak, sonuçları izlemek, yapılanları açıklamak ve gerektiğinde telafi etmek. Bu rehber gönüllüdür; yine de şirketlerin yapay zekâyı satın alma anından emekliye ayırma anına kadar düşünmesine yardım eder.

Hukuk da aynı yönde ilerliyor, fakat tek takvimle değil. AB'nin Yapay Zekâ Yasası (AI Act) kapsamında uygulama, denetim ve yaptırım sorumlulukları 2 Ağustos 2026'dan itibaren AB Yapay Zekâ Ofisi (AI Office) ve üye ülkelerin yetkili makamlarına geçiyor. Buna karşılık belirli yüksek riskli alanlar için kurallar 2 Aralık 2027'de, düzenlenmiş ürünlere gömülü yüksek riskli sistemler için kurallar 2 Ağustos 2028'de uygulanacak. Madde 50 kapsamındaki belirli şeffaflık yükümlülükleri 2 Ağustos 2026'da başlıyor; piyasada daha önce bulunan bazı sistemlerin işaretleme yükümlülüğü için sınırlı bir süre 2 Aralık 2026'ya uzanıyor.

Buradaki ders, her şirketin aynı tarihte aynı kontrolü kurması değildir. Ders şudur: Kullanım alanı, ülke, sektör ve risk seviyesi belirlenmeden uyum sağladık demek anlamsızdır.

Teşvikler sistemi sessizce yeniden yazar

Resmî süreç doğru kurulsa bile günlük teşvikler başka bir iş akışı yaratabilir. Bir ekip yalnızca hız ve işlem hacmiyle ölçülüyorsa, kalite kontrolü kısaltmak, istisnaları gizlemek veya yapay zekâ önerisini sorgulamadan kabul etmek rasyonel görünebilir. Hız ve hacim tek ölçüt olduğunda bu davranışlar sistemin öngörülebilir riski haline gelir.

Yapay zekâ kullanımı da bu nedenle sadece eğitim meselesi değildir. Çalışanın hangi çıktıyı imzaladığı, hangi hatayı bildirebildiği ve itiraz ettiğinde neyle karşılaştığı önemlidir. İyi bir sistem, doğru çıktıyı üretmeyi olduğu kadar yanlış çıktıyı görünür kılmayı da ödüllendirir.

Brynjolfsson, Li ve Raymond'ın Quarterly Journal of Economics çalışması bu noktada ölçülü bir kanıt sunuyor. 5.172 müşteri destek çalışanını izleyen saha çalışmasında bir yapay zekâ yardımcısına erişim, saatte çözülen müşteri sorunlarının sayısını ortalama yüzde 15 artırdı. Fakat etki çalışanlar arasında farklılaştı. Araç çalışanların öneriyi görmezden gelmesine veya değiştirmesine izin veriyor, son görüşmeden çalışan sorumlu kalıyordu. Bu tek şirketin tek sistemi için bir sonuçtur, her kurum için verimlilik vaadi değildir.

Raisch ve Krakowski'nin yönetim literatüründeki uyarısı da burada önem kazanıyor: Otomasyon ve insanı güçlendirme birbirinin basit alternatifi değildir. Biri diğerini etkiler. Sadece otomasyona odaklanmak insan bilgisini ve itiraz gücünü zayıflatabilir; sadece insan kontrolüne odaklanmak da kapasiteyi ve hızı gereksiz yere sınırlayabilir.

İnsan sorumluluk zinciri görünür olmalı

Kendi yazı sitem olan efetanyer.com içinde kullandığım küçük işletim örneğinde, yapay zekâ araştırma çıktısının son sahibi değil. Soru kuruluyor, kaynaklar eşleniyor, iddialar kontrol ediliyor, metin gözden geçiriliyor, önizleme yapılıyor ve ayrı bir onay kapısı bulunuyor. Siteye taşıma veya yayımlama da bu zincirin otomatik sonucu sayılmıyor.

Bu, tek kişilik bir çalışma düzenidir; kurumsal dönüşüm kanıtı değildir. Burada özel talimatları, kişisel kayıtları, müşteri bilgilerini veya yayımlanmamış araştırmayı açmıyorum. Örneğin değeri, bir modelin yazabilmesinde değil, karar haklarının ve kanıt kapılarının görünür kılınabilmesindedir.

Bu yaklaşım, "yapay zekâ hiçbir zaman yayımlamasın" diye evrensel bir hukuk kuralı koymaz. Düşük riskli ve geri alınabilir bir içerik akışında bile son kararı kimin verdiği, hangi kanıtın tutulduğu ve hata olduğunda kimin geri dönüş yaptığı açık olmalıdır.

En güçlü karşı tez

Her başarısız uygulamayı yönetişim eksikliğiyle açıklamak da başka bir hata olur. Altı alternatif açıklama test edilmelidir:

  1. Model kapasitesi: Model, görevi güvenilir biçimde yapamıyor olabilir. Görev içi ve görev dışı örneklerden oluşan bir değerlendirme seti gerekir.
  2. Veri ve bağlam: Veri eski, eksik, temsil gücü düşük veya yetkisiz olabilir. Önce veri kaynağı, güncellik ve erişim denetlenmelidir.
  3. Altyapı: Gecikme, kesinti, zayıf arama veya kötü arayüz, modelin teorik faydasını silebilir. Uçtan uca hata oranı ölçülmelidir.
  4. Ekonomi: Lisans, hesaplama, inceleme ve hata düzeltme maliyeti faydayı aşabilir. Karşılaştırma, yalnızca model fiyatıyla değil, mevcut süreçle yapılmalıdır.
  5. Beceri ve güven: Kullanıcılar araca gereğinden az veya gereğinden fazla güvenebilir. Eğitim, itiraz kalitesi, hata keşfi ve kullanım yoğunluğu izlenmelidir.
  6. Düzenleme ve haklar: Kullanım alanı belirli bir ülkede veya sektörde kısıtlanmış, şeffaflık, etki değerlendirmesi ya da itiraz hakkı gerektiriyor olabilir. Dağıtım biçimi seçilmeden önce hukuki kapsam sınıflandırılmalıdır.

Bu testlerden sonra hâlâ kimin karar verdiği, hangi kanıtın yeterli olduğu ve hangi teşvikin davranışı belirlediği belirsizse, işletim modeli güçlü bir aday açıklama haline gelir. Bu bir çıkarımdır; her vakada ölçülmesi gerekir.

Üç işletim senaryosu

Yardımcı senaryo: Düşük riskli, geri alınabilir bir görevde yapay zekâ ilk taslağı veya seçenekleri üretir. İnsan düzenler, kaynağı kontrol eder ve son çıktıyı onaylar. Hata maliyeti düşük değilse bu yapı tek başına yeterli değildir.

Süzgeç senaryosu: Yapay zekâ büyük bir seçenek kümesini daraltır. Alan sahibi, sınırda kalanları ve istisnaları inceler; son kararı kendisi verir. Bu, insanın geniş veri kümesini tek başına taramasının pahalı olduğu ama son kararın yorum gerektirdiği durumlarda işe yarayabilir.

Sınırlı otomasyon senaryosu: Yüksek hacimli ve düşük riskli bir işlem, açık bir geri alma mekanizması, örneklem denetimi, izleme ve durdurma koşuluyla otomatikleşebilir. Bu senaryo yüksek riskli işe otomatik olarak taşınamaz. Sistem hata verdiğinde kimin durduracağı ve etkilenen kişiye nasıl düzeltme sağlanacağı önceden yazılı olmalıdır.

Pratik işletim modeli kontrol listesi

  1. Hangi kararı veya sonucu iyileştiriyoruz? Kapsam dışında kalan alan ne?
  2. İş sonucunun, sistemin, verinin ve risk kararının sahibi kim?
  3. Kim öneriyor, kim karar veriyor, kim onaylıyor, kim itiraz ediyor, kim durduruyor?
  4. Kullanım öncesi doğruluk, kalite, adalet, gizlilik, güvenlik, hız ve maliyet eşikleri nedir?
  5. Sistem hangi görevlerde test edildi? Benzer görünen ama sınırın dışında kalan görevler hangileri?
  6. İnsan kontrolü için yeterli zaman, yetki ve alan bilgisi var mı?
  7. Model, veri, kaynak, sürüm, değişiklik, inceleyen kişi ve son karar izlenebiliyor mu?
  8. Hız ve hacim hedefleri çalışanları kontrolü atlamaya teşvik ediyor mu?
  9. Hangi hata, itiraz, şikâyet, olay veya veri değişimi yeniden değerlendirme başlatacak?
  10. Hata telafisi, geri alma ve sistemi emekliye ayırma kararını kim verecek?

Bu liste bir sertifika veya hukuki güvence değildir. Amacı, model seçimi yapılmadan önce karar mimarisini görünür kılmaktır.

Son söz

Modeli değiştirmek bazen doğru çözümdür. Ancak strateji sorusu çoğu zaman modelden önce gelir: Hangi işi yapıyoruz, hangi riski kabul ediyoruz, hangi kanıtla ölçekleyeceğiz ve hangi koşulda duracağız?

Kalıcı değer, güçlü bir araç satın almaktan çok onu tanımlı bir karara bağlamaya, sorumluluğu açıkça dağıtmaya ve hatayı geri çevrilebilir kılmaya bağlıdır. Benim yargım şu: Teknoloji satın alınabilir; değer ise yetki, kanıt ve düzeltme düzeni birlikte kurulduğunda ortaya çıkar.

Kaynaklar