Yapay zekâ yönetişimi ve sorumlu uygulama

Düzenleme ve kapsam: etiketten önce sistem haritası

Bir chatbot, aday sıralama aracı ve sağlıkla ilgili ilk değerlendirme ekranı benzer bir model kullanabilir. Buna rağmen taşıdıkları sonuç, şirketin zincirdeki rolü ve incelenmesi gereken konular farklıdır. Yönetişimin ilk işi bu farkı görünür kılmaktır.

Düzenleme sorusu ile teknik karar aynı şey değildir. Hangi hukukî değerlendirmelerin gerektiği uzmanlık ve somut bağlam ister. İşletmenin yine de kendi başına cevaplaması gereken soru daha erken başlar: Sistem hangi işi yapıyor, kimi etkiliyor ve yanlış çıktıda ne oluyor?

Amaç

Sistem bilgi mi veriyor, öneri mi üretiyor, sıralama mı yapıyor, yoksa bir işlemi doğrudan mı başlatıyor?

Etkilenen kişi

Çıktı yalnızca iç ekipte mi kalıyor, yoksa müşterinin, adayın, hastanın ya da başka bir kişinin seçeneğini değiştiriyor mu?

Şirketin rolü

Şirket sistemi geliştiriyor, satın alıyor, kendi sürecine yerleştiriyor veya başkası adına mı işletiyor?

Başka sınırlar

Kişisel veri, sözleşme, sektör kuralı, ürün güvenliği veya tüketici ilişkisi aynı anda ayrı sorular doğuruyor mu?

Bu harita tek başına bir sınıflandırma ya da uyum sonucu vermez. Ancak tedarikçiden istenecek kanıtı, hukukî inceleme ihtiyacını ve sistem tasarımını doğru sorularla başlatır.

İlgili yazı

İlgili analiz

AB Yapay Zekâ Yasası Nedir, Neleri Düzenliyor?

Düzenlemenin sistem, rol ve kullanım amacıyla neden birlikte okunması gerektiğini kurar.

Yeni sekmede açılır

Risk sınıfı, başlangıç haritasıdır

Bir risk etiketi, konunun ağırlığını anlamaya yardımcı olabilir. Bunun ardından kullanım amacı, veri akışı, kullanıcı arayüzü, insan müdahalesi ve kayıt düzeni yeniden ayrı ayrı ele alınmalıdır. Aynı model, farklı işlerde aynı yönetişim kararını doğurmaz.

İlgili yazı

İlgili analiz

AB Yapay Zekâ Yasası: Risk seviyesini belirledikten sonra ne yapmalısınız?

Risk seviyesinden sonra ürün, veri, gözetim ve sorumluluk haritasının nasıl açıldığını inceler.

Yeni sekmede açılır

Bir sistemin hangi pazarlara, kullanıcılara ve sonuçlara ulaştığı da haritanın parçasıdır. Coğrafi bağlantı, uygulanabilirlik ve fiilî işletme etkisi hakkında varsayım yapmak yerine ilgili iş modelini ve dağıtım yolunu ayrı incelemek gerekir.

İlgili yazı

İlgili analiz

AB Yapay Zekâ Yasası Türkiye'deki Şirketleri Ne Kadar Etkiliyor?

AB dışındaki şirketler için kapsam ile fiilî etkiyi ayıran soruları ele alır.

Yeni sekmede açılır

Kontroller ve hesap verebilirlik: insanı eklemek yetmez

İnsan denetimi, ekranda bir onay düğmesi bulunması değildir. İnsan, hangi durumda durabileceğini, neyi kontrol edeceğini ve hangi kanıtla kararı değiştireceğini bilmelidir. Aksi halde sorumluluk yalnızca görünüşte insanda kalır.

Kontrol tasarımı dört şeyi birlikte bağlar: verinin nereye gittiği, sistemin hangi yetkiyle hareket ettiği, insanın hangi noktada devraldığı ve olay sonrası neyin yeniden kurulabileceği.

Yetki sınırı

Sistem taslak mı hazırlar, öneri mi sunar, yoksa geri alınabilir veya geri alınamaz bir işlem mi yürütür?

İnsan müdahalesi

İnceleyen kişi yeterli bağlamı, zamanı ve değiştirme yetkisini gerçekten taşıyor mu?

Veri akışı

Hangi veri hangi sağlayıcıya, hangi amaçla ve hangi saklama veya erişim koşullarıyla gidiyor?

İz ve öğrenme

Bir hata, itiraz veya beklenmedik sonuç sonrası hangi kayıt, karar ve değişiklik incelenebilir?

İnsan kontrolü, yalnızca risk yükseldiğinde devreye giren bir fren değildir. Sistem iyi çalışıyor görünürken de yanlış varsayımı, istisnayı veya amaç kaymasını fark etmeye yarayan işletim parçasıdır.

İlgili yazı

İlgili analiz

AI İşi Yaparken İnsan Sürecin Neresinde Olmalı?

İnsan denetiminin iş akışında nerede anlamlı olduğunu tartışır.

Yeni sekmede açılır

Güven, modelin ikna edici anlatımından doğmaz. Belirli bir görev için hangi hata türlerinin kabul edilebilir olduğu, çıktının hangi kanıtla kontrol edildiği ve sistemin nerede duracağı açık olduğunda daha sağlam bir zemine oturur.

İlgili yazı

İlgili analiz

Yapay Zekâ Yargılarına Neden Güveniyoruz?

Yapay zekâ çıktısına duyulan güvenin hangi karar ve kanıt koşullarına bağlı olduğunu inceler.

Yeni sekmede açılır

Veri sınırı, sözleşme kutusundan önce başlar

Bir dış sağlayıcıya veri gönderme kararı, yalnızca teknik entegrasyon değildir. Veri türünü, gerçek kullanım amacını, erişebilen tarafları ve mümkünse daha dar bir akışın kurulup kurulamayacağını görünür kılmalıdır.

İlgili yazı

İlgili analiz

Chatbot verisini üçüncü taraf yapay zekâ sağlayıcısına göndermek ne demek?

Chatbot verisinin dış sağlayıcıya gönderilmesinde görünür kılınması gereken akışı ele alır.

Yeni sekmede açılır

Verinin nerede işlendiği önemli bir soru olabilir; fakat tek başına güvenlik veya uygunluk sonucu vermez. Veri sınıfı, erişim, alt işleyenler, yedekleme, destek süreci ve şirketin kendi kontrol kabiliyeti birlikte değerlendirilir.

Yönetişim için tek bir unvan atamak da yeterli değildir. Yetkinin hangi kararı kapsadığı, teknik ekip, iş sahibi, güvenlik, hukuk ve operasyon arasında nasıl dağıldığı; bir sorun çıktığında kimin karar değiştirebildiğiyle anlaşılır.

İlgili yazı

İlgili analiz

Şirketin yapay zekâ kararlarını kim yönetmeli? CAIO’nun rolü ve yetkisi

CAIO rolünü unvandan çok karar yetkisi ve organizasyon tasarımı üzerinden inceler.

Yeni sekmede açılır

Uygulama riskleri: demo değil, çalışma koşulu

Bir sistemin güvenli veya yararlı olup olmadığı laboratuvardaki örneğinden anlaşılmaz. Gerçek kullanıcı, gerçek istisna, hatanın etkisi ve insan devri birlikte görülmeden yalnızca model performansı değerlendirilmiş olur.

Aşağıdaki senaryolar aynı teknoloji ailesine ait olabilir. Ancak yönetişim kararını belirleyen, model adı değil sistemin insanlara ve operasyona bağlandığı yerdir.

Bilgi verme

Sistem sınırlı ve doğrulanabilir bilgiyi sunar.Sınır, güncellik, hata düzeltme ve kullanıcıya açık işaretler önem kazanır.

Önceliklendirme

Sistem insanların veya taleplerin hangi sırayla ele alınacağını etkiler.Gerekçe, itiraz, insan incelemesi ve sistematik hata ihtiyacı görünür olmalıdır.

İşlem yürütme

Sistem randevu oluşturur, iletişim başlatır, kaydı değiştirir veya bir sonraki adımı tetikler.Yetki, geri alma, doğrulama, hata yolu ve olay kaydı iş akışının parçası olur.

Sağlıkla ilişkili bir sohbet arayüzü, bilgi vermekten klinik kararı etkilemeye doğru kayabilir. Bu nedenle kullanıcının gerçekte ne sorduğu, sistemin neye yanıt verdiği ve insan uzmanına geçişin hangi anda zorunlu olduğu tasarımın merkezindedir.

İlgili yazı

İlgili analiz

Sağlıkta yapay zekâ: Chatbot, triyaj ve tıbbi cihaz arasındaki fark

Bilgi veren chatbot ile triyaj ve klinik karar etkisi arasındaki ayrımı açıklar.

Yeni sekmede açılır

Sesli ajanlarda akıcı konuşma, tamamlanan işin kanıtı değildir. Kimin aranacağı, neden aranacağı, konuşmanın hangi noktada insan devrine gideceği ve sonuç kaydının nasıl tutulacağı, model seçiminden önce gelen uygulama kararlarıdır.

İlgili yazı

İlgili analiz

Sesli ajan sistemi kurarken neye dikkat etmeliyiz?

Sesli ajan yatırımında kanal, iş sonucu ve pilot tasarımının rolünü gösterir.

Yeni sekmede açılır

Bir yapay zekâ kapasitesi operasyonun parçası hâline geldikçe kesinti, maliyet, davranış değişimi ve sağlayıcı bağımlılığı yalnızca satın alma riski olmaktan çıkar. Kritik akış için alternatif, daraltma ve geri dönüş yolları gerçek kullanımda sınanmalıdır.

İlgili yazı

İlgili analiz

Şirketinizin AI Bağımlılığının Farkında mısınız?

Kritik AI kapasitesinin şirketin çalışma biçimine yerleştiğinde doğan bağımlılığı ele alır.

Yeni sekmede açılır

Tekrar kullanılabilir kısa karar kaydı

Bir yönetişim kararı, uzun bir politika belgesinden önce kısa ve incelenebilir bir kayıtla başlayabilir. Amaç form doldurmak değil; sistem değiştiğinde hangi varsayımın, yetkinin ve kanıtın yeniden kontrol edileceğini unutmamaktır.

Amaç ve etki

Sistemin yaptığı iş, etkilenen kişi veya süreç, yanlış sonucun muhtemel etkisi.

Yetki ve insan devri

Sistemin başlatabildiği işlem, insanın devralacağı durum ve değiştirebileceği karar.

Veri ve dış bağımlılık

Gönderilen veri, dış taraflar, kritik hizmet varsayımları ve sınırlandırma seçeneği.

Kanıt ve gözden geçirme

Başarı ve hata sinyali, incelenecek kayıt, sorumlu sahip ve yeniden bakma tetikleyicisi.

Bu kayıt hukukî veya teknik incelemenin yerine geçmez. Hangi incelemeye neden ihtiyaç duyulduğunu ve karar değiştiğinde nereye dönüleceğini daha açık hâle getirir.