Yapay zeka yönetişiminin ilk dalgası doğru şeyleri söylemekle ilgiliydi: ilkeler, kabul edilebilir kullanım politikaları, yönlendirme komiteleri ve risk beyanları. Bunlar faydalıdır ancak modelleri yönetmezler. Modeller kararlara göre yönetilir: bir kullanım senaryosunu kimin onaylayabileceği, hangi kanıtın gerekli olduğu, hangi verilere izin verildiği, nelerin izlendiği ve saptığında sistemi durdurma yetkisinin kimin olduğu.
NIST'in Yapay Zeka Risk Yönetimi Çerçevesi ve üretken yapay zeka profili, konuşmayı doğru yöne itti: yönetin, haritalayın, ölçün ve yönetin. Asıl soru, bu fiillerin, yanında duran bir belge yerine nasıl uygulamanın bir parçası haline getirileceğidir.
Politika yeterli değil
Yalnızca politikaya dayalı yönetişimin başarısız olmasının nedeni yapısaldır. AI sistemleri lansmandan sonra değişir. Bilgi istemleri değişir. Veri değişiklikleri. Kullanıcılar geçici çözümler bulur. Satıcılar modelleri günceller. Yalnızca lansmanı onaylayan bir yönetişim modeli, asıl önemli olan şeyi gözden kaçırır: yaşam döngüsü.
Yaşam döngüsü yönetim birimidir
Ciddi bir işletim modeli, yapımdan önce, pilot uygulamadan önce, üretimden önce ve lansmandan sonra kapılar oluşturur. Her kapı farklı bir soru sorar. Erken kapı, kullanım senaryosunun yapılmaya değer olup olmadığını sorar. Üretim kapısı, sisteme bağlamda güvenilip güvenilemeyeceğini sorar. İzleme kapısı sistemin hala çalışmayı hak edip etmediğini sorar.
Sahiplik, yönetimin gerçeğe dönüştüğü yerdir
Her yapay zeka sisteminin üç sahibine ihtiyacı vardır: karardan sorumlu bir işletme sahibi, sistemden sorumlu bir teknik sahip ve kanıtlara itiraz edebilecek bir risk sahibi. Üçünden herhangi biri eksik olursa yönetim törensel hale gelir.
Liderlerin bundan sonra ne yapması gerekiyor?
Canlı ve canlıya yakın yapay zeka sistemlerinin envanterini çıkararak başlayın. Yeni bir komiteyle başlamayın. Gerçek kararların yapay zeka tarafından veya yapay zeka yardımıyla alınmasıyla başlayın. Daha sonra sahipleri atayın, kapıları ayarlayın ve her sistemin çalışmaya devam etmesi için ihtiyaç duyduğu kanıtları tanımlayın.
- Risk katmanlarına sahip bir kullanım senaryosu kaydı.
- Her üretim sistemi için belirlenmiş iş, teknik ve risk sahipleri.
- Bir sistemi başlatıldıktan sonra durdurabilen veya değiştirebilen yaşam döngüsü kapıları.