Şirketlerin Yeni Güvenlik Riski: Gölge Yapay Zeka (Shadow AI) Nedir ve Nasıl Yönetilir?

Shadow AI, çalışanın bilgi teknolojisi ekibinden habersiz bir yapay zekâ aracı açıp şirket verisini o araca vermesidir. Araç kişisel bir sohbet hesabı, tarayıcı eklentisi veya toplantıyı kaydeden ücretsiz bir asistan olabilir. Niyet çoğu zaman hızdır. Sonuç, şirketin kontrol etmediği bir üçüncü tarafa yapılan açıklamadır.

Bu, "birisi yapay zekâ kullanıyor" diye özetlenecek kadar dar değildir. Aynı kişi onaylı bir kurumsal hesapta özet çıkarıyorsa bu gölge kullanım sayılmaz. Gölge, aracın kim tarafından, hangi veri için ve hangi saklama şartıyla açıldığının şirketçe bilinmemesidir.

BT ve güvenlik ekipleri bu yüzden iki şeyi aynı anda ister. Veri dışarı sızmasın. İş de yavaşlamasın. Yazının geri kalanı bu ikisini nasıl bir arada tutacağını anlatır.

Gölge IT'den gölge yapay zekâya geçiş

Gölge IT yeni değildir. Çalışan, onaylanmamış bir dosya alanına sözleşme koyar, kişisel posta kutusundan müşteri listesi gönderir veya kurulmamış bir tablo aracıyla rapor tutar. Şirket o kopyayı görmez. Yine de kopya bir dosyadır. Silinebilir, geri istenebilir, en azından nerede durduğu sorulabilir.

Gölge yapay zekâ aynı alışkanlığın yeni aracıdır. Fark, aracın işinin metni okumak olmasıdır. Çalışan kaynak kodu, müşteri şikâyetini veya henüz açıklanmamış fiyat listesini kutuya yapıştırır. Karşı taraf bir depolama klasörü değil, metni işleyen bir hizmettir. Hizmet istemi günlüğe yazabilir, kötüye kullanım incelemesi için saklayabilir ve sözleşmeye göre eğitim verisine katabilir. Kişisel hesap şirketten ayrılınca kapanmaz. İstemin geçmişi o hesapta kalır.

Kamuya yansımış 2023 örneğinde bir üreticinin mühendisleri, iç kaynak kodunu tüketici tipi bir sohbet aracına yapıştırmış ve şirket kullanımı kısıtlamıştı. Olayın dersi "yapay zekâ kötüdür" değildir. Ders, onaylanmamış bir kutuya yapıştırılan metnin şirket sınırının dışına çıkmasıdır.

Gölge IT'de soru "bu dosya kimde?" idi. Gölge yapay zekâda soru "bu metin hangi hizmete, hangi hesapla, hangi saklama şartıyla gitti?" olur. İkinci sorunun cevabı çoğu şirkette yoktur. Çünkü araç, BT'nin kurduğu bir sistem değildir. Çalışanın kendi tarayıcısıdır.

Şirketler için neden büyük bir tehdit?

Tehdit, modelin zeki olması değildir. Tehdit, hassas metnin şirketin denetlemediği bir işleme hattına girmesidir.

Tipik yapıştırma şunları taşır:

• Henüz yayımlanmamış kaynak kodu, yapılandırma ve hata ayıklama çıktısı.
• Müşteri adı, telefon, sipariş notu ve destek yazışması.
• Sözleşme taslağı, teklif ve indirim oranı.
• Çalışan özlük bilgisi, maaş veya sağlık notu.
• Parola, API anahtarı, bağlantı cümlesi ve erişim belirteci.

Bunların her biri ayrı bir sonuç doğurur. Kaynak kodu rakiplerin göreceği bir sır olmayabilir. Yine de sağlayıcının günlüğünde duran bir ticari sırdır. Müşteri verisi, kişisel verinin yurt dışına aktarılması sorusunu açar. Bu bir hukuk görüşü değildir. Hukuk ekibinin, hangi veri türünün hangi ülkedeki hangi hizmete gidebileceğini sözleşmeden okuması gerekir. Parola ve anahtar ise bambaşkadır. Sohbet kutusuna düşen bir sır, rotated edilmeden güvenli sayılmaz.

İkinci risk, çıktının belge yerine konmasıdır. Araç emin bir dille yanlış madde, uydurma madde numarası veya olmayan bir iç politika cümlesi üretebilir. Çalışan bunu müşteriye veya denetçiye gönderirse zarar, sızıntıdan farklı ama aynı hızla büyür.

Üçüncü risk, işten ayrılmadır. Kişisel hesaptaki istem geçmişi şirketin dizininden düşmez. Ayrılan kişi hesabı silmezse metin orada kalır. Şirket bu kopyayı kendi yedekleme politikasıyla silemez.

Dördüncü risk, eklenti ve bağlı sürücüdür. Sohbet kutusu tek başına bir yapıştırmadır. Bir eklenti, kurumsal posta kutusunu veya dosya alanını okuma izni isterse kapsam yapıştırmadan genişler. Çalışan "sadece özetlesin" der. İzin, klasörün tamamını görebilir.

Yapay zekâya yüklenen veriler nereye gidiyor?

Tek bir adres yoktur. Tüketici hesabı ile kurumsal sözleşme aynı yere gitmez. Yine de giden metin için sorulacak yerler sabittir.

İşleme. İstem, ekiniz ve bazen ekran görüntünüz, yanıtı üreten hizmetin altyapısına gider. Bu, metnin o an için sağlayıcının sisteminde bulunduğu anlamına gelir.

Günlük ve inceleme. Birçok hizmet, kötüye kullanım şüphesinde istemi saklar ve sınırlı bir inceleme ekibinin görmesine izin verir. Bu, "kimse okumaz" varsayımını bozar. Okuma seyrek olabilir. Seyrek olması, sırrın sizde kaldığı anlamına gelmez.

Eğitim. Tüketici planlarında, hesabın ayarına ve yürürlükteki sözleşmeye göre içerik model eğitiminde kullanılabilir. Kurumsal planlar çoğu zaman eğitimi sözleşme dışı bırakır. Bunu varsaymak yetmez. Sipariş formunda ve veri işleme ekinde yazmalıdır. Kişisel ve ücretsiz hesap bu ekke sahip değildir.

Saklama ve bölge. İstem geçmişi hesabın içinde durur. Sağlayıcı bunu hangi ülkede tuttuğunu ve ne kadar süre sonra sildiğini belgede yazar. Şirket o belgeyi görmediyse süreyi bilmiyordur.

Alt yükleniciler. Model barındırma, içerik denetimi ve destek başka şirketlere devredilmiş olabilir. Veri, kullanıcının gördüğü markadan bir adım daha gider.

Üçüncü sarmalayıcılar. Resmi uygulama yerine "ücretsiz sarmalayıcı" siteler ve mağazadaki tanınmamış eklentiler, istemi bir ara sunucudan geçirir. O ara sunucunun kim olduğu, logu ve amacı ayrıca bir taraftır. Şirket verisi için bu yol kapalı olmalıdır.

Silme de sanıldığı kadar geri alınabilir değildir. Sağlayıcı hesabındaki geçmişi silmek, yedek bandındaki kopyayı ve eğitilmiş bir modelin içini aynı anda yok etmez. Eğitim dışı bırakılmış kurumsal planda bile günlük saklama süresi sözleşmede okunur. Tüketici hesabında bu kontrol sizde değildir.

Pratik kural şudur. Kutuya yapışan metin, o andan sonra şirketin kendi diskindeki dosya değildir. Geri çağrı, sağlayıcının sözleşmesi ve arayüzündeki silme düğmesi kadardır.

Riski yönetmek için dört adım

Amaç kullanımı sıfırlamak değildir. Amaç, hassas metnin yalnız şirketin şartını kabul etmiş bir hatta kalmasıdır.

1. Yapıştırılmayacak veriyi yazın

Uzun bir yasak listesi okunmaz. Kısa ve örnekli bir sınıflandırma okunur. Şunlar onaylı kurumsal hesapta bile, hukuk ve güvenlik yazmadan gitmez: müşteri kişisel verisi, çalışan özlük bilgisi, parola ve anahtar, yayımlanmamış kaynak kodu, imzalanmamış sözleşme ve fiyat. Geri kalan taslak metin, herkese açık belge ve sentetik örnek, onaylı hatta gidebilir.

Liste duvarda kalırsa işe yaramaz. Kod inceleme şablonuna, destek makrosuna ve sözleşme kontrol listesine üç satır olarak girer. İnsan karar anında o satırı görür.

2. Kullanımı görünür kılın

Görünürlük, çalışanın kişisel sohbetini okumak değildir. O yol hem ölçüsüzdür hem de asıl sorunu çözmez. Görünürlük şunları bilmektir:

• Şirket adına hangi yapay zekâ hizmetleri satın alındı?
• Kimler kurumsal hesapta, tek oturumla giriyor?
• Hangi eklentiler kurumsal posta veya dosyaya bağlandı?
• Ekipler hangi iş için hâlâ kişisel hesap kullanıyor?

Bunu öğrenmenin temiz yolu anketle birlikte satın alma kayıtlarıdır. "Hangi aracı, hangi iş için açıyorsunuz?" sorusu yasaktan önce sorulursa cevap gelir. Yasaktan sonra cevap kişisel telefona taşınır.

Ağ günlüğünde bilinen tüketici alan adlarına giden trafiğin varlığını görmek, envanterin parçası olabilir. Bu, sayfanın içindeki metni yakalamak anlamına gelmez. Amaç kişiyi cezalandırmak değil, hangi hizmetin şirket verisi gördüğünü bilmektir.

3. Kurumsal alternatifi kişisel hesaptan hızlı yapın

İnsan, işi yetiştiren aracı seçer. Onaylı hat yavaşsa gölge hat kazanır. Kurumsal hesapta aranacak asgari şartlar:

• Şirket dizininden tek oturum. Kişisel e-posta ile açılan "bedava ekip" sayılmaz.
• İçeriğin model eğitiminde kullanılmayacağı, sözleşmede düz yazılır.
• Saklama süresi ve veri bölgesi yazılıdır. Süre, işin gereğinden uzun değildir.
• Yönetici, ayrılan kişinin hesabını kapatır. Kişisel hesapta bu düğme şirketinde yoktur.
• Bağlı dosya ve posta izinleri varsayılan olarak kapalıdır. Açılacaksa kapsam bir klasörle sınırlıdır.
• Araç bir ajan gibi hareket edecekse yetkisi daralır ve geri dönüşü zor işlem insan onayına düşer. Bu ayrımı otonom yapay zekâ yazısında araç, onay kapısı ve en az ayrıcalık olarak işlemiştim. Tüketici sohbet kutusu bu kapıların hiçbirini taşımaz.

Satın alma bu hesabı aylarca bekletirse çalışan beklemeyecektir. Güvenlik ekibinin işi, hukuk ve satın alma ile birlikte iki haftalık bir onay şeridi kurmaktır. Şerit yoksa gölge kullanım politikası değil, kuyruk sorunudur.

4. İstisna ve olay kapısını önceden açın

Her iş kurumsal aracın içine sığmaz. Yeni bir model denemesi, bir araştırmacının makale taraması veya bir ajan deneyi meşru olabilir. İstisna formu kısadır: hangi veri girecek, veri sentetik mi, hesap kimin, ne zaman kapanacak. Cevap bir kişiye bağlıdır ve tarihi vardır. Süresiz "hocam bir bak" istisna değildir.

Olur da hassas metin kişisel hesaba giderse yol belli olmalıdır. Çalışan bunu saklarsa şirket günler sonra tesadüfen öğrenir. Kısa bir olay adımı şunu söyler: hesabı kullanmayı bırak, mümkünse geçmişten o istemi sil, güvenlik ekibine veri türünü bildir, parola veya anahtar girdiyse sırrı hemen yenile. Ceza ilk refleks olursa bildirim kesilir. Bildirim kesilirse sızıntı yerinde kalır.

Yasaklamak değil, güvenli alternatif sunmak

Düz yasak, tüketici sitesini duvarın ardına iter. Çalışan aynı kutuyu telefondan açar. Şirket hem veriyi kaybeder hem de kullanımın bittiğini sanır. Yasak, sınıflandırma ve alternatif olmadan yazılırsa kâğıtta kalır.

İşe yarayan düzen başkadır. Hassas sınıf kişisel hesapta yasaktır. Bu yasak kısadır ve örneklidir. Aynı gün, o işi gören kurumsal hesap açıktır. Hesap yavaşsa yasak işletilmez. Çünkü işletilemez.

Yöneticinin ölçüsü "kimse yapay zekâ kullanmasın" değildir. Ölçü üç sorudur. Onaylı hesap var mı? Hassas sınıf oraya bile bilinçli mi giriyor? Kişisel hesaba giden şirket verisi bildiriliyor mu? Üçüne de cevap yoksa politika cümlesi değil, dilektir.

Gölge yapay zekâ, çalışanın kötü niyetinden çok, işin hızı ile şirketin kuyruğu arasındaki farktan beslenir. Farkı kapatan taraf, aracı yasaklayan değil, aynı hızı şirketin sözleşmesi altında verendir.