Veri yurt içinde kalır, kanıtı raporlanabilir
Kamu kurumlarında LLM kullanımının ilk sorusu model kalitesi değil, verinin nerede işlendiği. İkinci soru, bunun nasıl kanıtlanacağı. Modelion'da ikisi de politika seviyesinde çözülür: yurt dışı adaylar kapatılır ve her isteğin hangi bölgede işlendiği kayda geçer.
- Tüm trafik tek bölgeye sert çivilenir
- Yurt dışı aday zinciri hiç değerlendirilmez
- Vatandaş verisi önbelleğe yazılmaz
tr-west-1tek bölge, yedeklemesiz sert çivi
Bu sektörde neyin zorlaştığı
Kamu tarafında engel genelde teknik değil, kanıtlanabilirlik. Bir hizmetin LLM kullandığını söylemek kolay; verinin bölge dışına hiç çıkmadığını, hangi kararın hangi kurala dayandığını ve bunun sürekli böyle olduğunu göstermek zor.
Bu sektörde neyin zorlaştığı
- Veri yerleşimi taahhüdü sözleşmede yazıyor ama teknik olarak zorlanmıyor.
- Kesinti anında yedekleme mekanizması, taahhüt edilen bölgenin dışına çıkabiliyor.
- Vatandaş verisi içeren istekler önbelleğe yazılıyor ve başka bir isteğe dönebiliyor.
- Tedarik ve denetim süreçleri, hangi sağlayıcının hangi veriyi gördüğüne dair kayıt istiyor.
- Yerli veya kurum içi model tercihi var ama trafiğin gerçekten oraya gittiği doğrulanamıyor.
Yazacağınız ilk üç kural
Aşağıdakiler tanıtım örneği değil; bu sektörde ilk oturumda konuştuğumuz kurallar. Her biri konsoldan YAML olarak yazılır, shadow modda ölçülür, sonra uygulamaya alınır.
- 1
yerlesim-sert-civi- Koşul
- her istek
- Sonuç
- yalnızca tr-west-1 bölgesindeki modellere izin ver · yurt dışı adayları aday listesinden çıkar · yedeklemeyi kapat
Neden böyleBu kural platform tabanı seviyesinde yazıldığında, altındaki hiçbir kural onu gevşetemez — kısıtlar kesişir, birleşmez. Yani bir ekip kendi kural setine yurt dışı bir model ekleyemez; combo'da olsa bile çalışmaz. - 2
vatandas-verisi-onbellek-kapali- Koşul
- signals.pii.detected VEYA request.headers.dataClass = citizen
- Sonuç
- semantik önbelleği kapat · maskele · denetim etiketi yaz
Neden böyleSemantik önbellek benzer prompt'lara aynı cevabı döndürür. Vatandaş verisi içeren bir istekte bu, bir kişinin cevabının başka bir sorguya dönmesi riskidir.lookup_onlyde yeterli değil; yazma tamamen kapanmalı. - 3
kurum-ici-model-once- Koşul
- her istek
- Sonuç
- aday sırası: kurum içi vLLM → tr-west-1 barındırılan model · başka aday yok
Neden böyleKurum içi modeli tercih etmek ile trafiğin oraya gittiğini kanıtlamak farklı şeyler. Aday zincirini politika belirlediğinde, karar izi her istek için hangi adayın çalıştığını ve neden çalıştığını gösterir.
Denetimde ne gösteriyorsunuz
- Yerleşim raporu
- Dönem boyunca işlenen isteklerin bölge dağılımı; bölge dışı sıfır
- Reddedilen adaylar
- Yurt dışı adayın aday listesinden hangi kuralla çıkarıldığı
- Sağlayıcı kaydı
- Hangi isteğin hangi sağlayıcıya gittiği; kurum içi model oranı
- Önbellek kanıtı
- Vatandaş verisi içeren isteklerin önbelleğe yazılmadığı
- Kural yürürlük izi
- Hangi kural setinin hangi tarihten itibaren uygulandığı
- Kesinti davranışı
- Aday kalmadığında isteğin reddedildiği; bölge dışına taşınmadığı
Bu sektörden gelen sorular
Yerleşim kuralı yürürlükteyken ve bölge içinde aday kalmadığında gateway 503 döner. Bu bilinçli bir tercih: fail-open davranışı uyumluluk sınırını hiçbir koşulda genişletmez. Kesinti pahalıdır, ama yanlış yargı alanına giden regüle veri daha pahalıdır. Bölge içinde birden fazla aday tanımlamak bu riski azaltmanın doğru yolu.
Evet. Kendi vLLM kümenizi katalogda sağlayıcı olarak tanımlamak standart bir kurulum adımı ve Team planından itibaren açık. Aday zincirinde ilk sıraya koyabilir, politika ile başka adaya düşmeyi tamamen kapatabilirsiniz.
Kurumsal planda on-prem lisanslama görüşülebilir. Bu, sağlayıcı kimlik bilgisi yönetiminin de size geçmesi anlamına gelir; hosted modelin sizden aldığı yükün bir kısmını geri alırsınız. Hangi yapının size uygun olduğunu ilk oturumda konuşuyoruz.
Karar izleri sorgulanabilir bir analitik depoda tutuluyor; bölge dağılımı, kural bazında karar sayıları ve reddedilen adaylar dönem raporu olarak çıkarılabiliyor. Kurumsal planda saklama süresi sözleşmeyle belirlenir.
Bu sayfadaki mevzuat atıfları, ürünün hangi davranışı mümkün kıldığını anlatmak içindir; hukuki görüş değildir. Uyum yükümlülüğünüzün kapsamını kendi hukuk biriminizle belirlemeniz gerekir.
Kendi kural setinizle başlayalım
İlk oturumda sizin trafiğinizi ve mevzuat sınırlarınızı konuşuyoruz; sonunda shadow modda ölçülmüş bir sapma raporu ve yazılmaya hazır üç kural oluyor.