Editörden

Bugün dört yazı da aynı soruyu farklı yerlerden soruyor: bağlantı, uzman ya da istikrar yoksa sistem nasıl çalışmaya devam eder? Fabrikada internet yok, kırsalda doktor yok, kuantum bilgisayarda kalibrasyon durmuyor — her seferinde cevap sistemi kendi kendine yetebilir kılmaktan geçiyor.

Günün Kapağı
AWS Architecture Blog 22 Temmuz 202613 dk okuma orta

İnternetin olmadığı yerde AI: çevrimdışı-öncelikli mimari

Architecting offline-first generative AI applications for edge deployments using AWS services · Ahmed Ewis

Yazı somut bir rakamla açılıyor: Siemens'in raporuna göre Fortune 500 şirketleri plansız duruşlar yüzünden yılda tahmini 1,4 trilyon dolar kaybediyor — ve bu kayıp, sorunu hızlı tespit edip çözecek bilgi eksikliğiyle ağırlaşıyor. Üretken AI umut verici bir çözüm, ama endüstriyel ortamlarda ayrı bir mimari problem çıkarıyor: bulut bağlantısının güvenilmez ya da hiç olmadığı yerlere büyük ölçekli AI'ı nasıl taşırsın?

Cevap çevrimdışı-öncelikli (offline-first) mimari: çıkarımı uca taşı, bulutu ise model özelleştirme, dağıtım orkestrasyonu ve sürekli iyileştirme için kullan. Yani bulut karar vermez, hazırlar. Kritik yol tamamen yerelde çalışır.

Örnek senaryolar mimariyi somutlaştırıyor: bakım ekiplerinin canlı log akışlarıyla ilgili makine kılavuzlarını eşleştirememesi; uydu bağlantısı sınırlı açık deniz platformları ve boru hattı ekiplerinin güvenlik prosedürlerine ve mevzuat belgelerine anında erişme ihtiyacı; hassas tarım ekipmanı kullanan uzak tesisler.

Öne çıkanlar

  • Temel ilke: kritik yol yerelde, iyileştirme bulutta. Bağlantı koptuğunda sistem bozulmaz, sadece güncellenmez.
  • Uçta çalıştırmak model boyutunu kısıtlar — küçük model + iyi retrieval, büyük model + kötü bağlantıya yeğdir.
  • Bu desen AI'a özgü değil: çevrimdışı-öncelikli mobil uygulamalar yıllardır aynı mantıkla çalışıyor.

Neden önemli?

"Bağlantı her zaman var" varsayımı, yazılım mimarisinin en yaygın sessiz varsayımlarından biri. Bu varsayımı kaldırdığın anda tasarım değişir: durum nerede tutulur, çakışma nasıl çözülür, kullanıcı ne zaman uyarılır? Bu soruların cevabını baştan vermek, sonradan eklemekten çok daha ucuzdur.

Sende karşılığı

KlioAI'da offline kayıt senkronizasyonu yaptığını CV'nde yazıyorsun — yani bu deseni zaten uyguladın. Bu yazı sana onu daha iyi anlatabilmeni sağlar: çevrimdışı-öncelikli tasarımın zor kısmı veriyi saklamak değil, çakışma çözümü (conflict resolution) ve idempotency'dir. Kullanıcı çevrimdışıyken bir kaydı iki kez gönderirse ne olur? Sunucudaki hâli daha yeniyse hangisi kazanır? Mülakatta "offline sync yaptım" demek yerine "her isteğe istemci tarafında üretilen bir idempotency anahtarı koydum, sunucu aynı anahtarı ikinci kez görürse işlemi tekrarlamıyor" diyebilmek seviye farkıdır.

Sözlük

offline-first çevrimdışı-öncelikli
Sistemin bağlantı olmadan da tam çalışacak şekilde tasarlanması; bağlantı bir iyileştirme, önkoşul değil.
edge inference uçta çıkarım
Modelin bulutta değil, verinin üretildiği cihaz ya da yerel sunucuda çalıştırılması.
idempotency değişmezlik / tekrar-güvenliği
Aynı isteğin birden çok kez işlenmesinin, bir kez işlenmesiyle aynı sonucu vermesi.
Orijinali oku

Kısa Kısa

Google Research 22 Temmuz 20267 dk okuma orta

13.917 katılımcılı bir çalışma: değerlendirmeyi nasıl kurgularsın

SymptomAI: Towards a conversational AI agent for everyday symptom assessment

Google Research, semptom değerlendirmesi yapan konuşma tabanlı AI prototipleriyle ulusal ölçekte bir karşılaştırmalı çalışma yürütmüş. İlgi çekici kısım tıp değil, deney tasarımı.

13.917 gönüllü katılımcı, semptomlarını beş farklı SymptomAI ajanından birine anlatmış — her ajan görüşmeyi farklı esneklik derecesinde yürütüyor. Yani tek bir sistemi test etmemişler, varyasyonları rastgele atamışlar.

Değerlendirme de iki katmanlı. Birincisi: klinisyenler, SymptomAI'ın ürettiği ayırıcı tanıyı (DDx) diğer klinisyenlerin verdiğiyle karşılaştırmış — vakaların %50'sinden fazlasında SymptomAI'ınkini tercih etmişler. İkincisi: tanılar, katılımcıların görüşme öncesi Fitbit cihazlarından gelen biyosinyallerle karşılaştırılmış.

  • Rastgele atanmış varyantlar, tek bir sistemi test etmekten çok daha fazla bilgi veriyor: hangi tasarım tercihinin işe yaradığını gösteriyor.
  • Bağımsız bir sinyalle (giyilebilir cihaz verisi) çapraz doğrulama, insan yargısının tek başına yeterli olmadığı yerlerde güven artırıyor.

Sende karşılığı

Buradaki yöntemi kendi LLM özelliklerine uygula. "Prompt'u iyileştirdim, daha iyi oldu" cümlesi ölçüm değildir. SymptomAI'ın yaptığı gibi yap: iki prompt varyantı kur, aynı girdileri ikisine de ver, çıktıları körlemesine (hangisi hangisi bilmeden) değerlendir. KlioAI'daki gramer düzeltmesi için 30 örnekten oluşan sabit bir test seti kurmak, her prompt değişikliğinde bir sayı vermeni sağlar. Bu seti bir kere kurmak, sonraki her kararı kolaylaştırır.

Sözlük

differential diagnosis (DDx) ayırıcı tanı
Belirtilere uyan olası hastalıkların olasılık sırasına göre listelenmesi.
randomized variant rastgele atanmış varyant
Katılımcıların farklı sistem sürümlerine rastgele dağıtılması; hangi tasarımın etkili olduğunu ayırt etmeyi sağlar.
Orijinali oku
AWS Architecture Blog 22 Temmuz 202610 dk okuma orta

İki haftada olay-güdümlü AI asistanı: insan döngüde kalarak

Building a serverless AI assistant at Pelago: concept to care in two weeks

Pelago, madde kullanım bozukluğu desteği veren bir dijital klinik. Mühendislik ekibi, bakım ekibine önerilen değerlendirmeler üreten olay-güdümlü bir AI asistanını AWS serverless servisleriyle (Bedrock, Lambda) iki haftada kurmuş.

Kısıtlar öğretici: davranışsal sağlık konuşmaları haftalar ve aylar boyunca birikiyor; koçların her cevapta bu geçmişi hesaba katması gerekiyor. Yani sistem tek bir mesaja değil, uzun bir ilişkiye bakmak zorunda.

Kritik tasarım kararı ise şu: sistem insanı döngüde tutuyor. AI hastaya cevap yazmıyor; bakım ekibine bağlama duyarlı öneriler sunuyor, kararı insan veriyor. Sağlık alanının gerektirdiği denetim korunurken aylarca sürecek geliştirme işi ortadan kalkıyor.

  • Olay-güdümlü mimari: yeni bir mesaj geldiğinde tetiklenen Lambda, sürekli çalışan bir servise göre hem ucuz hem basit.
  • "AI öneriyor, insan karar veriyor" ayrımı, riskli alanlarda ürünü hem kullanılabilir hem savunulabilir kılıyor.

Sende karşılığı

İnsan döngüde (human-in-the-loop) deseni, senin de varsayılanın olmalı. Bir LLM özelliğini üretime alırken sor: çıktı doğrudan kullanıcıya mı gidiyor, yoksa bir insan onayından mı geçiyor? İkincisi hem riski düşürür hem de sana etiketlenmiş veri kazandırır — insanın neyi düzelttiği, modelin nerede yanıldığının en iyi kaydıdır. Ayrıca olay-güdümlü mimariye dikkat et: Spring Boot'ta her şeyi senkron HTTP ile yapmak yerine, ağır işleri bir olay kuyruğuna atmak hem yanıt süresini düşürür hem sistemi dayanıklı kılar.

Sözlük

human-in-the-loop insan döngüde
Otomatik sistemin çıktısının, etki doğurmadan önce bir insan tarafından onaylandığı tasarım.
event-driven architecture olay-güdümlü mimari
Bileşenlerin birbirini doğrudan çağırmak yerine olay yayınlayıp dinleyerek haberleştiği mimari.
Orijinali oku
Google Research 22 Temmuz 20265 dk okuma ileri

Hatalarından öğrenen kuantum bilgisayar: sürekli kalibrasyon problemi

Towards a quantum computer that learns from its errors

Google Quantum AI, pekiştirmeli öğrenmeyi (RL) kuantum hata düzeltmeyle birleştirip bir kuantum bilgisayarın sürüklenmeye (drift) sürekli uyum sağlayabildiğini ve uzun hesaplamalar boyunca kararlı kalabildiğini göstermiş.

Problemin analojisi güzel: bir orkestrada kemanlar birkaç ölçüde bir akordunu kaybetseydi, topluluk sürekli durup akort yapmak zorunda kalırdı. Kuantum bilgisayar işletmenin bugünkü gerçeği bu. Kuantum bilgisayarlar temelde analog makineler ve sürüklenmeye duyarlı; güvenilir çalışma için kontrol parametrelerinin (frekans, genlik, faz) sürekli yeniden kalibre edilmesi gerekiyor.

Zorluk şurada: konser salonunda akortsuz enstrüman hemen duyulur, kuantum dünyasında böyle bir lüks yok — qubit'leri ölçmek kuantum üst üste binme durumlarını çökertiyor. Yani "dinlemenin kendisi performansı bozuyor". Çözüm, otonom bir ajanın hata tespitlerinden öğrenerek binlerce parametreyi sürekli yönlendirmesi.

  • Sistemin durumunu doğrudan ölçemediğinde, dolaylı sinyallerden (hata tespitleri) öğrenmek tek yol.
  • Sürekli kalibrasyon, tek seferlik ayardan farklı bir mühendislik problemi: sistem değişiyor, ayar da değişmeli.

Sende karşılığı

Kuantum senin alanın değil ama desen tanıdık olmalı: sistemin gerçek durumunu doğrudan göremiyorsan, dolaylı sinyallerden çıkarım yap ve sürekli düzelt. Tradebot'ta bir stratejinin "gerçek kârlılığını" anlık göremezsin; getiri, düşüş (drawdown) ve kayma (slippage) gibi dolaylı sinyallerden çıkarırsın. Ve piyasa koşulları değiştikçe parametrelerin de değişmeli — bir kez ayarlanıp unutulan bir strateji, sürüklenen bir kuantum bilgisayar gibidir.

Sözlük

drift sürüklenme
Bir sistemin parametrelerinin zamanla yavaşça kayması; ilk ayarların geçersizleşmesi.
reinforcement learning (RL) pekiştirmeli öğrenme
Bir ajanın deneme-yanılma ve ödül sinyaliyle karar politikasını öğrenmesi.
quantum error correction kuantum hata düzeltme
Kuantum bilgisayarlarda gürültü kaynaklı hataları tespit edip düzelten teknikler bütünü.
Orijinali oku