Yapay Zeka Sınavı Tahmin Ettiğinde: %90 Doğruluk Bozuk Sistemler Hakkında Gerçekte Ne Ortaya Çıkarıyor

Dijital Dönüşüm ve İş Süreçleri Yeniden Mühendisliği üzerine kuruluşlarla çalışırken, genellikle erken bir soru sorarım: Planlamanızın ne kadarı gerçek ileri görüşlü muhakeme yerine tarihsel kalıp tekrarına dayanıyor?

İngiltere'de 18 yaşında bir grup öğrenci geçtiğimiz günlerde bu soruyu, gördüğüm herhangi bir yönetim kurulu sunumundan daha güçlü bir şekilde yanıtladı.

20 yıllık GCSE ve A-Level sınav kağıtlarını, puanlama şemalarını, sınav görevlisi raporlarını ve müfredat belgelerini kullanarak, sınav sorularını %90'ın üzerinde doğrulukla tahmin eden bir yapay zeka sistemi kurdular. Geçen yıl sistem %85'e ulaştı. Bu yıl %90'ı aştı. İyileşme tesadüfi değildi. Tam olarak tasarlandığı gibi çalışan bir geri bildirim döngüsüydü.

Çoğu insan bunu yapay zeka hakkında bir hikaye olarak okuyor. Ben bunu sistemler hakkında bir hikaye olarak okuyorum.

Mimari Yeni Değil

Ne inşa ettikleri konusunda net olalım. Sistem üç katmana dayanıyor: yirmi yıllık tarihsel kağıtları ve sınav görevlisi yorumlarını işleyen bir veri alma katmanı, konu döngülerini ve kapsam boşluklarını modellemek için büyük dil modelleri kullanan bir örüntü tanıma katmanı ve tarihsel tekrarla ağırlıklandırılmış sıralı tahminler üreten olasılıksal bir çıktı katmanı.

Bu, zamansal örüntü tahminine uygulanan Retrieval-Augmented Generation'dır. Aynı mimari mantık finansal tahmin, perakende talep planlaması, dolandırıcılık tespiti, siber güvenlik analitiği ve tedarik zinciri optimizasyonunda görülür.

Alan değişir. Matematik değişmez.

%90 Doğruluk Gerçekte Ne Açığa Çıkarıyor

Tarihsel verilerle eğitilmiş bir sistem sınav sorularını %90'ın üzerinde doğrulukla tahmin edebiliyorsa, bu öncelikle sofistike yapay zekanın kanıtı değildir. Yapısal olarak deterministik bir değerlendirme sisteminin kanıtıdır.

İyi tasarlanmış bir sınav, tarihsel örüntü tahminine karşı yüksek dirençli olmalıdır. 20 yıllık veri gelecek yılın kağıdında ne çıkacağını %90 güvenle söyleyebiliyorsa, sistem gerçek anlamayı değil, ezberi ve örüntü eşleştirmeyi ölçüyor demektir.

Öğrenciler sınav sistemini bozmadı. Zaten bozuk olanı görünür kıldılar.

Aynı kusur iş dünyasında da var. Geçen yılın varsayımlarını yeniden üreten yıllık planlama döngüleri. Önceki rekabet ortamında değerli olan davranışları ödüllendiren performans çerçeveleri. Yapısal değişimi tespit edecek mekanizması olmayan stratejik istihbarat süreçleri. Bunlar farklı sorunlar değil. Farklı alanlardaki aynı sorun.

Kuruluşların Şimdi Yüzleşmesi Gerekenler

Kalıcı rekabet pozisyonları kuracak kuruluşlar, çalışanlarının ne kullanabileceğini kısıtlayanlar değildir. Yapay zekanın gerçekten kopyalayamayacağı şeyi ödüllendirmek için süreçlerini yeniden tasarlayanlardır: tanıdık olmayan alanlar arasında yeni sentez, belirsiz durumlarda etik yargı, alanlar arası yaratıcılık ve daha hızlı cevaplar üretmek yerine daha iyi sorular sorma disiplini.

Stratejiniz, planlamanız veya karar verme süreciniz tarihsel verilerden %90 doğrulukla tahmin edilebiliyorsa, yapay zeka en büyük zorluğunuz değildir.

Originally published on LinkedIn by Keshavan Thiagaraja. Read the original on LinkedIn.