LLMlerin içine bakma aracı çıktı

Yapay Zeka Gelişiminde Devrim: Goodfire, Modelleri Eğitirken Ayarlamayı Mümkün Kılan 'Silico' Aracını Yayınladı San Francisco merkezli startup Goodfire, yapay zeka (AI) modellerinin geliştirilme sürecini kökten değiştirebilecek yeni bir araç olan Silico’yu tanıttı. Bu araç, araştırmacıların ve mühendislerin, bir yapay zeka modelinin eğitim sürecindeyken davranışını belirleyen parametreleri incelemesine ve ayarlamasına olanak tanıyor. Bu gelişme, model yapımında daha önce düşünülemeyecek kadar ince ayrıntılı bir kontrol sağlamayı hedefliyor.

Goodfire, Silico’nun, veri seti oluşturmaktan model eğitimi tamamlanana kadar tüm geliştirme sürecindeki hata ayıklama (debugging) aşamalarını destekleyen tek hazır araç olduğunu iddia ediyor. Şirketin temel misyonu, yapay zeka modelini inşa etme sürecini "simya"dan ziyade "bilim" haline getirmektir.

ChatGPT ve Gemini gibi Büyük Dil Modelleri (LLM'ler) muazzam yeteneklere sahip olsa da, bu modellerin tam olarak nasıl ve neden çalıştığı hala büyük bir gizemdir. Bu anlaşılmama durumu, modellerdeki kusurları düzeltmek veya istenmeyen davranışları engellemekte zorluk yaratmaktadır.

Goodfire CEO'su Eric Ho, MIT Technology Review'a verdiği özel röportajda bu durumu şu şekilde değerlendirdi: “Modellerin ne kadar iyi anlaşıldığı ile ne kadar yaygın olarak kullanıldığı arasında giderek artan bir boşluk görüyoruz. Bugündeki her büyük sınır laboratuvarındaki baskın his, sadece daha fazla ölçek, daha fazla hesaplama gücü ve daha fazla veri ile Yapay Genel Zeka (AGI) elde etmeniz gerektiğidir. Biz ise buna karşı çıkıyoruz; daha iyi bir yol var.”

Goodfire, bu alanda Anthropic, OpenAI ve Google DeepMind gibi endüstri liderleri ile birlikte, bir yapay zeka modelinin nöronlarını ve aralarındaki yolları haritalayarak modelin bir görev sırasında ne yaptığını anlamayı amaçlayan ‘mekanistik yorumlanabilirlik’ (mechanistic interpretability) tekniğini öncülük etmektedir. Bu teknik, MIT’nin 2026 Yılın 10 Çığır Açan Teknolojisi arasında yer almıştır.

Goodfire, bu yaklaşımı yalnızca önceden eğitilmiş modelleri denetlemek için değil, aynı zamanda modelleri baştan tasarlamak için de kullanmayı hedefliyor. Ho, “Deneme yanılma sürecini ortadan kaldırmak ve eğitimleri hassas mühendisliğe dönüştürmek istiyoruz. Bu da eğitim süreci sırasında düğmeleri ve kadranları açığa çıkarmak anlamına gelir,” ifadelerini kullandı.

Şirket, daha önce kendi tekniklerini ve araçlarını kullanarak LLM'lerin davranışlarını ayarlamış ve hatta ürettikleri halüsinasyon (yanlış bilgi) miktarını azaltmıştır. Silico, bu şirket içi tekniklerin çoğunu bir araya getirerek bir ürün olarak sunmaktadır.

Silico aracının çalışma mekanizması, karmaşık görevlerin büyük bir kısmını otomatikleştirmek için ajanları (agents) kullanmaktadır. Bu ajanlar, geliştirme sürecinin her aşamasında derinlemesine inceleme ve ayarlama yapabilme yeteneğine sahiptir.