Yazar, DSPy ve GEPA araçlarına karşı güçlü bir nefret beslediğini itiraf ediyor. Bu araçların arkasındaki kişilerin zeki ve düşünceli insanlar olmasına rağmen, yazarın temel itirazı, büyük dil modeli (LLM) iş akışlarını modüler programlar olarak ele almanın (çoğu zaman) bir hata olduğu yönünde. Bu yaklaşımın geriye dönük, katı ve en ilginç görevler için uygun olmadığını savunuyor. Yazar, DSPy'yi denediğini ve hatta kendi açık kaynaklı LLM SDK'sı lm-deluge'a GEPA benzeri bir özellik eklemeye çalıştığını ancak sonunda öfkeyle vazgeçtiğini belirtiyor.
DSPy, 2023 yılında Omar Khattab tarafından geliştirilen bir araç takımıdır. Amacı, yapay zeka programlarını daha güvenilir hale getirmektir. Bunu, programları modüllere ayırarak ve bu modüllerin işlevini belirli implementasyonlarından ayırarak yapar. Örneğin, uzun bir hikayeyi özetlemek istediğinizde, geleneksel olarak modele doğrudan bir prompt gönderirsiniz. Ancak model değiştiğinde (örneğin Claude'dan Gemini'ye geçildiğinde), tüm prompt optimizasyon çalışmalarınız boşa gidebilir çünkü farklı modeller farklı şekillerde başarısız olur ve farklı optimizasyonlar gerektirir.
DSPy, bu sorunu çözmek için yapay zeka programınızın ne yapmasını istediğinizi tanımlamanızı önerir. Ardından DSPy, farklı few-shot örnekleri deneyerek, prompt optimizasyonu yaparak ve hatta küçük bir veri seti üzerinde fine-tuning uygulayarak bu optimizasyonu sizin için üstlenir. Yazar, bu yaklaşımın, LLM'lerin esnek doğasına aykırı olduğunu ve karmaşık, yaratıcı LLM görevleri için uygun olmadığını düşünüyor. Modülerleştirmenin ve implementasyondan ayırmanın, LLM'lerin dinamik ve bağlama duyarlı yapısıyla çeliştiğini vurguluyor.
Büyük dil modelleri (LLM) ile uygulama geliştirme yaklaşımlarındaki temel felsefi farklılıkları ve mevcut araçların sınırlamalarını ortaya koyuyor.