Bu sayfa, International Machine Learning Competition için eğitim materyalleri ve hazırlık ipuçları sunmaktadır.

🎓 Katılımcılar İçin Hazırlık İpuçları

Aşağıda, International Machine Learning Competition için hazırlanmana yardımcı olacak bir dizi ipucu bulacaksın. Bu öneriler, yarışmadaki başarını desteklemek ve becerilerini geliştirmek için özel olarak hazırlanmıştır:

1. Yarışma Formatını Öğren
   Her turun yapısını ve gereksinimlerini anlayarak işe başla: Qualification Round, makine öğreniminin tüm alanlarındaki çeşitli konulara odaklanır; Pre-Final Round, güncel bir araştırma makalesine dayalı gözetimli bir sınav içerir ve Final Round, sınav koşulları altında geniş kapsamlı ve süreli problem çözme yeteneğini test eder. Geçmiş IMLC problemlerini incelemek, her turun çeşitliliğini ve zorluk seviyesini kavramana yardımcı olacaktır.


2. Temel Konulara Odaklan
   IMLC içindeki problemler; matematiksel temeller, optimizasyon ve genelleme, derin öğrenme, frontier models, uygulamalar ve güvenilir AI dahil olmak üzere bir dizi makine öğrenimi alanından gelmektedir. Problemleri çözmek için sağlam bir temel oluşturmak adına bu konulardaki temel kavramlara, algoritmalara ve ana araçlara hakim olduğundan emin ol.


3. Problem Çözme Becerilerini Geliştir
   Ders kitaplarından, geçmiş yarışmalardan ve aşağıda önerilen kaynaklardan makine öğrenimi problemleri çözerek sezgilerini, muhakeme yeteneğini ve analitik düşünme becerilerini geliştirmeye çalış. Algoritmaları elle türetme, kayıp eğrilerini (loss curves) okuma, varsayımları belirleme ve hata modlarını tanıma konularında pratik yap. Bu beceriler, en zorlu IMLC problemlerine bile etkili bir şekilde yaklaşmana yardımcı olacaktır.


4. Hatalardan Ders Çıkar
   Hatalarını düşünmek ve onlardan öğrenmek, herhangi bir yarışmada gelişimin temel bir parçasıdır. İlk olarak, problemleri mümkün olduğunca çözmeye çalış. Ardından, çözümleri verilen bir çözümle karşılaştır, hangi adımlarda hata yaptığını değerlendir ve hatalarını buna göre düzelt.


5. Mevcut Kaynakları Kullan
   Becerilerini keskinleştirmek için geçmiş IMLC problem setlerinden, önerilen ders kitaplarından ve çevrimiçi platformlardan yararlan. Ayrıca, yardım ve rehberlik sağlamak için IMLC ekibi hazır bulunmaktadır; destek için bizimle iletişime geçmekten çekinme.


6. Bir Araştırma Makalesi Okumaya Hazırlan (Pre-Final Round)
   Pre-Final Round, gözetimli bir sınavdan önce sana güncel bir makine öğrenimi araştırma makalesi sunar. Makaleleri okuma ve özetleme pratiği yap; temel yöntemi çıkarmaya, deneylerin yapısını anlamaya ve bulguları daha geniş makine öğrenimi kavramlarıyla ilişkilendirmeye odaklan. Bir yöntemi sunan ve değerlendiren makaleleri okumak bu beceriyi geliştirmene yardımcı olacaktır.


7. Süreli Problem Çözme Simülasyonu Yap (Final Exam)
   Zaman yönetimi, Pre-Final Round ve hatta Final Exam için çok önemlidir. Tempo duygusunu geliştirmek için problemleri belirlenen süre sınırları içinde çözme pratiği yap.


8. İş Birliği Yap ve Başkalarından Öğren
   Stratejileri tartışmak ve içgörüleri paylaşmak için çalışma gruplarına, makine öğrenimi kulüplerine katıl veya IMLC Ambassador'lar ile iletişime geç. İş birliği yapmak, yeni problem çözme yaklaşımlarını keşfetmene ve hazırlık sürecin boyunca motive kalmana yardımcı olabilir.


9. Öğrenme Deneyiminin Tadını Çıkar
   IMLC katılım sırasında öğrenmeye ve bilgini genişletmeye öncelik verdiğini unutma. Her problemle ilgilen ve her zorluğu, makine öğrenimi modellerinin nasıl çalıştığını, öğrendiğini ve hata yaptığını anlamak için bir fırsat olarak gör.

☑ Müfredat

Aşağıdaki liste, IMLC kapsamında ele alınan temel makine öğrenimi alanlarını ve her alan için temel olan ana kavram ve araçları özetlemektedir. Bu müfredat kapsamlı değildir, ancak karşılaşacağın konuların büyük bir kısmını kapsar. Çoğu problem çok özel bir bilgi gerektirmez; bunun yerine genel makine öğrenimi anlayışını test eder. Sonraki turların önceki turların kavramları üzerine inşa edildiğini unutma, bu nedenle aşağıdaki fikirler yarışma ilerledikçe devam eder.

• Temeller:
  Temeller, makine öğrenimindeki diğer her şeyin üzerine inşa edildiği klasik çekirdeği oluşturur. Bu, support vector machines, logistic regression, decision trees ve kernels gibi modellerin nasıl çalıştığını ve bunların elle nasıl türetileceğini anlamayı içerir. Daha ileri konuları anlamak için bu kavramlara hakim olmak esastır.
  • Doğrusal Modeller: Linear regression, logistic regression, decision boundaries
  • Support Vector Machines: Maximum-margin classifiers, the kernel trick
  • Decision Trees: Splitting criteria, entropy, information gain
  • Kayıp Fonksiyonu: \(L(\hat{y}, y)\) (Bir tahminin ne kadar yanlış olduğunu ölçer)
  • Gradyan: \(\nabla_\theta L(\theta)\) (Kaybın en dik artış yönü)


• Optimizasyon & Genelleme:
  Bu alan makinelerin gerçekte nasıl öğrendiğini kapsar: gradient descent, loss landscapes, regularization ve sadece eğitim verilerini ezberleyen modellerin yeni verilere genelleme yaparken neden başarısız olduğu. Bu kavramlar, bir modelin neden iyi veya kötü eğitildiğine dair muhakeme yapmanı sağlar.
  • Gradient Descent: \(\theta \leftarrow \theta - \eta \nabla_\theta L(\theta)\) (Kaybı azaltmak için parametrelerin güncellenmesi)
  • Bias-Variance Tradeoff: Underfitting ve overfitting arasındaki dengeyi kurmak
  • Regularization: \(L(\theta) + \lambda \lVert \theta \rVert^2\) (Genellemeyi iyileştirmek için karmaşıklığı cezalandırma)
  • Cross-Validation: Bir modelin görülmemiş veriler üzerindeki performansını tahmin etme
  • Overfitting: Bir modelin eğitim verilerine uyması ancak yeni verilerde başarısız olması


• Deep Learning:
  Deep learning, öğrenilmiş temsiller katmanlarından oluşturulan mimarilerle ilgilenir. Backpropagation, convolutional networks, recurrent networks ve transformer yapılarını anlamak, modern modellerin verileri nasıl işlediğini ve onlardan nasıl öğrendiğini açıklamaya yardımcı olur.
  • Backpropagation: \(\frac{\partial L}{\partial \theta_i} = \frac{\partial L}{\partial y}\frac{\partial y}{\partial \theta_i}\) (Bir ağ boyunca uygulanan zincir kuralı)
  • Aktivasyon Fonksiyonları: ReLU, sigmoid, softmax ve doğrusal olmamanın (non-linearity) neden önemli olduğu
  • Convolutional Networks: Görüntüler gibi uzamsal veriler için öğrenilmiş filtreler
  • Recurrent Networks: Gizli bir durumu (hidden state) ileriye taşıyarak dizileri işleme
  • Attention & Transformers: Girdinin hangi kısımlarının her bir çıktı için önemli olduğunu ağırlıklandırma


• Frontier Models:
  Frontier models alanın güncel araştırma sınırlarını kapsar: large language models, fine-tuning, retrieval-augmented generation ve büyük modelleri kullanılabilir kılan verimlilik teknikleri. Ölçek, adaptasyon ve verimliliği anlamak, günümüzün en büyük modellerinin neden bu şekilde davrandığını açıklamaya yardımcı olur.
  • Large Language Models: Büyük veri kümeleri üzerinde ön eğitim (pretraining), sonraki token tahmini
  • Fine-Tuning: Önceden eğitilmiş bir modeli belirli bir göreve veya alana uyarlama
  • Parameter-Efficient Fine-Tuning: LoRA ve adapter'lar gibi küçük bir ek parametre setini eğiterek bir modeli uyarlama
  • Retrieval-Augmented Generation: Bir modeli harici bir bilgi kaynağıyla birleştirme
  • Quantization: Bellek kullanımını azaltmak için ağırlıkları daha az bit ile saklama
  • Distillation: Daha büyük bir modeli taklit etmesi için daha küçük bir model eğitme


• Uygulamalar:
  Uygulamalar, makine öğrenimi yöntemlerinin pratikte nereye ulaştığıyla ilgilidir: computer vision, natural language processing, sağlık hizmetleri, recommender systems ve bilimsel keşif. Aynı temel yöntemlerin yayına alınmış sistemlere nasıl dönüştüğünü anlamak, teoriyi gerçek dünya etkisiyle ilişkilendirmeye yardımcı olur.
  • Computer Vision: Görüntü sınıflandırma, nesne tespiti, segmentasyon
  • Natural Language Processing: Metin sınıflandırma, çeviri, soru cevaplama
  • Recommender Systems: Bir kullanıcının bir sonraki adımda ne isteyebileceğini tahmin etme
  • Sağlık Hizmetleri Uygulamaları: Teşhis desteği, risk tahmini, görüntüleme
  • Değerlendirme Metrikleri: Precision, recall, accuracy ve her birinin ne zaman yanıltıcı olabileceği
  • Sınıf Dengesizliği (Class Imbalance): Doğruluğun (accuracy) tek başına bir modelin kalitesini ölçmek için neden yetersiz olabileceği


• Trustworthy AI:
  Trustworthy AI, modellerin nasıl hata yaptığı, nasıl saldırıya uğrayabileceği ve sorumlu dağıtımın neler gerektirdiği ile ilgilenir. Dayanıklılık (robustness), adalet (fairness) ve uyum (alignment) konularını anlamak, kağıt üzerinde iyi performans gösteren bir modelin pratikte neden hala zarar verebileceğini açıklamaya yardımcı olur.
  • Adversarial Examples: Bir modeli yanıltan küçük, özel olarak tasarlanmış girdi değişiklikleri
  • Robustness: Bir modelin dağılım kayması (distribution shift) veya saldırı altında ne kadar iyi durabildiği
  • Fairness: Bir modelin hatalarının gruplar arasında eşit olmayan şekilde dağılıp dağılmadığı
  • Alignment: Bir modelin davranışının tasarımcılarının niyetleriyle eşleşip eşleşmediği
  • Interpretability: Bir modelin neden belirli bir çıktı ürettiğini anlama

Ayrıca, Pre-Final Round, gözetimli bir sınavdan önce çalışman için sana güncel bir araştırma makalesi sunar. Final Exam, Pre-Final Round ve Qualification Round'daki önceki problemlerle (örneğin araştırma makalesi) ilgili soruları da içerebilir. IMLC'nin diğer yarışma formatlarından nasıl ayrıldığını ve neler bekleyebileceğini daha iyi anlamak için bu sayfaya göz atmayı düşünebilirsin:

• IMLC Hakkında ↗ (IMLC'un diğer yarışmalardan farkı ve neler bekleneceği.)

📖 Kitap Önerileri

Çoğu giriş seviyesi makine öğrenimi, istatistik ve derin öğrenme ders kitabı kullanışlıdır ve problemleri çözmek için gereken bilgileri içerir. Referans olması açısından lütfen aşağıdaki önerilen kitaplar listesine göz at:

• Makine Öğrenimi Temelleri:
• Stuart Russell ve Peter Norvig. Artificial Intelligence: A Modern Approach. Pearson.
• Christopher M. Bishop. Pattern Recognition and Machine Learning. Springer.
• Kevin P. Murphy. Probabilistic Machine Learning: An Introduction. MIT Press.
• Aurélien Géron. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow. O'Reilly Media.
• Shai Shalev-Shwartz ve Shai Ben-David. Understanding Machine Learning: From Theory to Algorithms. Cambridge University Press.


• İstatistiksel Öğrenme:
• Gareth James, Daniela Witten, Trevor Hastie ve Robert Tibshirani. An Introduction to Statistical Learning. Springer.
• Trevor Hastie, Robert Tibshirani ve Jerome Friedman. The Elements of Statistical Learning. Springer.


• Deep Learning:
• Ian Goodfellow, Yoshua Bengio ve Aaron Courville. Deep Learning. MIT Press.
• Christopher M. Bishop ve Hugh Bishop. Deep Learning: Foundations and Concepts. Springer.
• Simon J.D. Prince. Understanding Deep Learning. MIT Press.
• François Chollet. Deep Learning with Python. Manning Publications.
• Aston Zhang, Zachary C. Lipton, Mu Li ve Alexander J. Smola. Dive into Deep Learning. Cambridge University Press.


• Makine Öğrenimi için Matematik:
• Marc Peter Deisenroth, A. Aldo Faisal ve Cheng Soon Ong. Mathematics for Machine Learning. Cambridge University Press.
• Gilbert Strang. Introduction to Linear Algebra. Wellesley-Cambridge Press.
• Dimitri P. Bertsekas ve John N. Tsitsiklis. Introduction to Probability. Athena Scientific.
• Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference. Springer.
• Stephen Boyd ve Lieven Vandenberghe. Convex Optimization. Cambridge University Press.


• Natural Language Processing, Vision ve Reinforcement Learning:
• Daniel Jurafsky ve James H. Martin. Speech and Language Processing. Pearson.
• Richard Szeliski. Computer Vision: Algorithms and Applications. Springer.
• Richard S. Sutton ve Andrew G. Barto. Reinforcement Learning: An Introduction. MIT Press.