یادگیری ماشین کلاسیک

# دارای نشت: مقیاس‌ساز ردیف‌های آزمون را می‌بیند
X_scaled = scaler.fit_transform(X)
# صحیح: برازش روی آموزش، استفاده‌ی مجدد روی آزمون
X_train_scaled = scaler.fit_transform(X_train)                        # یادگیری میانگین و انحراف معیار
X_test_scaled = scaler.transform(X_test)                              # فقط آماره‌های آموزش
# بهترین: یک آبجکت پایپ‌لاین یکتا برای آموزش و سرو
pipe = Pipeline([
    ("scaler", StandardScaler()),
    ("model", LogisticRegression()),
])
pipe.fit(X_train, y_train)                                            # ابتدا fit_transform، سپس fit
predictions = pipe.predict(X_test)                                    # ابتدا transform، سپس predict
scores = cross_val_score(full_pipe, df, y, cv=5, scoring="accuracy")  # برازش مجدد به ازای هر فولد

param_dist = {
    "learning_rate": loguniform(1e-4, 0.5),      # مقیاس لگاریتمی برای نرخ‌ها
    "max_depth": randint(2, 10),                 # بازه اعداد صحیح
    "n_estimators": randint(50, 500),
}
search = RandomizedSearchCV(
    GradientBoostingRegressor(), param_dist,
    n_iter=100, cv=5,                            # 100 نمونه، هر کدام 5 فولد
    scoring="neg_mean_squared_error",            # منفی‌شده، مقدار بالاتر بهتر است
    random_state=42, n_jobs=-1,                  # تمام هسته‌های CPU
)
search.fit(X_train, y_train)
print(search.best_params_, -search.best_score_)  # منفی‌سازی معکوس به MSE