# 安装Anaconda（包含Jupyter Notebook和所有常用库）# 下载地址：https://www.anaconda.com/download# 创建独立虚拟环境（避免包冲突）conda create -n ai_env python=3.10conda activate ai_env# 安装核心库pip install numpy pandas matplotlib scikit-learn jupyter

import numpy as npimport matplotlib.pyplot as plt# 生成100个随机点x = np.random.rand(100) * 10y = 2 * x + 1 + np.random.randn(100) * 2  # y = 2x + 1 + 噪声plt.scatter(x, y, alpha=0.6)plt.xlabel("X")plt.ylabel("Y")plt.title("我的第一个散点图")plt.show()

MSE = (1/n) * Σ(预测值 - 真实值)²

w_new = w_old - learning_rate * ∂Loss/∂w
b_new = b_old - learning_rate * ∂Loss/∂b

# 1. 导入库import numpy as npimport pandas as pdfrom sklearn.datasets import fetch_california_housingfrom sklearn.model_selection import train_test_splitfrom sklearn.preprocessing import StandardScalerfrom sklearn.linear_model import LinearRegressionfrom sklearn.metrics import mean_squared_error, r2_score# 2. 加载数据（使用加州房价数据集替代波士顿房价）housing = fetch_california_housing()X = pd.DataFrame(housing.data, columns=housing.feature_names)y = pd.Series(housing.target, name='MedHouseVal')print(f"特征数量: {X.shape[1]}")print(f"样本数量: {X.shape[0]}")print(X.head())

特征数量: 8
样本数量: 20640
   MedInc  HouseAge  AveRooms  AveBedrms  Population  AveOccup  Latitude  Longitude
0  8.3252      41.0  6.984127   1.023810       322.0  2.555556     37.88    -122.23
1  8.3014      21.0  6.238137   0.971880      2401.0  2.109842     37.86    -122.22
...

# 3. 划分训练集和测试集（80%训练，20%测试）X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42)print(f"训练集: {X_train.shape[0]} 条")print(f"测试集: {X_test.shape[0]} 条")# 4. 特征标准化（让所有特征处于同一量级，加快收敛速度）scaler = StandardScaler()X_train_scaled = scaler.fit_transform(X_train)X_test_scaled = scaler.transform(X_test)# 5. 创建线性回归模型并训练model = LinearRegression()model.fit(X_train_scaled, y_train)# 6. 预测并评估y_pred = model.predict(X_test_scaled)mse = mean_squared_error(y_test, y_pred)r2 = r2_score(y_test, y_pred)print(f"均方误差 (MSE): {mse:.4f}")print(f"决定系数 (R²): {r2:.4f}")

均方误差 (MSE): 0.5559
决定系数 (R²): 0.5758

# 7. 查看各特征的重要性（权重系数）feature_importance = pd.DataFrame({
    '特征': housing.feature_names,
    '权重': model.coef_}).sort_values('权重', ascending=False)print(feature_importance)

        特征        权重
0    MedInc    0.8296
4  Population  0.2157
1   HouseAge   0.1084
3  AveBedrms   0.0456
2   AveRooms  -0.0402
7   Longitude -0.6192
6    Latitude -0.6211
5   AveOccup  -0.0391

class LinearRegressionFromScratch:
    def __init__(self, learning_rate=0.01, n_iterations=1000):
        self.lr = learning_rate
        self.n_iter = n_iterations
        self.weights = None
        self.bias = None
        self.loss_history = []
    
    def fit(self, X, y):
        n_samples, n_features = X.shape        # 初始化参数为0
        self.weights = np.zeros(n_features)
        self.bias = 0
        
        # 梯度下降迭代
        for i in range(self.n_iter):
            # 前向传播：计算预测值
            y_pred = np.dot(X, self.weights) + self.bias            
            # 计算损失（MSE）
            loss = np.mean((y_pred - y) ** 2)
            self.loss_history.append(loss)
            
            # 计算梯度
            dw = (2 / n_samples) * np.dot(X.T, (y_pred - y))
            db = (2 / n_samples) * np.sum(y_pred - y)
            
            # 更新参数
            self.weights -= self.lr * dw
            self.bias -= self.lr * db            
            # 每100轮打印一次
            if i % 200 == 0:
                print(f"Epoch {i}, Loss: {loss:.4f}")
    
    def predict(self, X):
        return np.dot(X, self.weights) + self.bias# 使用我们的手写模型custom_model = LinearRegressionFromScratch(learning_rate=0.01, n_iterations=1000)custom_model.fit(X_train_scaled, y_train.values)y_pred_custom = custom_model.predict(X_test_scaled)mse_custom = mean_squared_error(y_test, y_pred_custom)print(f"手写模型 MSE: {mse_custom:.4f}")

# 安装TensorFlow（如未安装）# pip install tensorflowimport tensorflow as tffrom tensorflow.keras.models import Sequentialfrom tensorflow.keras.layers import Dense, Dropoutfrom tensorflow.keras.optimizers import Adam# 构建模型model = Sequential([
    Dense(64, activation='relu', input_shape=(X_train.shape[1],)),
    Dropout(0.3),  # 随机丢弃30%的神经元，防止过拟合
    Dense(32, activation='relu'),
    Dropout(0.3),
    Dense(1)  # 输出层，无激活函数（回归）])# 编译模型model.compile(
    optimizer=Adam(learning_rate=0.001),
    loss='mse',
    metrics=['mae']  # 平均绝对误差)# 查看模型结构model.summary()# 训练模型history = model.fit(
    X_train_scaled, y_train,
    validation_data=(X_test_scaled, y_test),
    epochs=100,
    batch_size=32,
    verbose=1)# 评估test_loss, test_mae = model.evaluate(X_test_scaled, y_test, verbose=0)print(f"测试集 MAE: {test_mae:.4f}")

Epoch 1/100
516/516 [==============================] - 2s 3ms/step - loss: 1.2345 - mae: 0.8123 - val_loss: 0.5432 - val_mae: 0.5678
Epoch 50/100
516/516 [==============================] - 1s 2ms/step - loss: 0.4567 - mae: 0.5123 - val_loss: 0.4234 - val_mae: 0.4876
Epoch 100/100
516/516 [==============================] - 1s 2ms/step - loss: 0.3890 - mae: 0.4789 - val_loss: 0.4012 - val_mae: 0.4654

import matplotlib.pyplot as plt

plt.figure(figsize=(12, 4))plt.subplot(1, 2, 1)plt.plot(history.history['loss'], label='训练损失')plt.plot(history.history['val_loss'], label='验证损失')plt.xlabel('Epoch')plt.ylabel('Loss (MSE)')plt.legend()plt.title('损失曲线')plt.subplot(1, 2, 2)plt.plot(history.history['mae'], label='训练MAE')plt.plot(history.history['val_mae'], label='验证MAE')plt.xlabel('Epoch')plt.ylabel('MAE')plt.legend()plt.title('MAE曲线')plt.tight_layout()plt.show()