generated from LufsX/Challenge-kNN
124 lines
3.9 KiB
Python
124 lines
3.9 KiB
Python
# function.py
|
|
import numpy as np
|
|
from sklearn.preprocessing import StandardScaler
|
|
from sklearn.decomposition import PCA # 可选：用于降维
|
|
from numpy.linalg import inv, LinAlgError
|
|
from scipy.spatial.distance import mahalanobis
|
|
"""
|
|
挑战说明:
|
|
- 自行编写实现 KNN 分类算法。
|
|
- 输入: 待分类的样本 inX, 训练数据集 dataSet, 训练集对应的标签 labels。
|
|
- 输出: 预测的分类标签。
|
|
|
|
注意事项:
|
|
- 可以自行导入其他库，需要在 requirements.txt 添加依赖，若未在 requirements.txt 中添加使用到的依赖，则无法自动评测，成绩为零。
|
|
- 在 function.py 中实现 KNN 分类算法。
|
|
- 自动评测脚本仅会加载 classify0 函数，请勿修改函数名。
|
|
- 训练集在本目录下的 datingTrainSet2.tsv 中。
|
|
- 评测数据集在本目录下的 datingTestSet2.tsv 中。
|
|
|
|
挑战环境:
|
|
- Ubuntu 22.04.04 LTS
|
|
- Python 3.10.12
|
|
"""
|
|
|
|
|
|
"""
|
|
请在这里填写学号和姓名，不填写即成绩无效。
|
|
"""
|
|
id = "202210423217"
|
|
name = "吴俊煯"
|
|
|
|
|
|
"""
|
|
参数说明:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
返回值:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
|
|
def preprocess_data(data, use_pca=False, pca_components=None):
|
|
"""
|
|
对数据进行预处理，包括归一化和可选的降维。
|
|
|
|
Args:
|
|
- data (numpy array): 输入数据集（形状应为 (m, n)）。
|
|
- use_pca (bool): 是否使用PCA降维。
|
|
- pca_components (int): 如果使用PCA，则指定要保留的主成分数量。
|
|
|
|
Returns:
|
|
- tuple: 预处理后的数据、scaler对象和（可选的）pca对象。
|
|
"""
|
|
scaler = StandardScaler()
|
|
data_scaled = scaler.fit_transform(data)
|
|
mean_vec = np.mean(data_scaled, axis=0)
|
|
cov_mat = np.cov(data_scaled, rowvar=False)
|
|
inv_cov_mat = inv(cov_mat)
|
|
return data_scaled, scaler, mean_vec, inv_cov_mat
|
|
|
|
|
|
# 这里写自己的代码实现
|
|
def classify_mahalanobis(inX, dataSet, labels, k=4):
|
|
"""
|
|
使用马氏距离的KNN分类算法。
|
|
|
|
Args:
|
|
- inX (numpy array): 输入待分类的样本（形状应为 (1, n) 或 (n,)）。
|
|
- dataSet (numpy array): 训练数据集（形状应为 (m, n)）。
|
|
- labels (numpy array): 训练集对应的标签。
|
|
- k (int): 选择最近邻的个数。
|
|
|
|
Returns:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
# 预处理数据
|
|
dataSet_scaled, scaler, mean_vec, inv_cov_mat = preprocess_data(dataSet)
|
|
inX_scaled = scaler.transform(inX.reshape(1, -1))
|
|
|
|
# 计算马氏距离
|
|
distances = [mahalanobis(inX_scaled[0], dataSet_scaled[i], inv_cov_mat) for i in range(dataSet_scaled.shape[0])]
|
|
|
|
# 按距离排序，并获取前k个训练样本的索引
|
|
k_indices = np.argsort(distances)[:k]
|
|
|
|
# 获取前k个训练样本的标签
|
|
k_nearest_labels = labels[k_indices]
|
|
|
|
# 找出最常见的标签
|
|
most_common = np.bincount(k_nearest_labels).argmax()
|
|
|
|
return most_common
|
|
|
|
def load_data(file_path):
|
|
"""
|
|
加载 TSV 格式数据文件。
|
|
"""
|
|
features = []
|
|
labels = []
|
|
|
|
with open(file_path, "r") as file:
|
|
for line in file:
|
|
values = line.strip().split("\t")
|
|
features.append([float(x) for x in values[:-1]])
|
|
labels.append(int(values[-1]))
|
|
features = np.array(features)
|
|
labels = np.array(labels)
|
|
|
|
# 归一化特征值
|
|
scaler = StandardScaler()
|
|
features_scaled = scaler.fit_transform(features)
|
|
|
|
return features_scaled, labels, scaler # 返回归一化后的特征和缩放器对象
|
|
|
|
|
|
if __name__ == "__main__":
|
|
# 以下代码可用于测试，可自行随意修改
|
|
|
|
train_file = "datingTrainSet2.tsv"
|
|
|
|
train_data, train_labels = load_data(train_file)
|
|
|
|
print(classify0([65915, 3.868359, 0.128078], train_data, train_labels))
|