generated from LufsX/Experiment-kNN
This commit is contained in:
+63
-59
@@ -1,26 +1,7 @@
|
||||
import numpy as np
|
||||
import os
|
||||
from concurrent.futures import ThreadPoolExecutor
|
||||
|
||||
"""
|
||||
实验说明:
|
||||
- 自行编写实现数据加载与 kNN 的手写数字分类算法。
|
||||
- 函数输入: 待分类的样本 input_vector, 训练数据集 dataSet, 训练集对应的标签 labels。
|
||||
- 函数返回: 预测的分类标签。
|
||||
|
||||
注意事项:
|
||||
- 在 function.py 中实现 kNN 分类算法。
|
||||
- 可以自行导入其他库,需要在 requirements.txt 添加依赖,若未在 requirements.txt 中添加使用到的依赖,则无法自动评测,成绩为零。
|
||||
- 自动评测脚本仅会加载 classify 和 load_data 函数,请勿修改函数名。
|
||||
- 训练集和测试集需手动下载解压,并放入当前目录下。
|
||||
|
||||
测评环境:
|
||||
- CPU: Intel Xeon(R) CPU E3-1231 v3 @ 3.40GHz
|
||||
- OS: Ubuntu 22.04.4 LTS
|
||||
- Python: 3.10.12
|
||||
- numpy: 2.1.1
|
||||
"""
|
||||
|
||||
from sklearn.preprocessing import StandardScaler
|
||||
from sklearn.neighbors import KDTree
|
||||
|
||||
"""
|
||||
请在这里填写学号和姓名,不填写即成绩无效。
|
||||
@@ -28,89 +9,112 @@ from concurrent.futures import ThreadPoolExecutor
|
||||
id = "202210423213"
|
||||
name = "熊浩燃"
|
||||
|
||||
|
||||
"""
|
||||
参数说明:
|
||||
- input_vector (numpy array): 输入待分类的样本。
|
||||
- dataSet (numpy array): 训练数据集。
|
||||
- labels (list or numpy array): 训练集对应的标签。
|
||||
- k (int): kNN 算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。
|
||||
- k (int): kNN 算法参数,请自行设置默认值,评测时仅会使用其默认值,不修改默认值将无法通过评测,成绩为零。
|
||||
返回值:
|
||||
- int: 预测的分类标签。
|
||||
"""
|
||||
|
||||
|
||||
# 这里写自己的代码实现
|
||||
def classify(input_vector, dataSet, labels, k=1):
|
||||
def classify(input_vector, dataSet, labels, k=1, distance_metric='euclidean', weighted=True):
|
||||
"""
|
||||
KNN 分类算法,使用多线程加速距离计算。
|
||||
|
||||
KNN 分类算法.
|
||||
|
||||
Args:
|
||||
- input_vector (numpy array): 输入待分类的样本。
|
||||
- dataSet (numpy array): 训练数据集。
|
||||
- labels (list or numpy array): 训练集对应的标签。
|
||||
- k (int): kNN 算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。
|
||||
|
||||
- k (int): kNN 算法参数,默认 k=1。
|
||||
- distance_metric (str): 距离度量方法,默认欧氏距离。
|
||||
- weighted (bool): 是否使用加权投票机制,默认加权。
|
||||
|
||||
Returns:
|
||||
- int: 预测的分类标签。
|
||||
"""
|
||||
def calculate_distance(row):
|
||||
return np.sum((row - input_vector) ** 2)
|
||||
|
||||
# 使用多线程加速距离计算
|
||||
with ThreadPoolExecutor() as executor:
|
||||
distances = list(executor.map(calculate_distance, dataSet))
|
||||
if distance_metric == 'euclidean':
|
||||
# 欧氏距离
|
||||
distances = np.linalg.norm(dataSet - input_vector, axis=1)
|
||||
elif distance_metric == 'manhattan':
|
||||
# 曼哈顿距离
|
||||
distances = np.sum(np.abs(dataSet - input_vector), axis=1)
|
||||
|
||||
# 使用KD树加速最近邻查找
|
||||
tree = KDTree(dataSet)
|
||||
dist, indices = tree.query(input_vector.reshape(1, -1), k=k)
|
||||
|
||||
# 获取距离最近的 k 个样本的索引
|
||||
nearest_neighbors_indices = np.argsort(distances)[:k]
|
||||
# 获取这些样本的标签
|
||||
nearest_labels = np.array(labels)[nearest_neighbors_indices]
|
||||
# 统计出现次数最多的标签并返回
|
||||
predicted_label = np.bincount(nearest_labels).argmax()
|
||||
nearest_labels = np.array(labels)[indices[0]]
|
||||
|
||||
if weighted:
|
||||
# 使用距离的倒数作为权重
|
||||
weights = 1 / (dist[0] + 1e-5) # 避免除以0
|
||||
label_weights = {}
|
||||
|
||||
for i, label in enumerate(nearest_labels):
|
||||
label_weights[label] = label_weights.get(label, 0) + weights[i]
|
||||
|
||||
# 返回加权得分最高的标签
|
||||
predicted_label = max(label_weights, key=label_weights.get)
|
||||
else:
|
||||
# 直接使用多数投票
|
||||
predicted_label = np.bincount(nearest_labels).argmax()
|
||||
|
||||
return predicted_label
|
||||
|
||||
# 这里也写自己的代码实现
|
||||
|
||||
def load_dataset(directory):
|
||||
"""
|
||||
从文件夹中加载数据,若不自行正确实现,则无法通过评测,**不记录成绩**。
|
||||
|
||||
从文件夹中加载数据,若不自行正确实现,则无法通过评测,不记录成绩。
|
||||
|
||||
Args:
|
||||
- directory (str): 数据文件夹路径。
|
||||
|
||||
|
||||
Returns:
|
||||
- np.array: 特征数据。
|
||||
- np.array: 标准化后的特征数据。
|
||||
- np.array: 标签数据。
|
||||
"""
|
||||
labels = []
|
||||
data_list = []
|
||||
filenames = [os.path.join(directory, f) for f in os.listdir(directory) if f.endswith(".txt")]
|
||||
|
||||
for filename in filenames:
|
||||
label = int(os.path.basename(filename).split('_')[0])
|
||||
labels.append(label)
|
||||
vector = img_to_vector(filename)
|
||||
data_list.append(vector)
|
||||
for filename in os.listdir(directory):
|
||||
if filename.endswith(".txt"): # 确保读取的是 txt 文件
|
||||
label = int(filename.split('_')[0])
|
||||
labels.append(label)
|
||||
vector = img_to_vector(os.path.join(directory, filename))
|
||||
data_list.append(vector)
|
||||
|
||||
return np.array(data_list), np.array(labels)
|
||||
data_array = np.array(data_list)
|
||||
|
||||
# 标准化数据
|
||||
scaler = StandardScaler()
|
||||
scaled_data = scaler.fit_transform(data_array)
|
||||
|
||||
return scaled_data, np.array(labels)
|
||||
|
||||
|
||||
# 这里还写自己的代码实现
|
||||
def img_to_vector(filename):
|
||||
"""
|
||||
将二值图像转换为向量。
|
||||
该部分应为 load_dataset 函数的辅助子函数,可单独在这里实现,也可直接集成至 load_dataset 函数中。
|
||||
|
||||
将二值图像转换为向量。该部分应为 load_dataset 函数的辅助子函数,可单独在这里实现,也可直接集成至 load_dataset 函数中。
|
||||
|
||||
Args:
|
||||
- filename (str): 图像文件路径。
|
||||
|
||||
|
||||
Returns:
|
||||
- np.array: 二值图像向量。
|
||||
"""
|
||||
with open(filename, 'r') as f:
|
||||
with open(filename, 'r') as f: # 确保使用文本模式读取
|
||||
lines = f.readlines()
|
||||
vector = np.zeros((1024,), dtype=np.uint8) # 使用更小的类型节省内存
|
||||
|
||||
vector = np.zeros((1024,), dtype=int) # 将其改为 (1024,) 的一维数组
|
||||
|
||||
for i in range(32):
|
||||
for j in range(32):
|
||||
vector[32 * i + j] = int(lines[i][j])
|
||||
|
||||
return vector
|
||||
|
||||
|
||||
|
||||
Reference in New Issue
Block a user