深度学习进阶
三、深度学习进阶
- 模型压缩与加速
- 知识蒸馏（Knowledge Distillation）
- 剪枝（Pruning）、量化（Quantization）
- 模型部署（ONNX、TensorRT）
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 一只大笨熊！
相关推荐
2025-06-19
深度学习基础知识总结
...
2025-06-19
自然语言处理知识点
自然语言处理（NLP） 词嵌入（Word2Vec、GloVe、FastText） 文本分类与序列标注（BiLSTM-CRF） 预训练语言模型微调技巧
2025-06-19
大模型各种算子手撕（实现）
注意力机制的代码实现- 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394import torchimport torch.nn as nnimport torch.nn.functional as Fimport math# 1. 单头注意力机制（ScaledDotProductAttention）class DotProductAttention(nn.Module): def __init__(self, d_k): super().__init__() self.d_k = d_k def forward(self, query, key, value, mask=None): scores =...
2025-06-19
Python的ACM模式输出入
输入 1. 单行输入多个整数 12nums = list(map(int, input().split()))print(sum(nums)) 2.多行输入(行数n未知) 12345678910111213# 方法1while True: try: nums = list(map(int, input().split())) print(sum(nums)) except EOFError: break# 方法2import sysfor line in sys.stdin: nums = list(map(int, line.split())) print(sum(nums)) 3.多行输入（行数n已知） 1234t = int(input())for _ in range(t): nums = list(map(int, input().split())) print(sum(nums)) 4. 多个测试用例，每个测试用例包含多行数据 123456t = int(input())for _ in...
2025-06-19
机器学习各种算法手撕（实现）
1. 手撕 k-means 算法 1234567891011121314151617181920212223242526272829303132333435import numpy as npimport matplotlib.pyplot as pltdef kmeans(data, K, max_iterations=100): # 随机初始化K个簇中心点 centers = data[np.random.choice(data.shape[0], K, replace=False)] # 迭代更新中心点 for _ in range(max_iterations): # 计算每个样本到各个中心点的距离 distances = np.linalg.norm(data[:, None] - centers, axis=2) # 等价于distances = np.linalg.norm(X[:, np.newaxis, :] - centers, axis=2) # 分配每个数据点到最近的簇 labels =...
2025-06-19
深度学习各种算法手撕（实现）
评论
