PyTorch
在使用AutoModelForCausalLM加载本地的HuggingFace .safetensors模型时，Jupyter内核崩溃
我正在尝试在JupyterLab中使用transformers加载一个本地的大型Hugging Face模型（./ltx-2-19b-dev.safetensors，.safetensors格式），但在from_pretrained() 调用时内核会立即崩溃，且没有任何Python回溯信息。 当我运行这段代码时： from transformers import AutoModelForCausalLM, AutoTokenizer model_id = "./ltx-2-19b-dev.safetens
如何在Python子进程中稳健地捕获PyTorch的 GPU内存不足（OOM）异常，并在一个自主AI代理循环中动态调整批量大小？
我正在构建一个自治AI代理（负责管理训练工作流），它会自动生成PyTorch/OpenMMLab的训练脚本，并在后台子进程中执行它们。 代理常见的问题之一是 RuntimeError: CUDA out of memory。目前，代理从 subprocess.Popen 的标准错误输出读取，解析堆栈跟踪，并重写配置文件以将 batch_size 减半。 然而，子进程有时会在GPU上留下僵死的CUDA进程或未释放的内存，导致后续的自动重试直接失败。 当前简化的做法： import subprocess im
如何在英特尔显卡上使用NeuralForecast和 PyTorch Lightning（XPU / torch.xpu）？
PyTorch通过 torch.xpu 支持英特尔GPU，但PyTorch Lightning目前还没有内置的XPU加速支持。 因为NeuralForecast在内部使用Lightning，这也阻碍了它在原生XPU上的运行。 我想要一个最小可用的解决方案，适用于： PyTorch Lightning Trainer Nixtla NeuralForecast native torch.xpu 一块英特尔GPU / 单个XPU设备 不使用IPEX 现在最小、最干净的可行变通方案是什么？ 解决方案 对于单个英
PyTorch在保存模型时会保存批量大小：我该如何保存模型，才能一次输入一张图像？
我在使用PyTorch Ignite以便更容易地获取指标，因此我在使用他们的检查点系统来保存我的模型。 我想在用户界面中实现一次测试一张图片，但当我尝试这样做时，我会得到一个 RuntimeError: mat1 and mat2 shapes cannot be multiplied (32x841 and 26912x3364)w 当我输入一个完整的批次时。 如何保存/加载模型，以便能够一次输入一张图片？ 模型代码： class myCNN(nn.Module): def __init__(self)
通过pybind11从 C++绑定返回torch::Tensor时，Python会出现段错误
我有来自一个设备的数据，这些数据在Python中以数组的形式捕获，然后发送到一个C++绑定，以加速一些后处理，这些后处理必须先对数据进行正确格式化，并通过大量迭代任务将其转换为一个 torch.Tensor，再用 libtorch 进行最终转换成张量。我正在使用 pybind11 将C++函数绑定到Python。 我已经在C++实现中测试了这个函数（processing），它确实能够正确处理我的数据并创建具有正确形状和数据的张量，但在从绑定返回时，在C++ -> Python边界上出现了一些奇怪的内存问题
在网速非常慢的情况下，通过pip3安装带CUDA的 PyTorch
我在一个Python环境中执行以下命令： pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu132 --timeout=1000 --retries=50 一个小时后我得到了以下输出： error: incomplete-download × Download failed because not enough bytes were received (172.6 MB/227.4 MB) 然后我必须
汇集全球数千款 AI 工具，每日持续更新，配套 AI 开发学习资源，轻松用 AI 提升工作效率。快捷键 Ctrl+D/⌘+D 一键收藏本站。