使用python的libsvm支持高维输出的向量回归

我想问一下是否有人有想法或示例如何使用libsvm的
python绑定在
python中使用高维输出(多个)进行支持向量回归?我查看了示例,他们都假设输出是一维的. 最佳答案 支持向量机作为数学框架是根据单个预测变量制定的.因此,实现它们的大多数库会将其反映为在其API中使用单个目标变量.

您可以做的是为数据中的每个目标维度训练单个SVM模型.

>在正面,您可以在群集中训练它们,因为每个模型彼此独立
>在负面,子模型将不会共享任何内容,也不会从输入数据结构中单独发现的内容中获益,并且可能需要大量内存来存储模型,因为它们没有共享的中间表示

可以在多任务学习设置中设计SVM的变体以学习一些适合于重用以预测多维目标的基于内核的基本中间表示,但是这在libsvm AFAIK中没有实现.谷歌multi task learning SVM如果你想了解更多.

或者,多层感知器(一种前馈神经网络)可以自然地处理多维结果,因此应该更好地共享跨目标重用的数据的中间表示,特别是如果它们足够深,第一层预先 – 使用自动编码器目标函数以无监督的方式训练.

您可能需要查看http://deeplearning.net/tutorial/,以便对各种神经网络体系结构以及实用工具和示例进行有效介绍,以便有效地实现它们.

点赞