Proponemos y estudiamos un método basado en datos que puede interpolar entre un enfoque clásico y moderno para la clasificación de un tipo de modelos lineales. La clase consiste en combinaciones convexas de un promedio de los clasificadores de la tarea fuente y un clasificador entrenado con los datos limitados disponibles para la tarea objetivo. Derivamos la pérdida esperada de un elemento en la clase con respecto a la distribución objetivo para un modelo generativo específico, proponemos una aproximación computable de la pérdida y demostramos que el elemento de la clase propuesta que minimiza el riesgo aproximado es capaz de explotar un equilibrio natural entre sesgo y varianza en el espacio de tareas en entornos simulados y de datos reales. Concluimos discutiendo futuras aplicaciones, limitaciones y posibles direcciones para investigaciones futuras.