Evaluar la inteligencia artificial es una tarea desafiante, ya que requiere una definición operativa de la inteligencia y las métricas para cuantificarla, incluyendo, entre otros factores, los impulsores económicos, dependiendo de dominios específicos. Desde el punto de vista de la investigación básica en inteligencia artificial, la capacidad de jugar un juego contra un humano ha sido adoptada históricamente como un criterio de evaluación, ya que la competencia puede ser caracterizada por un enfoque algorítmico. A partir de finales de la década de 1990, la implementación de hardware sofisticado identificó una mejora significativa en la capacidad de una máquina para jugar y ganar juegos populares. A pesar de la espectacular victoria de Deep Blue de IBM sobre Garry Kasparov, muchas objeciones aún persisten. Esto se debe a que no está claro cómo este resultado se puede aplicar para resolver problemas del mundo real o simular habilidades humanas, por ejemplo, el sentido común, y también exhibir una forma de inteligencia artificial generalizada. Una evaluación basada únicamente en la capacidad de jugar juegos, incluso cuando se enriquece con la capacidad de aprender reglas complejas sin ninguna supervisión humana, está destinada a ser insatisfactoria. Dado que Internet ha cambiado drásticamente los hábitos culturales y la interacción social de los usuarios, quienes intercambian continuamente información con agentes inteligentes, es bastante natural considerar la cooperación como el siguiente paso en la evaluación de software de inteligencia artificial. Aunque este concepto ya ha sido explorado en la literatura científica en los campos de la economía y las matemáticas, su consideración en la inteligencia artificial es relativamente reciente y generalmente abarca el estudio de la cooperación entre agentes. Este artículo se centra en problemas más complejos que involucran heterogeneidad (específicamente, la cooperación entre humanos y agentes de software, o incluso robots), que se investigan teniendo en cuenta cuestiones éticas que surgen durante los intentos de lograr un objetivo común compartido por ambas partes, con un posible resultado de conflicto o punto muerto. La contribución de esta investigación consiste en identificar aquellos factores (confianza, autonomía y aprendizaje cooperativo) en los que basar pautas éticas en la programación de software de agentes, haciendo de la cooperación un punto de referencia más adecuado para aplicaciones de inteligencia artificial.