En los últimos años, hemos visto un amplio uso de aplicaciones de Inteligencia Artificial (IA) en Internet y en todas partes. El Procesamiento de Lenguaje Natural y el Aprendizaje Automático son subcampos importantes de la IA que han hecho posible los Chatbots y las aplicaciones de IA Conversacional. Estos algoritmos se construyen basándose en datos históricos para crear modelos de lenguaje; sin embargo, los datos históricos podrían ser intrínsecamente discriminatorios. Este artículo investiga si una IA Conversacional podría identificar lenguaje ofensivo y mostrará cómo los modelos de lenguaje grandes a menudo producen un comportamiento poco ético debido al sesgo en los datos históricos. Nuestra prueba de concepto a bajo nivel presentará los desafíos para detectar lenguaje ofensivo en las redes sociales y discutirá algunos pasos para propiciar resultados sólidos en la detección de lenguaje ofensivo y comportamiento poco ético utilizando una IA Conversacional.