Los lectores habituales de este blog sabrán que desde 2019 he estado trabajando en proyectos sobre el desarrollo de chatbots para la orientación profesional, en particular para proporcionar acceso a la información del mercado laboral. El primer proyecto, CiCi, fue financiado por la Fundación Nesta del Reino Unido y el segundo es un proyecto europeo Erasmus+, CareerBot. Ambos tienen un diseño híbrido, con diálogos guionizados que incorporan una cantidad limitada de IA, en forma de Procesamiento del Lenguaje Natural. Pero desde el inicio de estos proyectos se ha producido el lanzamiento de la IA Generativa, inicialmente a través del lanzamiento de ChatGPT de OpenAI en noviembre de 2022. La IA Generativa, con su capacidad para crear contenidos nuevos y originales, ha sido aclamada como un potencial cambio de juego en el campo de la orientación profesional. Sin embargo, su aplicación plantea a la vez posibilidades interesantes y retos significativos que requieren una cuidadosa consideración. Los posibles sesgos, la falta de conexión humana y la excesiva dependencia de la automatización hacen necesario un examen crítico de las implicaciones de esta tecnología.
A pesar de estas preocupaciones, ha habido un creciente interés y se han realizado pruebas piloto de los posibles usos de la IA Generativa en la orientación profesional:
Exploración profesional personalizada: Las herramientas de IA pueden analizar grandes cantidades de datos del mercado laboral, como descripciones de puestos de trabajo, requisitos de cualificación y tendencias salariales, para generar perspectivas personalizadas sobre trayectorias profesionales adecuadas a las capacidades, intereses y aptitudes individuales. Esto puede ayudar a las personas, especialmente a las que no están familiarizadas con las opciones profesionales, a explorar diversas posibilidades y tomar decisiones informadas.
Desarrollo interactivo de habilidades: Los chatbots impulsados por IA pueden simular escenarios profesionales del mundo real, proporcionando información personalizada sobre entrevistas de trabajo, negociaciones salariales e interacciones en redes (Gauthier, 2023). Esto fomenta el desarrollo de habilidades prácticas en un entorno seguro y dinámico, preparando a las personas para encuentros reales con confianza.
Creación y entrega de contenidos: Las herramientas de IA pueden generar currículos personalizados, cartas de presentación y materiales de preparación de entrevistas adaptados a descripciones de trabajo específicas. Esto puede ahorrar tiempo y mejorar la eficacia de las solicitudes de empleo, especialmente para las personas con recursos o habilidades de escritura limitados.
Perspectivas profesionales basadas en datos: La IA puede analizar las tendencias en las ofertas de empleo, los requisitos de cualificación y los rangos salariales en diversos sectores, proporcionando orientación en tiempo real sobre las competencias más demandadas, los campos emergentes y las posibles trayectorias profesionales.
Esta información permite a las personas tomar decisiones profesionales con conocimiento de causa, en consonancia con la realidad del mercado, y preparar sus competencias para el futuro.
Orientación accesible: Las herramientas basadas en IA pueden ofrecer orientación profesional 24 horas al día, 7 días a la semana, superando las limitaciones geográficas y de tiempo. Esto puede ser especialmente beneficioso para las personas que se encuentran en lugares remotos o con acceso limitado a los servicios de orientación tradicionales, garantizando un acceso equitativo a la exploración y preparación de la carrera.
Desventajas de la IA generativa en la orientación profesional:
Sesgo algorítmico: los modelos de IA entrenados con datos sesgados pueden perpetuar las prácticas discriminatorias en las recomendaciones de empleo, exacerbando las desigualdades existentes en el mercado laboral. Una cuidadosa selección de datos y estrategias de mitigación de sesgos son cruciales para garantizar una orientación profesional justa y equitativa, teniendo en cuenta factores como el género, la raza y el origen socioeconómico.
Falta de conexión humana y empatía: Aunque la IA puede proporcionar información valiosa y automatizar tareas, no puede replicar la inteligencia emocional y la comprensión matizada que ofrecen los asesores profesionales humanos. El elemento humano sigue siendo esencial para fomentar la confianza, la empatía y la motivación en el proceso de orientación, proporcionando apoyo emocional y navegando transiciones profesionales sensibles.
Dependencia excesiva de la automatización: La dependencia excesiva de las herramientas de IA puede obstaculizar el pensamiento crítico y la capacidad de toma de decisiones de las personas. Es fundamental encontrar un equilibrio entre la utilización de la IA para mejorar la eficiencia y el fomento de la autonomía y la autorreflexión individuales. Los individuos deben evaluar críticamente las recomendaciones generadas por la IA y desarrollar las habilidades para tomar decisiones informadas basadas en sus valores y aspiraciones únicos.
Transparencia y capacidad de explicación: La naturaleza de «caja negra» de algunos algoritmos de IA plantea problemas de transparencia y explicabilidad. Las personas necesitan comprender los fundamentos de las recomendaciones generadas por la IA para tomar decisiones informadas y evitar el exceso de confianza en los resultados automatizados. La transparencia ayuda a generar confianza y permite a las personas identificar posibles sesgos en los algoritmos.
Creatividad e innovación limitadas: Aunque la IA puede procesar información y generar texto, actualmente carece de verdadera creatividad y pensamiento innovador . La orientación profesional debería fomentar la exploración de los puntos fuertes únicos.
Las siguientes ideas se han presentado como recomendaciones para una integración responsable y eficaz de la IA en la práctica de la orientación profesional:
Desarrollar directrices éticas: Unos marcos éticos sólidos y unas directrices claras para el uso de la IA en la orientación profesional son cruciales para garantizar un desarrollo y una aplicación responsables. Estas directrices deben abordar la parcialidad, la transparencia, la responsabilidad y la privacidad de los datos, dando prioridad a la justicia y al acceso equitativo a las oportunidades profesionales (Comisión Europea, 2023).
Enfoque Human-in-the-Loop: Las herramientas de IA deben emplearse como complementos, no como sustitutos, de los asesores profesionales humanos. La integración efectiva implica aprovechar la IA para tareas específicas, como el análisis de datos y la generación de contenidos, reservando la toma de decisiones complejas, el apoyo emocional y el coaching personalizado para profesionales cualificados. Este enfoque «humano en el bucle» garantiza un equilibrio entre la automatización y la experiencia humana, maximizando los beneficios de ambos mundos.
Fomentar el pensamiento crítico: La orientación profesional debe dotar a las personas de habilidades de pensamiento crítico para evaluar e interpretar la información generada por la IA. Esto incluye la comprensión de los algoritmos, sus limitaciones y posibles sesgos, fomentando la toma de decisiones informadas y evitando una dependencia excesiva de la automatización. Los programas y recursos educativos pueden ayudar a las personas a desarrollar habilidades de pensamiento crítico en el contexto de la exploración y planificación de carreras.
Evaluación y mejora continuas: El uso de la IA en la orientación profesional debe someterse a una evaluación y mejora continuas. Esto incluye la supervisión de posibles sesgos, la evaluación de la eficacia de las herramientas de IA para lograr los resultados deseados y la incorporación de los comentarios de los usuarios y las partes interesadas. La evaluación periódica garantiza un desarrollo ético y responsable, adaptándose a las necesidades cambiantes de las personas y del mercado laboral.
Es evidente que el avance de la IA generativa plantea problemas a quienes desarrollan chatbots en el ámbito de la educación, incluida la orientación profesional. El desarrollo de nuevos chatbots basados en la IA generativa requiere recursos considerables. Esto no sólo se debe al tiempo y al esfuerzo de desarrollo necesarios, sino también al coste de las aplicaciones de IA Generativa. Aunque un reciente lanzamiento de herramientas de desarrollo para aplicaciones de IA Generativa facilita mucho la producción de Chatbots basados en la GPT4 de OpenAI, el coste de estas aplicaciones basadas en tokens para su acceso y uso es prohibitivo. Sin embargo, es evidente que las expectativas de los usuarios potenciales, especialmente entre los jóvenes, han aumentado tras el lanzamiento de ChatGPT. El JISC británico ha financiado una evaluación de las aplicaciones educativas existentes basadas en la IA. Al examinar el elogiado chatbot Ada desarrollado por el Bolton College (Web, 2023) ,
llegaron a la conclusión de que los estudiantes esperaban ahora poder utilizar el lenguaje natural para «chatear» con esas aplicaciones y decidieron no seguir adelante con la investigación sobre Ada. Dijeron:
El enfoque del chatbot utilizado en este proyecto piloto se basaba en un chatbot «tradicional»-.... vimos que sería necesario seguir trabajando, añadiendo más preguntas y respuestas, para alcanzar un nivel más útil de tasa de respuesta. Se trata de una actividad ardua y lenta que creemos que puede resolverse parcialmente con los chatbots de IA generativa, que deberían ser capaces de responder a las preguntas basándose en documentos y fuentes de información existentes sin necesidad de curar manualmente los conjuntos de preguntas." "Un enfoque de IA generativa cambia completamente la experiencia del usuario, de modo que el usuario puede chatear con el bot de una manera muy natural, hacer preguntas de seguimiento, hacer preguntas de muchas maneras diferentes y siempre obtener una respuesta bastante natural. Esto es muy diferente a la experiencia con un chatbot tradicional, con su conjunto de entrenamiento mucho más limitado. Las expectativas de los usuarios, por tanto, han cambiado, y el enfoque utilizado en este piloto ya no se ajustaría a la visión que tienen los usuarios de la capacidad de un chatbot". La conclusión fue no seguir adelante con el enfoque utilizado en este piloto y observar la tecnología de chatbot en los próximos meses para decidir los siguientes pasos.
"Un enfoque de IA generativa cambia por completo la experiencia del usuario, que puede chatear con el bot de forma muy natural, hacer preguntas de seguimiento, formular preguntas de muchas formas distintas y obtener siempre una respuesta bastante natural. Esto es muy diferente a la experiencia con un chatbot tradicional, con su conjunto de entrenamiento mucho más limitado. Las expectativas de los usuarios, por tanto, han cambiado, y el enfoque utilizado en este piloto ya no se ajustaría a la visión que tienen los usuarios de la capacidad de un chatbot". La conclusión fue no seguir adelante con el enfoque utilizado en este piloto y observar la tecnología de chatbot en los próximos meses para decidir los siguientes pasos.«Es probable que se trate de orientaciones sobre cómo utilizar eficazmente en las instituciones los chatbots preexistentes con grandes modelos lingüísticos, en lugar de crear nosotros una herramienta, pero esto se aclarará con bastante rapidez» (ibid). La última versión de GPT4 permite a los usuarios crear personajes (por ejemplo, un asesor profesional) que pueden guardarse y reutilizarse.
En enero de este año, el servicio austriaco de orientación profesional, AMS, lanzó un chatbot llamado BerufsInformat.No tardó en llamar la atención, pero no de la forma que el servicio pretendía.
Un artículo del periódico tirolés Wirtschaft se titulaba «Curso de antisexismo para la información profesional de la IA del AMS».
Traducción realizada con la versión gratuita del traductor DeepL.com
Tras las críticas recibidas por los consejos profesionales estereotipados de una IA para jóvenes, se han hecho ajustes. El consejo de administración de AMS sigue centrándose en «Berufsinfomat»: «Tras las críticas por los estereotipos de género en los consejos profesionales de una IA para jóvenes, se han hecho ajustes». La junta directiva de AMS sigue centrándose en «Berufsinfomat».
Innsbruck, Viena - «Las preguntas estúpidas reciben respuestas estúpidas», explica el director de la AMS, Johannes Kopf. Si quieres convertirte en recogedor de narices, te informan sobre un convenio colectivo para perforadores. Pero, al parecer, la «inteligencia artificial» del sitio web de la AMS también aconseja a las mujeres de forma diferente a los hombres. Kopf es ahora demasiado consciente de que el programa basado en ChatGPT tiene sus puntos débiles. Sin embargo, las respuestas estereotipadas por sexos no se probaron de antemano.
"No probamos cuando tecleas: Soy una chica (o un chico): ¿Qué me aconsejas que haga?". Pero como «nuestro mundo tiene un sesgo de género, el infomat profesional también es discriminatorio», dice Kopf. «Pero se nos criticó con razón», dice el miembro de la junta directiva de la AMS. Las críticas se disiparon y el sistema mejoró.
La AMS también se ocupa mucho de las nuevas tecnologías porque «constantemente nos preguntan qué impacto tienen estas tecnologías en el mercado laboral», dice Kopf.
Se desarrolló para su uso en la orientación profesional. El grupo destinatario de la llamada «herramienta de adquisición de información» son los jóvenes.
En otras palabras, alumnos que quieren saber qué puestos de trabajo hay disponibles. Y qué formación se requiere para ellos. Los expertos en carreras profesionales de la AMS tienen dificultades para llegar sobre todo a los estudiantes de secundaria, y Kopf espera utilizar la herramienta para «captar» a jóvenes con afinidad por Internet. «Nunca se ofrece suficiente información sobre carreras profesionales», dice Kopf: «Algunos jóvenes dedican más tiempo a elegir su nuevo teléfono móvil que a elegir una carrera».
La tan discutida herramienta tampoco tiene nada que ver con asesorar a los parados u ofrecer reciclaje profesional. Debería ser simplemente un impulso para elegir una carrera. Los jóvenes deben simplemente ser más conscientes del mercado laboral. Por ello, la herramienta recomienda constantemente: «Si quieres saber más, ven al Biz (centro de información profesional, nota)».
Como el programa es un modelo lingüístico, las respuestas a las preguntas se dan en todos los idiomas habituales.«Para nosotros era importante que el centro de información profesional fuera lo más accesible posible», dice Kopf.También hay respuestas a preguntas como:
«¿Cómo me convierto en Arnold Schwarzenegger?». La herramienta de inteligencia artificial responde, lógicamente, con: Schwarzenegger fue culturista, actor y político. Así que la pregunta puede continuar.
El bot AMS está disponible en diferentes idiomas (mediante traducción automática) y su uso es gratuito.
Se están lanzando más aplicaciones. Una consulta rápida con la IA de Google dio los siguientes ejemplos:
MyStrength: Esta app utiliza la IA para ayudar a los usuarios a identificar sus puntos fuertes e intereses, y luego emparejarlos con carreras que encajen bien. MyStrength también proporciona a los usuarios recursos de aprendizaje personalizados y apoyo para ayudarles a alcanzar sus objetivos profesionales.
Pathful: Esta app utiliza IA para ayudar a los usuarios a encontrar y conectar con mentores en su campo de interés. Los mentores pueden proporcionar una valiosa orientación y apoyo para ayudar a los usuarios a alcanzar sus objetivos profesionales.
Ambas parecen hacer lo que Gemini dice que hacen.
Pero la tercera sugerencia fue Métl.
Métl: esta aplicación utiliza la inteligencia artificial para ayudar a los usuarios a desarrollar su inteligencia emocional. La Inteligencia Emocional es esencial para el éxito en muchas carreras, y Métl proporciona a los usuarios comentarios y ejercicios personalizados para ayudarles a mejorar su Inteligencia Emocional.
La url proporcionada por Gemini para Métl enlaza con un artículo de Physcology titulado «Beyond emotional intelligence: El nuevo constructo de la meta-inteligencia emocional".
Gemini señala que, a medida que la tecnología de IA generativa siga desarrollándose, cabe esperar que en el futuro surjan aplicaciones aún más innovadoras y eficaces. Pero advierte que la IA generativa no sustituye a los orientadores profesionales humanos. Sin embargo, puede ser una herramienta valiosa para complementar el asesoramiento y el apoyo de los orientadores.
El Berufsinfomat austriaco puede mostrar el camino a seguir, aunque es obvio que se necesita un mayor desarrollo y unos guardarraíles más sólidos. Una de mis principales preocupaciones con respecto a la IA Generativa en el desarrollo de carreras, como en otras áreas de la educación, es el coste del desarrollo. Es de esperar que la creciente disponibilidad de grandes modelos lingüísticos de código abierto reduzca el coste, pero si queremos desarrollar enfoques pedagógicos convincentes para el uso de la IA Generativa, necesitamos experimentos con aplicaciones desarrolladas en colaboración con los educadores. Por el momento, la escena está dominada por las grandes corporaciones: OpenAi, Microsoft, Google y similares.
Rick Payne and team / Better Images of AI / Ai is… Banner / CC-BY 4.0
